Es ist schade, dass OpenAI bei den Tests von GPT-5 weniger rigoros war als bei ihren viel schwächeren OS-Modellen. OpenAI hat die Datensätze, um GPT-5 zu verfeinern und die Biowaffenrisiken von GPT-5 genauer zu messen; sie entscheiden sich einfach dagegen.

Ich bin überrascht, dass OpenAI Comms dies genehmigen würde: GPT-5 "weist auf eine rekursive Selbstverbesserungsschleife hin" In OpenAIs Vorbereitungsrahmen ist rekursive Selbstverbesserung ein kritisches Risiko (wenn es in einem bestimmten Tempo geschieht), was dazu führen würde, "die weitere Entwicklung zu stoppen".

OpenAI behauptet, eine neue Sicherheitsfunktion für GPT-5 eingeführt zu haben, aber OpenAI hat diese Funktion seit 2021. Es macht mich traurig, dass OpenAI andeutet, sie hätten dies für GPT-5 entwickelt, was sie nicht getan haben. Es ist schwer, sich auf die Systemkarten von KI-Unternehmen zu verlassen, wenn es einen Anreiz gibt, übertrieben zu behaupten. (Thread)

Lob, wo es angebracht ist: OpenAI hat viel richtig gemacht bei ihren OSS-Sicherheitsbewertungen - sie haben tatsächlich etwas Feinabstimmung vorgenommen - sie haben nützliche externe Rückmeldungen erhalten - sie haben geteilt, welche Empfehlungen sie angenommen haben und welche nicht Ich folge nicht immer der Argumentation von OAI, aber es ist großartig, dass sie Informationen teilen.

Das ist gut zu hören!

Große Analyse von @Kantrowitz und @mgsiegler heute zur "AGI-Klausel" von OpenAI-Microsoft und wie MSFTs ‚Verbot, AGI zu verfolgen‘ wahrscheinlich die Botschaft beider Unternehmen beeinflusst hat, Verdünnung von KI-Begriffen usw.

OpenAI sollte es klar und öffentlich sagen: Manchmal werden Gewinne mit der gemeinnützigen Mission in Konflikt stehen, zu der sich OpenAI rechtlich verpflichtet hat. Wird OpenAI verpflichtet sein, die Mission an erste Stelle zu setzen, oder wird die Umstrukturierung diese Verpflichtung aufheben?

Das ist irgendwie lustig, wenn es wahr ist. Eine Milliarde Dollar ist nicht cool. Weißt du, was cool ist? Instagram Reels so zu optimieren, dass sie immer verlockender für die Augen sind.

Unterzeichnung der vollständigen Codes: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Unterzeichnung nur von 'Sicherheit', nicht von 'Urheberrecht' oder 'Transparenz': xAI Keine Unterzeichnung: Meta

Es ist verrückt, über die drei globalen KI-Wettbewerbe nachzudenken, die gerade stattfinden: - 1. Die politische Führung der USA hat KI zu einem Prestige-Wettlauf gemacht, der den Weltraumwettlauf widerspiegelt. Es ist cool, wichtig und strategisch, und sie werden gewinnen. - 2. Für die chinesische Führung ist KI Teil der wirtschaftlichen Stärke, der Soft Power und des Einflusses. Technologie wird geteilt, sich entwickelnde Volkswirtschaften werden auf chinesischer Grundlagentechnologie aufgebaut, die chinesische Wirtschaft und die Handelsbeziehungen werden wachsen. Das schwindende Vertrauen in ein launisches Amerika ist eine einfache Gelegenheit, die man nutzen kann. - 3. Die AGI-Unternehmen wetteifern um etwas, von dem sie denken, dass es Menschen in allen Belangen übertreffen wird, was sie noch nicht kontrollieren können und von dem sie denken, dass es buchstäblich alle töten könnte. Am beängstigenden ist, dass es für die Entscheidungsträger überhaupt nicht klar ist, dass diese drei Dinge parallel ablaufen. Sie denken, sie spielen dasselbe Spiel, aber das tun sie nicht.