Este o dezamăgire că OpenAI a fost mai puțin riguros cu testarea GPT-5 decât cu modelele lor de sistem de operare mult mai slabe. OpenAI are seturile de date disponibile pentru a regla GPT-5 și a măsura mai precis riscurile armelor biologice ale GPT-5; pur și simplu aleg să nu o facă.

Sunt surprins că OpenAI Comms ar aproba acest lucru: GPT-5 "prefigurează o buclă recursivă de auto-îmbunătățire" În cadrul de pregătire al OpenAI, auto-îmbunătățirea recursivă este un risc critic (dacă într-un anumit ritm), care ar necesita "oprirea dezvoltării ulterioare"

OpenAI susține că a introdus o nouă caracteristică de siguranță pentru GPT-5, dar OpenAI are această caracteristică din 2021 Sunt trist că OpenAI sugerează că au creat acest lucru pentru GPT-5, ceea ce nu au făcut. Este greu să te bazezi pe cardurile de sistem ale companiilor de inteligență artificială atunci când există un stimulent pentru a pretinde în exces. (fir)

Credit acolo unde se cuvine: OpenAl a făcut multe lucruri corecte pentru evaluările de siguranță OSS - De fapt, au făcut niște ajustări fine - au primit feedback extern util - au împărtășit ce recomandări au adoptat și care nu Nu urmez întotdeauna raționamentul OAI, dar este grozav că împărtășesc informații

Este bine de auzit!

O analiză excelentă de la @Kantrowitz și @mgsiegler astăzi cu privire la "Clauza AGI" OpenAI-Microsoft și modul în care "interzicerea MSFT de a urmări AGI" a afectat probabil mesajele utilizate de ambele companii, diluarea cuvintelor AI etc

OpenAI ar trebui să o spună clar și public: Uneori, profiturile vor intra în conflict cu misiunea non-profit de care OpenAI s-a obligat legal. Va fi obligat OpenAI să pună misiunea pe primul loc sau restructurarea sa va elimina această obligație?

Acest lucru este oarecum hilar dacă este adevărat Un miliard de dolari nu este cool. Știi ce e mișto? Optimizarea Instagram Reels pentru a fi din ce în ce mai atrăgătoare pentru ochi

Semnarea codurilor complete: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Semnarea doar "Siguranță", nu "Drepturi de autor" sau "Transparență": xAI Nu semnează niciunul: Meta

Este o nebunie să reflectez la cele trei competiții globale de inteligență artificială care se desfășoară chiar acum: - 1. Conducerea politică a SUA a făcut din AI o cursă de prestigiu, ca ecou al cursei spațiale. Este grozav, important și strategic, iar ei vor câștiga. - 2. Pentru conducerea chineză, AI face parte din puterea economică, soft power și influență. Tehnologia este împărtășită, economiile în curs de dezvoltare vor fi construite pe tehnologia fundamentală chineză, economia chineză și relațiile comerciale vor crește. Slăbirea încrederii într-o SUA capricioasă este o oportunitate ușoară de profitat. - 3. Companiile AGI se întrec cu ceva despre care cred că va depăși oamenii în general, pe care nu știu încă cum să-l controleze și cred că ar putea ucide pe toată lumea. Cel mai înfricoșător dintre toate este că nu este deloc clar pentru factorii de decizie că aceste trei lucruri se întâmplă în paralel. Ei cred că joacă același joc, dar nu o fac.