Jag är förvånad över att OpenAI Comms skulle godkänna detta: GPT-5 "förebådar en rekursiv självförbättringsloop" I OpenAI:s beredskapsramverk är rekursiv självförbättring en kritisk risk (om det är i en viss takt), vilket skulle uppmana till att "stoppa ytterligare utveckling"

OpenAI påstår sig ha introducerat en ny säkerhetsfunktion för GPT-5, men OpenAI har haft denna funktion sedan 2021 Jag är ledsen att OpenAI antyder att de skapade detta för GPT-5, vilket de inte gjorde. Det är svårt att förlita sig på AI-företagens systemkort när det finns incitament att överdriva. (tråd)

Det här är bra att höra!

Bra analys från @Kantrowitz och @mgsiegler idag om OpenAI-Microsofts "AGI-klausul", och hur MSFT:s "förbud mot att förfölja AGI" sannolikt har påverkat de budskap som båda företagen använder, urvattning av AI-ord, etc

OpenAI bör säga det tydligt och offentligt: Ibland kommer vinster att komma i konflikt med det ideella uppdrag som OpenAI juridiskt förbinder sig till. Kommer OpenAI att tvingas sätta uppdraget först, eller kommer dess omstrukturering att ta bort denna skyldighet?

Det här är lite lustigt om det är sant En miljard dollar är inte coolt. Vet du vad som är coolt? Optimera Instagram Reels för att bli ännu mer lockande för ögonen

Underteckna de fullständiga koderna: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Signera bara "Säkerhet", inte "Upphovsrätt" eller "Transparens": xAI Undertecknar inga: Meta

Mark verkar tycka att det är viktigt om Meta *riktar* superintelligens mot massautomatisering av arbete Detta är inte korrekt; Om du "ger personlig superintelligens till alla" (inklusive företagare) kommer de personligen att välja att automatisera andras arbete, om de kan

Mark Zuckerberg ger Gentle Singularity-vibbar

Galet att reflektera över de tre globala AI-tävlingarna som pågår just nu: - 1. USA:s politiska ledarskap har gjort AI till en prestigekapplöpning, som ett eko av rymdkapplöpningen. Det är coolt och viktigt och strategiskt, och de kommer att vinna. - 2. För det kinesiska ledarskapet är AI en del av ekonomisk styrka, mjuk makt och inflytande. Tekniken är gemensam, utvecklingsekonomierna kommer att byggas på kinesisk grundläggande teknik, den kinesiska ekonomin och handelsrelationerna kommer att växa. Att försvaga förtroendet för ett nyckfullt USA är en möjlighet som är lätt att utnyttja. - 3. AGI-företagen tävlar med något som de tror kommer att överträffa människor över hela linjen, som de ännu inte vet hur man kontrollerar och som de tror bokstavligen kan döda alla. Det läskigaste av allt är att det inte alls är klart för beslutsfattarna att dessa tre saker sker parallellt. De tror att de spelar samma spel, men det gör de inte.