Ik ben verrast dat OpenAI Comms dit zou goedkeuren: GPT-5 "voorspelt een recursieve zelfverbeteringslus" In OpenAI's Voorbereidingskader is recursieve zelfverbetering een Kritiek risico (als het op een bepaald tempo gebeurt), wat zou oproepen tot "stopzetting van verdere ontwikkeling".

Om duidelijk te zijn, het lijkt erop dat Sebastien niet een bijzonder snelle loop beschrijft. Hij heeft het ook over vooruitblikken, niet per se hier zijn vandaag. Ik was nog steeds verrast dat OpenAI deze term over zijn AI zou gebruiken. Toen realiseerde ik me dat het ook gebruikt wordt in "The Gentle Singularity".

@CJKRaymond Bijvoorbeeld, als een techniek zoals deze een grote versnelling in modelgeneraties veroorzaakte (omdat OAI niet langer gebonden is aan beperkte HQ-gegevens), zou dat voldoen aan de definitie van de achterblijvende indicator. Hoe dan ook, ik zeg niet dat dit een gevaarlijke RSI is! Ik ben gewoon verrast dat OAI deze beschrijving niet heeft afgekeurd.