Jeg er overrasket over at OpenAI Comms ville godkjenne dette: GPT-5 "varsler en rekursiv selvforbedringssløyfe" I OpenAIs beredskapsrammeverk er rekursiv selvforbedring en kritisk risiko (hvis i en viss hastighet), som vil kreve å "stoppe videre utvikling"

For å være tydelig, høres det ut som Sebastien ikke beskriver en spesielt rask loop. Han snakker også om forvarsel, ikke å være her i dag i seg selv Jeg var fortsatt overrasket over at OpenAI ville bruke dette begrepet om sin AI. Så skjønte jeg at det også brukes i "The Gentle Singularity"

@CJKRaymond For eksempel, hvis en teknikk som dette forårsaket en stor hastighetsøkning i modellgens (fordi OAI ikke lenger er bundet av begrensede HQ-data), ville det oppfylle etterslepindikatoren defn Uansett sier jeg ikke at dette er en farlig RSI! Jeg er bare overrasket over at OAI ikke la ned veto mot denne beskrivelsen