Jag är förvånad över att OpenAI Comms skulle godkänna detta: GPT-5 "förebådar en rekursiv självförbättringsloop" I OpenAI:s beredskapsramverk är rekursiv självförbättring en kritisk risk (om det är i en viss takt), vilket skulle uppmana till att "stoppa ytterligare utveckling"

För att vara tydlig låter det som att Sebastien inte beskriver en särskilt snabb loop. Han pratar också om att förebåda, att inte vara här i dag i sig Jag var dock fortfarande förvånad över att OpenAI skulle använda denna term om sin AI. Sen insåg jag att det också används i "The Gentle Singularity"

@CJKRaymond Till exempel, om en teknik som denna orsakade en stor ökning av modellgens (eftersom OAI inte längre är bunden av begränsade HQ-data), skulle det uppfylla eftersläpningsindikatorn defn Hur som helst, jag säger inte att detta är en farlig RSI! Jag är bara förvånad över att OAI inte lade in sitt veto mot denna beskrivning