Sono sorpreso che OpenAI Comms approverebbe questo: GPT-5 "prefigura un ciclo di auto-miglioramento ricorsivo" Nel Framework di Preparazione di OpenAI, l'auto-miglioramento ricorsivo è un rischio Critico (se a un certo tasso), che porterebbe a "fermare ulteriori sviluppi".

Per essere chiari, sembra che Sebastien non stia descrivendo un loop particolarmente veloce. Sta anche parlando di prefigurazione, non di essere qui oggi per così dire. Ero ancora sorpreso che OpenAI usasse questo termine riguardo alla sua IA. Poi mi sono reso conto che è usato anche in "The Gentle Singularity".

@CJKRaymond Ad esempio, se una tecnica del genere ha causato un grande aumento della velocità nelle generazioni del modello (perché OAI non è più vincolata da dati HQ limitati), questo soddisferebbe la definizione di indicatore ritardato. In ogni caso, non sto dicendo che questo sia un RSI pericoloso! Sono solo sorpreso che OAI non abbia posto il veto a questa descrizione.