Je suis surpris qu'OpenAI Comms approuve cela : GPT-5 "préfigure une boucle d'auto-amélioration récursive" Dans le Cadre de Préparation d'OpenAI, l'auto-amélioration récursive est un risque critique (si à un certain rythme), ce qui appellerait à "arrêter le développement ultérieur".

Pour être clair, on dirait que Sébastien ne décrit pas une boucle particulièrement rapide. Il parle aussi de préfiguration, pas d'être ici aujourd'hui en tant que tel. J'étais quand même surpris qu'OpenAI utilise ce terme à propos de son IA. Puis j'ai réalisé qu'il est également utilisé dans "The Gentle Singularity".

@CJKRaymond Par exemple, si une technique comme celle-ci a entraîné un grand gain de vitesse dans les générations de modèles (parce qu'OAI n'est plus limité par des données HQ limitées), cela correspondrait à la définition d'un indicateur retardé. Quoi qu'il en soit, je ne dis pas que c'est un RSI dangereux ! Je suis juste surpris qu'OAI n'ait pas opposé son veto à cette description.