Я здивований, що OpenAI Comms схвалила б це: GPT-5 "віщує рекурсивний цикл самовдосконалення" У рамках готовності OpenAI рекурсивне самовдосконалення є критичним ризиком (якщо з певною швидкістю), який вимагатиме «зупинити подальший розвиток»

Щоб було зрозуміло, це звучить так, ніби Себастьян не описує особливо швидку петлю. Він також говорить про передбачення, а не про те, що він тут сьогодні сам по собі Я все ще був здивований, що OpenAI використовує цей термін щодо свого штучного інтелекту. Потім я зрозумів, що воно також використовується в "The Gentle Singularity"

@CJKRaymond Наприклад, якщо така техніка спричинила значне прискорення генерації моделей (оскільки OAI більше не зв'язаний обмеженими даними штаб-квартири), це відповідало б запізнілому показнику defn У будь-якому випадку, я не кажу, що це небезпечний RSI! Я просто здивований, що OAI не наклала вето на цей опис