Saya terkejut bahwa OpenAI Comms akan menyetujui ini: GPT-5 "meramalkan loop perbaikan diri rekursif" Dalam Kerangka Kesiapsiagaan OpenAI, peningkatan diri rekursif adalah risiko kritis (jika pada tingkat tertentu), yang akan menyerukan untuk "menghentikan pengembangan lebih lanjut"

Untuk lebih jelasnya, sepertinya Sebastien tidak menggambarkan loop yang sangat cepat. Dia juga berbicara tentang bayangan, tidak berada di sini hari ini Saya masih terkejut OpenAI akan menggunakan istilah ini tentang AI-nya. Kemudian saya menyadari itu juga digunakan dalam "The Gentle Singularity"

@CJKRaymond Misalnya, jika teknik seperti ini menyebabkan percepatan besar dalam gen model (karena OAI tidak lagi terikat oleh data HQ yang terbatas), itu akan memenuhi indikator lagging defn Apa pun itu, saya tidak mengatakan ini adalah RSI yang berbahaya! Saya hanya terkejut bahwa OAI tidak memveto deskripsi ini