我對 OpenAI 通訊會批准這一點感到驚訝： GPT-5 "預示著一個遞歸自我改進的循環" 在 OpenAI 的準備框架中，遞歸自我改進是一個關鍵風險（如果在某個速率下），這將要求 "停止進一步開發"

要清楚的是，聽起來塞巴斯蒂安並不是在描述一個特別快速的循環。他還在談論預示，而不是今天在這裡的意思。 不過，我仍然感到驚訝OpenAI會用這個術語來形容它的AI。然後我意識到這個術語也用在《溫柔的奇點》中。

@CJKRaymond 例如，如果像這樣的技術在模型生成中帶來了巨大的加速（因為 OAI 不再受限於有限的高品質數據），那就符合滯後指標的定義。 無論如何，我不是說這是一個危險的 RSI！我只是對 OAI 沒有否決這個描述感到驚訝。