關於AGI的許多框架和長期預測最終都成為對世界、經濟、權力、治理、智慧和技術擴散（不止如此）高度簡化模型的天真外推。但對齊不僅僅是偏好提取和指令遵循的技術問題，自動化也不一定導致失去權力；這兩者也是制度設計和治理的社會技術挑戰。 這是一個持續的過程，令人失望的是，對於完全決定論的悲觀主義者或加速主義者的許多觀點都只是將代理、政治和機構視為微不足道/不便，或認為它們無法適應和處理權衡。這並不意味著情況總是美好，但你應該在你的預言中更重視不確定性和代理。