Begitu banyak bingkai dan prediksi jangka panjang tentang AGI akhirnya menjadi ekstrapolasi naif dari model dunia yang sangat reduktif, ekonomi, kekuasaan, tata kelola, kecerdasan, dan difusi teknologi (tidak kurang). Tetapi penyelarasan bukan hanya masalah teknis ekstraksi preferensi dan instruksi yang diikuti, dan otomatisasi tidak mau tidak mau mengarah pada ketidakberdayaan; keduanya juga merupakan tantangan sosial-teknis desain dan tata kelola kelembagaan. Ini adalah proses yang berkelanjutan dan mengecewakan bahwa begitu banyak pandangan tentang malapetaka deterministik penuh atau sisi akselerasionis hanya mengabaikan agensi, politik, dan institusi sebagai sepele/ketidaknyamanan, atau tidak mampu beradaptasi dan berurusan dengan trade-off. Ini tidak berarti gambarannya selalu cerah, tetapi Anda harus mempertimbangkan ketidakpastian dan agensi lebih banyak dalam ramalan Anda.