Atât de multe cadre și predicții pe termen lung despre AGI sfârșesc prin a fi extrapolări naive ale modelelor extrem de reductive ale lumii, economiei, puterii, guvernanței, inteligenței și difuziei tehnologice (nu mai puțin). Dar alinierea nu este doar o problemă tehnică de extragere a preferințelor și de urmărire a instrucțiunilor, iar automatizarea nu duce inevitabil la lipsă de putere; ambele sunt, de asemenea, o provocare socio-tehnică a designului și guvernanței instituționale. Acesta este un proces continuu și este dezamăgitor că atât de multe puncte de vedere fie de partea deterministă completă, fie de partea acceleraționistă resping agenția, politica și instituțiile ca fiind triviale/inconveniente sau incapabile să se adapteze și să facă față compromisurilor. Asta nu înseamnă că imaginea este întotdeauna roz, ci că ar trebui să cântărești mai mult incertitudinea și libertatea de acțiune în profețiile tale.