Så många ramar och långsiktiga förutsägelser om AGI slutar med naiva extrapoleringar av mycket reduktiva modeller av världen, ekonomi, makt, styrning, intelligens och teknologisk spridning (inte mindre). Men anpassning är inte bara ett tekniskt problem för att extrahera preferenser och följa instruktioner, och automatisering leder inte nödvändigtvis till maktlöshet; Båda är också en socio-teknisk utmaning för institutionell utformning och styrning. Detta är en kontinuerlig process och det är en besvikelse att så många åsikter om antingen den fullständiga deterministiska domedagssidan eller den accelerationistiska sidan bara avfärdar agens, politik och institutioner som triviala/obekväma, eller oförmögna att anpassa sig och hantera kompromisser. Det betyder inte att bilden alltid är rosenröd, utan att du bör väga osäkerhet och handlingsfrihet mer i dina profetior.