Zoveel kaders en langetermijnvoorspellingen over AGI blijken vaak naïeve extrapolaties te zijn van sterk reductieve modellen van de wereld, economie, macht, governance, intelligentie en technologische diffusie (niet minder). Maar afstemming is niet alleen een technisch probleem van voorkeurextractie en instructievolging, en automatisering leidt niet onvermijdelijk tot ontkrachtiging; beide zijn ook een sociaal-technische uitdaging van institutioneel ontwerp en governance. Dit is een continu proces en het is teleurstellend dat zoveel opvattingen aan zowel de volledig deterministische doomer- als de acceleratistische kant agency, politiek en instellingen als triviaal/onhandig afdoen, of als niet in staat om zich aan te passen en om te gaan met afwegingen. Dit betekent niet dat het plaatje altijd rooskleurig is, maar dat je onzekerheid en agency meer moet meewegen in je profetieën.