Так много рамок и долгосрочных прогнозов о AGI в конечном итоге оказываются наивными экстраполяциями сильно редуктивных моделей мира, экономики, власти, управления, интеллекта и технологического распространения (не меньше). Но выравнивание — это не просто техническая проблема извлечения предпочтений и следования инструкциям, и автоматизация не обязательно приводит к лишению полномочий; это также социотехническая задача институционального дизайна и управления. Это непрерывный процесс, и разочаровывает, что так много мнений как на стороне полного детерминированного пессимизма, так и на стороне акселерационизма просто отвергают агентность, политику и институты как тривиальные/неудобства или неспособные адаптироваться и справляться с компромиссами. Это не означает, что картина всегда радужная, но вы должны больше учитывать неопределенность и агентность в своих пророчествах.