Новый эссе, исследующий, почему эксперты так сильно расходятся во мнениях о экзистенциальных рисках от ИИ сверхчеловеческого уровня (ASI), и почему сосредоточение на согласовании как основной цели может быть фундаментальной ошибкой.