Tantos marcos y predicciones a largo plazo sobre la AGI terminan siendo extrapolaciones ingenuas de modelos altamente reductivos del mundo, la economía, el poder, la gobernanza, la inteligencia y la difusión tecnológica (nada menos). Pero la alineación no es solo un problema técnico de extracción de preferencias y seguimiento de instrucciones, y la automatización no conduce inevitablemente a la desposesión; ambos son también un desafío socio-técnico de diseño institucional y gobernanza. Este es un proceso continuo y es decepcionante que tantas opiniones sobre el lado determinista total o el de los aceleracionistas simplemente desestimen la agencia, la política y las instituciones como triviales/inconvenientes, o incapaces de adaptarse y lidiar con los compromisos. Esto no significa que la imagen siempre sea optimista, sino que deberías ponderar la incertidumbre y la agencia más en tus profecías.