Me sorprende que OpenAI Comms aprobara esto: GPT-5 "presagia un bucle de auto-mejora recursiva" En el Marco de Preparación de OpenAI, la auto-mejora recursiva es un riesgo crítico (si se da a cierta tasa), lo que llevaría a "detener el desarrollo adicional".

OpenAI afirma haber introducido una nueva función de seguridad para GPT-5, pero OpenAI tiene esta función desde 2021 Me entristece que OpenAI esté insinuando que la crearon para GPT-5, lo cual no es cierto. Es difícil confiar en las Tarjetas del Sistema de las empresas de IA cuando hay un incentivo para exagerar. (hilo)

¡Es bueno escuchar eso!

Gran análisis de @Kantrowitz y @mgsiegler hoy sobre la "Cláusula AGI" de OpenAI-Microsoft, y cómo la 'prohibición de MSFT de perseguir AGI' ha afectado probablemente el mensaje que utilizan ambas compañías, la dilución de las palabras relacionadas con la IA, etc.

OpenAI debería decirlo de manera clara y pública: A veces, los beneficios entrarán en conflicto con la misión sin fines de lucro a la que OpenAI se ha comprometido legalmente. ¿Se verá OpenAI obligada a poner la misión en primer lugar, o su reestructuración eliminará esta obligación?

Esto es un poco hilarante si es cierto Un billón de dólares no es genial. ¿Sabes qué es genial? Optimizar los Reels de Instagram para que sean cada vez más atractivos para los ojos.

Firmando los códigos completos: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Firmando solo 'Seguridad', no 'Derechos de autor' o 'Transparencia': xAI No firma ninguno: Meta

Mark parece pensar que es importante si Meta *dirige* la superinteligencia hacia la automatización masiva del trabajo. Esto no es correcto; si "traes superinteligencia personal a todos" (incluidos los propietarios de negocios), ellos elegirán personalmente automatizar el trabajo de otros, si pueden.

Mark Zuckerberg emitiendo vibras de Singularidad Suave

Es una locura reflexionar sobre las tres competiciones globales de IA que están ocurriendo en este momento: - 1. El liderazgo político de EE. UU. ha convertido la IA en una carrera de prestigio, resonando con la Carrera Espacial. Es genial, importante y estratégico, y van a ganar. - 2. Para el liderazgo chino, la IA es parte de la fuerza económica, el poder blando y la influencia. La tecnología se comparte, las economías en desarrollo se basarán en la tecnología fundamental china, y la economía y las relaciones comerciales chinas crecerán. Debilitar la confianza en un EE. UU. caprichoso es una oportunidad fácil de aprovechar. - 3. Las empresas de AGI están compitiendo por algo que creen que superará a los humanos en todos los aspectos, que aún no saben cómo controlar, y que piensan que podría literalmente matar a todos. Lo más aterrador de todo es que no está claro para los tomadores de decisiones que estas tres cosas están sucediendo en paralelo. Creen que están jugando el mismo juego, pero no lo están.