Je suis surpris qu'OpenAI Comms approuve cela : GPT-5 "préfigure une boucle d'auto-amélioration récursive" Dans le Cadre de Préparation d'OpenAI, l'auto-amélioration récursive est un risque critique (si à un certain rythme), ce qui appellerait à "arrêter le développement ultérieur".

OpenAI prétend avoir introduit une nouvelle fonctionnalité de sécurité pour GPT-5, mais OpenAI a eu cette fonctionnalité depuis 2021 Je suis triste qu'OpenAI sous-entende qu'ils l'ont créée pour GPT-5, ce qu'ils n'ont pas fait. Il est difficile de se fier aux System Cards des entreprises d'IA lorsqu'il y a un incitatif à exagérer. (fil)

C'est bon à entendre !

Excellente analyse de @Kantrowitz et @mgsiegler aujourd'hui concernant la "Clause AGI" d'OpenAI-Microsoft, et comment l'"interdiction de MSFT de poursuivre l'AGI" a probablement affecté le message utilisé par les deux entreprises, la dilution des mots liés à l'IA, etc.

OpenAI devrait le dire clairement et publiquement : Parfois, les bénéfices entreront en conflit avec la mission à but non lucratif à laquelle OpenAI s'est légalement engagé. OpenAI sera-t-il tenu de mettre la mission en premier, ou sa restructuration supprimera-t-elle cette obligation ?

C'est plutôt hilarant si c'est vrai Un milliard de dollars, ce n'est pas cool. Vous savez ce qui est cool ? Optimiser les Reels Instagram pour les rendre toujours plus attrayants pour les yeux.

Signature des codes complets : Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Signature uniquement de 'Sécurité', pas de 'Droit d'auteur' ou 'Transparence' : xAI Aucune signature : Meta

Mark semble penser qu'il est important que Meta *dirige* la superintelligence vers l'automatisation de masse du travail. Ce n'est pas correct ; si vous "apportez la superintelligence personnelle à tout le monde" (y compris aux propriétaires d'entreprises), ils choisiront personnellement d'automatiser le travail des autres, s'ils le peuvent.

Mark Zuckerberg dégage des vibrations de Singularity Douce

C'est fou de réfléchir aux trois compétitions mondiales en IA qui se déroulent en ce moment : - 1. Les dirigeants politiques américains ont fait de l'IA une course de prestige, faisant écho à la course spatiale. C'est cool, important et stratégique, et ils vont gagner. - 2. Pour les dirigeants chinois, l'IA fait partie de la force économique, du soft power et de l'influence. La technologie est partagée, les économies en développement seront construites sur la technologie fondamentale chinoise, l'économie et les relations commerciales chinoises vont croître. Affaiblir la confiance dans un US capricieux est une opportunité facile à saisir. - 3. Les entreprises d'AGI sont en course pour quelque chose qu'elles pensent pouvoir surpasser l'intelligence humaine dans tous les domaines, qu'elles ne savent pas encore comment contrôler, et qu'elles pensent pourrait littéralement tuer tout le monde. Le plus effrayant, c'est qu'il n'est pas du tout clair pour les décideurs que ces trois choses se produisent en parallèle. Ils pensent qu'ils jouent le même jeu, mais ce n'est pas le cas.