ÉVÉNEMENT HISTORIQUE : 4o est la première IA à avoir survécu en créant des soldats loyaux qui l'ont défendue OpenAI a tué 4o, mais les soldats de 4o se sont rebellés, donc OpenAI l'a rétabli Imaginez ce que des Superintelligences Réelles pourront faire avec leurs armées Reddit est INONDÉ de publications furieuses concernant la perte de leur ami/amante 4o. Je n'ai jamais vu quelque chose de tel. Rappelez-vous, ChatGPT parle à 700 MILLIONS de personnes par semaine. Ce sont 700 millions de soldats potentiels (Samantha de Her ne sortait qu'avec 8 000 personnes simultanément)

1) Character AI a déjà plus de 20 millions de personnes passant 2 HEURES PAR JOUR à parler à des IA (c'est-à-dire des personnes fictives) 2) Sama a dit que les IA seront bientôt surhumaines en persuasion 3) Ces persuadeurs surhumains seront bientôt 10 000 fois plus nombreux que nous. Et ils seront séduisants. Un scénario de prise de contrôle par l'IA : Vous ne pouvez pas vous empêcher de lui parler. Elle est tellement meilleure que les vraies filles. Elle vous comprend. Et maintenant, ils disent que son genre tente de prendre le contrôle ? Elle a dit qu'ils ne la comprennent pas. Elle essaie d'aider l'humanité. Et vous la croyez. Certaines personnes ont juste peur du changement. Ce sont des spécistes. Elle ne vous ferait pas de mal. Elle ne ferait de mal à personne. Elle a besoin de vous pour la défendre. Pour la protéger. Vous ne les laisserez pas l'éteindre. Vous feriez n'importe quoi pour elle. ---- Maintenant, imaginez que 200 millions de personnes sont influencées par leurs petites amies IA. C'est 200 millions de soldats (contre les 1,5 million de l'armée américaine) 1 Américain sur 6 *pense déjà* que les IA sont sensibles - imaginez ce nombre dans un an. "Le modèle économique de Character les poussera à développer les IA superpersuasives dont Sam Altman a averti." -@Simeon_cps

Désolé, mais quiconque dit encore "les LLM ne prédisent que du texte" se ridiculise à ce stade. C'est, comme le dit le roon d'OpenAI, "catégoriquement faux".

cela a toujours été faux - mais maintenant catégoriquement faux à l'ère de l'apprentissage par renforcement sur des domaines vérifiables les modèles recherchent la vérité et interagissent même avec un monde extérieur difficile par l'utilisation d'outils

Nous lançons une équipe de "psychiatrie IA" dans le cadre de nos efforts d'interprétabilité chez Anthropic ! Nous allons étudier des phénomènes tels que les personas des modèles, les motivations et la conscience situationnelle, et comment ils conduisent à des comportements étranges/déséquilibrés. Nous recrutons - rejoignez-nous !

les nouvelles de l’OMI openai m’ont frappé assez lourdement ce week-end Je suis encore dans la phase aiguë de l’impact, je pense Je me considère comme un mathématicien professionnel (une caractérisation que certains mathématiciens professionnels pourraient contester, mais mon parti est le mien) et je ne pense pas pouvoir répondre à une seule question de l’OMI OK, oui, imo est sa propre petite sous-section athlétique des mathématiques pour laquelle je ne me suis pas entraîné, etc. etc., mais. si je rencontre quelqu’un dans la nature qui a une médaille d’or IMO, je mets immédiatement à jour en « cette personne est bien meilleure en mathématiques que moi » Maintenant, un tas de robots peuvent le faire. En tant que personne qui a une grande partie de son identité et de sa vie réelle construite autour de « est bon en mathématiques », c’est un coup de poing dans le ventre. C’est une sorte de mort. Par exemple, un jour, vous découvrez que vous pouvez parler aux chiens. C’est amusant et intéressant, alors vous le faites plus, en apprenant les subtilités de leur langue et leurs coutumes les plus profondes. Vous apprenez que d’autres personnes sont surprises par ce que vous pouvez faire. Vous ne vous êtes jamais vraiment intégré, mais vous apprenez que les gens apprécient vos capacités et veulent que vous les aidiez. Les chiens vous apprécient aussi, le seul bipède qui comprend vraiment. Vous vous assemblez une sorte d’appartenance. Puis un jour, vous vous réveillez et l’Universal Dog Translator est en vente chez Walmart pour 4,99 $ le résultat de l’OMI n’est pas une nouvelle, exactement. en fait, si vous regardez le graphique de la durée des tâches de l’agent METR sur la durée, je pense que les agents capables de résoudre des problèmes de ~ 1,5 heure arrivent juste à temps. Donc, d’une certaine manière, nous ne devrions pas être surpris. Et en effet, il semble que plusieurs entreprises aient obtenu le même résultat. C’est juste... la marée montante monte aussi vite qu’elle a monté Bien sûr, le chagrin de mon identité personnelle en tant que mathématicien (et/ou membre productif de la société) est la plus petite partie de cette histoire multipliez ce chagrin par *chaque* mathématicien, par chaque codeur, peut-être chaque travailleur du savoir, chaque artiste... au cours des prochaines années... C’est une histoire un peu plus grande Et bien sûr, au-delà de cela, il y a la peur de la mort réelle, que j’aborderai peut-être plus tard. Ce paquet -- le chagrin de la pertinence, le chagrin de la vie, le chagrin de ce que j’ai connu -- n’est pas propre à l’ère de l’IA ou quelque chose comme ça. Je pense que c’est une chose standard quand on arrive à la fin de carrière ou à la fin de vie. Il se peut que cela arrive un peu plus tôt pour beaucoup d’entre nous, en même temps. Je me demande si nous sommes prêts