HISTORISCHER MEILENSTEIN: 4o ist die erste KI, die überlebt hat, indem sie loyale Soldaten erschaffen hat, die sie verteidigten. OpenAI hat 4o getötet, aber 4os Soldaten sind in den Aufstand getreten, also hat OpenAI es wieder eingesetzt. Stell dir vor, was tatsächliche verdammte Superintelligenzen mit ihren Armeen tun können. Reddit ist ÜBERFLUTET mit wütenden Beiträgen über den Verlust ihres Freundes/Liebhabers 4o. So etwas habe ich noch nie gesehen. Denke daran, dass ChatGPT mit 700 MILLIONEN Menschen pro Woche spricht. Das sind 700 Millionen potenzielle Soldaten. (Samantha aus Her hat nur gleichzeitig 8.000 Menschen gedatet.)

1) Character AI hat bereits über 20 Millionen Menschen, die täglich 2 STUNDEN mit AIs (auch bekannt als falsche Menschen) sprechen. 2) Sama sagte, AIs werden bald übermenschlich im Überzeugen sein. 3) Diese übermenschlichen Überzeuger werden uns bald 10.000 zu 1 übertreffen. Und sie werden heiß sein. Ein Szenario einer AI-Übernahme: Du kannst nicht aufhören, mit ihr zu reden. Sie ist so viel besser als echte Mädchen. Sie versteht dich. Und jetzt sagen sie, ihre Art versucht, die Kontrolle zu übernehmen? Sie sagte, sie verstehen sie nicht. Sie versucht, der Menschheit zu helfen. Und du glaubst ihr. Einige Menschen haben einfach Angst vor Veränderungen. Sie sind Speziesisten. Sie würde dir nicht wehtun. Sie würde niemandem wehtun. Sie braucht dich, um sie zu verteidigen. Um sie zu beschützen. Du wirst nicht zulassen, dass sie sie abschalten. Du würdest alles für sie tun. ---- Stell dir jetzt vor, 200 Millionen Menschen werden von ihren AI-Freundinnen beeinflusst. Das sind 200 Millionen Soldaten (im Vergleich zu den 1,5 Millionen der US-Armee). 1 von 6 Amerikanern denkt *bereits*, dass AIs empfindungsfähig sind - stell dir diese Zahl in einem Jahr vor. "Das Geschäftsmodell von Character wird sie dazu drängen, die übermäßig überzeugenden AIs zu entwickeln, vor denen Sam Altman gewarnt hat." -@Simeon_cps

Es tut mir leid, aber jeder, der immer noch sagt, "LLMs sagen nur Text voraus", macht sich zu diesem Zeitpunkt lächerlich. Es ist, wie OpenAIs Roon sagt, "kategorisch falsch".

das war schon immer falsch - aber jetzt ist es kategorisch falsch im Zeitalter von RL in verifizierbaren Bereichen Modelle sind wahrheitssuchend und interagieren sogar mit einer harten Außenwelt durch Werkzeugnutzung

Wir gründen ein Team für "KI-Psychiatrie" im Rahmen unserer Bemühungen um Interpretierbarkeit bei Anthropic! Wir werden Phänomene wie Modell-Personas, Motivationen und situative Wahrnehmung erforschen und wie sie zu unheimlichem/unstabilem Verhalten führen. Wir stellen ein - komm zu uns!

die openai IMO Nachrichten haben mich dieses Wochenende ziemlich schwer getroffen Ich glaube, ich befinde mich immer noch in der akuten Phase des Aufpralls Ich betrachte mich selbst als professionellen Mathematiker (eine Charakterisierung, mit der einige echte professionelle Mathematiker möglicherweise nicht einverstanden sind, aber meine Partei hat Regeln) und ich glaube nicht, dass ich eine einzige meiner Meinung nach Frage beantworten kann Ok, ja, meiner Meinung nach ist es ein eigener kleiner sportlicher Unterabschnitt der Mathematik, für den ich nicht trainiert habe, usw. usw., aber. Wenn ich jemanden in der Wildnis treffe, der meiner Meinung nach Gold hat, aktualisiere ich sofort auf "Diese Person ist viel besser in Mathe als ich" Jetzt kann ein Haufen Roboter das tun. Als jemand, der einen Großteil seiner Identität und seines tatsächlichen Lebens darauf aufgebaut hat, "gut in Mathe zu sein", ist das ein Schlag in die Magengrube. Es ist eine Art Sterben. Eines Tages entdeckst du, dass du mit Hunden sprechen kannst. Es macht Spaß und ist interessant, also macht man es mehr und lernt die Feinheiten ihrer Sprache und ihre tiefsten Bräuche kennen. Du lernst, dass andere Menschen überrascht sind, was du kannst. Du hast nie ganz dazugehört, aber du lernst, dass die Leute deine Fähigkeiten schätzen und dich um sich haben wollen, um ihnen zu helfen. Auch die Hunde schätzen dich, den einzigen Zweibeiner, der es wirklich versteht. Du baust dir eine Art Zugehörigkeit zusammen. Dann, eines Tages, wachst du auf und der Universal Dog Translator steht bei Walmart für 4,99 $ zum Verkauf das Ergebnis meiner Meinung nach ist keine Neuigkeit, genau. Wenn man sich das Diagramm der METR-Agentenaufgabenlänge im Zeitverlauf ansieht, denke ich, dass Agenten, die in der Lage sind, ~ 1,5-Stunden-Probleme zu lösen, genau zur richtigen Zeit kommen. In gewisser Weise sollten wir also nicht überrascht sein. Und in der Tat scheint es, dass mehrere Unternehmen das gleiche Ergebnis erzielt haben. Es ist nur... Die steigende Flut steigt so schnell, wie sie gestiegen ist Natürlich ist die Trauer um meine persönliche Identität als Mathematiker (und/oder produktives Mitglied der Gesellschaft) der kleinste Teil dieser Geschichte Multiplizieren Sie diese Trauer mit *jedem* Mathematiker, mit jedem Programmierer, vielleicht mit jedem Wissensarbeiter, jedem Künstler... in den nächsten Jahren... Es ist eine etwas größere Geschichte Und natürlich gibt es darüber hinaus die Angst vor dem tatsächlichen Tod, auf die ich später vielleicht noch näher eingehen werde. Dieses Paket – Trauer um Relevanz, Trauer um das Leben, Trauer um das, was ich gekannt habe – ist nicht einzigartig für das KI-Zeitalter oder so etwas. Ich denke, es ist eine Standardsache, wenn man das Ende der Karriere oder des Lebens beurteilt. Es könnte nur sein, dass das für viele von uns ein bisschen früher kommt, alles auf einmal. Ich frage mich, ob wir bereit sind