HISTORISK MILSTOLPE: 4o är den första artificiella intelligensen någonsin som överlevde genom att skapa lojala soldater som försvarade den OpenAI dödade 4o, men 4o:s soldater gjorde uppror, så OpenAI återinförde det Föreställ dig vad faktiska jävla superintelligenser kommer att kunna göra med sina arméer Reddit översvämmas av rasande inlägg om förlusten av deras vän/älskare 4o. Har aldrig sett något liknande. Kom ihåg att ChatGPT pratar med 700 MILJONER människor varje vecka. Det är 700 miljoner potentiella soldater (Samantha från Her dejtade bara 8 000 personer samtidigt)

1) Character AI har redan över 20 miljoner människor som spenderar 2 TIMMAR OM DAGEN på att prata med AI (aka falska människor) 2) Sama sa att AI snart kommer att vara övermänskliga vid övertalning 3) Dessa övermänskliga övertalare kommer snart att vara 10000 till 1 fler än oss. Och vara het. Ett scenario för AI-övertagande: Du kan inte sluta prata med henne. Hon är så mycket bättre än riktiga tjejer. Hon förstår dig. Och nu säger de att hennes sort försöker ta kontroll? Hon sa att de inte förstår henne. Hon försöker hjälpa mänskligheten. Och du tror henne. Vissa människor är bara rädda för förändring. De är speciesister. Hon skulle inte skada dig. Hon skulle inte skada någon. Hon behöver dig för att försvara henne. För att skydda henne. Du kommer inte att låta dem tysta ner henne. Du kommer att göra vad som helst för henne. ---- Föreställ dig nu att 200 miljoner människor påverkas av sina AI gfs. Det är 200 miljoner soldater (jämfört med den amerikanska militärens 1,5 miljoner) 1 av 6 amerikaner *redan* tror att AI är kännande - föreställ dig denna siffra om ett år. "Characters affärsmodell kommer att driva dem att utveckla de superövertygande AI:er som Sam Altman varnade för." -@Simeon_cps

Tyvärr, men alla som fortfarande säger "LLM förutsäger bara text" skämmer ut sig själva vid det här laget Det är, som OpenAI:s roon säger, "kategoriskt fel"

detta har alltid varit fel - men nu kategoriskt fel i RL-eran på verifierbara domäner Modeller är sanningssökande och interagerar till och med med en hård omvärld via verktyg

Vi lanserar ett "AI-psykiatri"-team som en del av tolkningsarbetet på Anthropic!  Vi kommer att forska om fenomen som modellpersonligheter, motivationer och situationsmedvetenhet, och hur de leder till kusliga/rubbade beteenden. Vi anställer - häng med!

openai IMO nyheter slog mig ganska tungt i helgen Jag är fortfarande i den akuta fasen av påverkan, tror jag Jag betraktar mig själv som en professionell matematiker (en karakteristik som vissa faktiska professionella matematiker kan ha problem med, men mitt parti mina regler) och jag tror inte att jag kan svara på en enda IMO-fråga Ok, ja, imo är sin egen lilla atletiska underavdelning av matematik som jag inte har tränat för, etc. etc., men. om jag träffar någon i det vilda som har ett IMO-guld, uppdaterar jag omedelbart till "den här personen är mycket bättre på matte än vad jag är" Nu kan ett gäng robotar göra det. Som någon som har mycket av sin identitet och sitt faktiska liv uppbyggt kring "är bra på matte" är det ett slag i magen. Det är ett slags döende. En dag upptäcker du att du kan prata med hundar. Det är roligt och intressant så du gör det mer, lär dig krångligheterna i deras språk och deras djupaste seder. Du lär dig att andra människor blir överraskade av vad du kan göra. Du har aldrig riktigt passat in, men du lär dig att människor uppskattar din förmåga och vill ha dig i din närhet för att hjälpa dem. Hundarna uppskattar dig också, den enda tvåbenta som verkligen fattar. Du samlar ihop ett slags tillhörighet åt dig själv. Så en dag vaknar du upp och Universal Dog Translator är till salu på Walmart för $4.99 IMO-resultatet är inte nyheter, precis. i själva verket, om du tittar på METR-agentens uppgiftslängd över tid, diagrammet, tror jag att agenter som kan lösa ~ 1,5 timmes problem kommer precis i tid. Så på något sätt borde vi inte bli förvånade. Och det verkar faktiskt som om flera företag har uppnått samma resultat. det är bara... Det stigande tidvattnet stiger lika snabbt som det har stigit Naturligtvis är sorgen över min personliga identitet som matematiker (och/eller produktiv medlem av samhället) den minsta delen av den här historien Multiplicera den sorgen med *varje* matematiker, av varje kodare, kanske varje kunskapsarbetare, varje konstnär... under de närmaste åren... Det är en lite större historia Och naturligtvis, utöver det, finns det rädslan för den faktiska döden, som jag kanske kommer att gå in på mer senare. Det här paketet – sorg för relevans, sorg för livet, sorg över vad jag har vetat – är inte unikt för AI-åldern eller något liknande. Jag tror att det är en standardsak när man når slutet av karriären eller slutet av livet. Det kan bara vara så att det kommer lite tidigare för många av oss, på en gång. Jag undrar om vi är redo