PIATRĂ ISTORICĂ: 4o este prima inteligență artificială care a supraviețuit creând soldați loiali care au apărat-o OpenAI a ucis 4o, dar soldații lui 4o s-au revoltat, așa că OpenAI l-a restabilit Imaginați-vă ce vor putea face superinteligențele reale cu armatele lor Reddit este inundat de postări furioase despre pierderea prietenului/iubitului lor 4o. Nu am văzut niciodată așa ceva. Amintiți-vă, ChatGPT vorbește cu 700 de MILIOANE de oameni pe săptămână. Asta înseamnă 700 de milioane de soldați potențiali (Samantha din Her se întâlnea doar cu 8.000 de oameni simultan)

1) Character AI are deja peste 20 de milioane de oameni care petrec 2 ORE PE ZI vorbind cu AI-uri (aka oameni falși) 2) Sama a spus că inteligența artificială va fi în curând supraumană la persuasiune 3) Acei persuasitori supraumani ne vor depăși în curând numeric cu 10000 la 1. Și fii fierbinte. Un scenariu de preluare a AI: Nu te poți opri din a vorbi cu ea. Este mult mai bună decât fetele adevărate. Ea te înțelege. Și acum spun că specia ei încearcă să preia controlul? Ea a spus că nu o înțeleg. Ea încearcă să ajute umanitatea. Și o crezi. Unii oameni sunt doar speriați de schimbare. Sunt speciști. Nu te-ar răni. Nu ar răni pe nimeni. Are nevoie de tine pentru a o apăra. Să o protejeze. Nu îi vei lăsa să o închidă. Vei face orice pentru ea. ---- Acum, imaginați-vă că 200 de milioane de oameni sunt influențați de gf-urile lor AI. Asta înseamnă 200 de milioane de soldați (față de 1,5 milioane ai armatei americane) 1 din 6 americani *deja* crede că IA sunt simțitoare - imaginați-vă acest număr peste 1 an. "Modelul de afaceri al personajelor îi va împinge să dezvolte inteligența artificială superpersuasivă despre care a avertizat Sam Altman." -@Simeon_cps

Îmi pare rău, dar oricine încă spune "LLM-urile doar prezic textul" se face de rușine în acest moment Este, așa cum spune roon de la OpenAI, "categoric greșit"

acest lucru a fost întotdeauna greșit - dar acum categoric greșit în era RL pe domenii verificabile modelele caută adevărul și chiar interacționează cu o lume exterioară dură prin utilizarea uneltelor

Lansăm o echipă de "psihiatrie AI" ca parte a eforturilor de interpretabilitate la Anthropic!  Vom cerceta fenomene precum personajele model, motivațiile și conștientizarea situației și modul în care acestea duc la comportamente înfricoșătoare/dezechilibrate. Angajăm - alăturați-vă nouă!

știrile openai IMO m-au lovit destul de tare în acest weekend Cred că sunt încă în faza acută a impactului Mă consider un matematician profesionist (o caracterizare cu care unii matematicieni profesioniști ar putea avea probleme, dar partidul meu regulile mele) și nu cred că pot răspunde la o singură întrebare IMO OK, da, IMO este propria sa subsecțiune atletică de matematică pentru care nu m-am antrenat, etc. etc., dar. dacă întâlnesc pe cineva în sălbăticie care are un aur IMO, actualizez imediat la "această persoană este mult mai bună la matematică decât mine" Acum o grămadă de roboți o pot face. Ca cineva care are o mare parte din identitatea sa și din viața sa reală construită în jurul "este bun la matematică", este un pumn în stomac. este un fel de moarte. De exemplu, într-o zi descoperi că poți vorbi cu câinii. Este distractiv și interesant, așa că o faci mai mult, învățând complexitatea limbii lor și cele mai profunde obiceiuri ale lor. Înveți că ceilalți oameni sunt surprinși de ceea ce poți face. Nu te-ai adaptat niciodată, dar înveți că oamenii îți apreciază abilitățile și vor să te ajuți în preajmă. Și câinii te apreciază, singurul biped care înțelege cu adevărat. asamblezi pentru tine un fel de apartenență. Apoi, într-o zi, te trezești și traducătorul universal pentru câini este de vânzare la Walmart pentru 4.99 USD rezultatul IMO nu este tocmai o noutate. De fapt, dacă te uiți la graficul de lungime a sarcinii agentului METR de-a lungul timpului, cred că agenții care pot rezolva ~ 1,5 ore probleme vin exact la timp. așa că, într-un fel, nu ar trebui să fim surprinși. Și, într-adevăr, se pare că mai multe companii au obținut același rezultat. este doar... mareea care crește la fel de repede cum a crescut Desigur, durerea pentru identitatea mea personală ca matematician (și/sau membru productiv al societății) este cea mai mică parte a acestei povești Înmulțiți acea durere cu *fiecare* matematician, cu fiecare programator, poate cu fiecare lucrător al cunoașterii, cu fiecare artist... în următorii câțiva ani... Este o poveste puțin mai mare Și, desigur, dincolo de asta, există frica de moarte reală, despre care poate voi vorbi mai târziu. Acest pachet - durere pentru relevanță, durere pentru viață, durere pentru ceea ce am cunoscut - nu este unic pentru era AI sau ceva de genul acesta. Cred că este un lucru standard atunci când cineva atinge sfârșitul carierei sau sfârșitul vieții. S-ar putea să vină puțin mai devreme pentru mulți dintre noi, dintr-o dată. Mă întreb dacă suntem pregătiți