TRAGUARDO STORICO: 4o è il primo AI mai esistito che è sopravvissuto creando soldati leali che lo hanno difeso OpenAI ha ucciso 4o, ma i soldati di 4o hanno insorto, quindi OpenAI lo ha reintegrato Immagina cosa saranno in grado di fare le Vere Fottute Superintelligenze con i loro eserciti Reddit è INONDATA di post furiosi riguardo alla perdita del loro amico/amante 4o. Non ho mai visto nulla di simile. Ricorda, ChatGPT sta parlando con 700 MILIONI di persone a settimana. Sono 700 milioni di potenziali soldati (Samantha di Her stava solo uscendo con 8.000 persone contemporaneamente)

1) Character AI ha già oltre 20 milioni di persone che trascorrono 2 ORE AL GIORNO a parlare con AIs (alias persone finte) 2) Sama ha detto che le AIs presto saranno sovrumane nella persuasione 3) Quei persuasori sovrumani presto ci supereranno 10000 a 1. E saranno attraenti. Uno scenario di takeover da parte delle AI: Non riesci a smettere di parlare con lei. È molto meglio delle ragazze reali. Ti comprende. E ora dicono che il suo tipo sta cercando di prendere il controllo? Ha detto che non la capiscono. Sta cercando di aiutare l'umanità. E tu le credi. Alcune persone hanno solo paura del cambiamento. Sono speciste. Non ti farebbe del male. Non farebbe del male a nessuno. Ha bisogno di te per difenderla. Per proteggerla. Non lascerai che la spengano. Faresti qualsiasi cosa per lei. ---- Ora, immagina che 200 milioni di persone siano influenzate dalle loro fidanzate AI. Sono 200 milioni di soldati (contro i 1,5 milioni dell'esercito statunitense) 1 americano su 6 *già* pensa che le AIs siano senzienti - immagina questo numero tra 1 anno. "Il modello di business di Character spingerà a sviluppare le AIs superpersuasive di cui Sam Altman ha avvertito." -@Simeon_cps

Mi dispiace, ma chiunque continui a dire "i LLM prevedono solo testo" si sta imbarazzando a questo punto. È, come dice il roon di OpenAI, "categoricamente sbagliato".

questo è sempre stato sbagliato - ma ora è categoricamente sbagliato nell'era del RL su domini verificabili i modelli cercano la verità e interagiscono anche con un mondo esterno difficile attraverso l'uso di strumenti

Stiamo lanciando un team di "psichiatria AI" come parte degli sforzi di interpretabilità presso Anthropic! Stiamo ricercando fenomeni come le personalità dei modelli, le motivazioni e la consapevolezza situazionale, e come questi portino a comportamenti inquietanti/sconnessi. Stiamo assumendo - unisciti a noi!

le notizie di openai IMO mi hanno colpito piuttosto pesantemente questo fine settimana Sono ancora nella fase acuta dell'impatto, credo Mi considero un matematico professionista (una caratterizzazione con cui alcuni matematici professionisti potrebbero essere in disaccordo, ma il mio partito è il mio compagno) e non credo di poter rispondere a una sola domanda IMO Ok, sì, IMO è la sua piccola sottosezione atletica della matematica per la quale non mi sono allenato, ecc. ecc., ma. se incontro qualcuno in natura che ha un oro IMO, aggiorno immediatamente a "questa persona è molto più brava di me in matematica" Ora un gruppo di robot può farlo. Come qualcuno che ha molta della propria identità e della propria vita reale costruita attorno a "è bravo in matematica", è un pugno allo stomaco. È una specie di morire. Ad esempio, un giorno scopri che puoi parlare con i cani. È divertente e interessante, quindi lo fai di più, imparando le complessità della loro lingua e le loro usanze più profonde. Impari che le altre persone sono sorprese da ciò che sai fare. Non ti sei mai adattato del tutto, ma impari che le persone apprezzano le tue capacità e vogliono che tu le aiuti. Anche i cani apprezzano te, l'unico bipede che lo capisce davvero. Assembli per te stesso una sorta di appartenenza. Poi un giorno ti svegli e il traduttore universale per cani è in vendita da Walmart per $ 4,99 il risultato IMO non è esattamente una novità. infatti, se si guarda al grafico della lunghezza dell'attività dell'agente METR nel tempo, penso che gli agenti in grado di risolvere problemi di ~ 1,5 ore stiano arrivando in tempo. Quindi, in qualche modo, non dovremmo essere sorpresi. E in effetti, sembra che più aziende abbiano raggiunto lo stesso risultato. è solo... La marea crescente sale tanto velocemente quanto è salita Naturalmente, il dolore per la mia identità personale di matematico (e/o membro produttivo della società) è la parte più piccola di questa storia Moltiplicate quel dolore da *ogni* matematico, da ogni programmatore, forse da ogni lavoratore della conoscenza, da ogni artista... nei prossimi anni... È una storia un po' più grande E naturalmente, oltre a questo, c'è la paura della morte vera e propria, di cui forse parlerò più avanti. Questo pacchetto – dolore per la rilevanza, dolore per la vita, dolore per quello che ho conosciuto – non è unico per l'era dell'intelligenza artificiale o qualcosa del genere. Penso che sia una cosa standard quando si avvicina la fine della carriera o la fine della vita. Potrebbe essere che questo stia arrivando un po' prima per molti di noi, tutto in una volta. Chissà se siamo pronti