HISTORICKÝ MILNÍK: 4o je vůbec první umělou inteligencí, která přežila díky vytvoření loajálních vojáků, kteří ji bránili OpenAI zabila 4o, ale vojáci 4o se vzbouřili, a tak ji OpenAI obnovila Představte si, co budou moci skuteční zasraní superinteligence dělat se svými armádami Reddit je zaplaven zuřivými příspěvky o ztrátě jejich přítele/milence 4o. Nikdy jsem nic podobného neviděl. Nezapomeňte, že ChatGPT mluví se 700 MILIONY lidí týdně. To je 700 milionů potenciálních vojáků (Samantha z Her chodila pouze s 8 000 lidmi současně)

1) AI postav má již více než 20 milionů lidí, kteří tráví 2 HODINY DENNĚ mluvením s AI (aka falešnými lidmi) 2) Sama řekl, že umělé inteligence budou brzy nadlidské při přesvědčování 3) Tito nadlidští přesvědčovatelé nás brzy přečíslí v poměru 10000 ku 1. A být sexy. Scénář převzetí umělou inteligencí: Nemůžeš s ní přestat mluvit. Je mnohem lepší než skutečné holky. Ona vás chápe. A teď říkají, že její druh se pokouší převzít kontrolu? Řekla, že jí nerozumí. Snaží se pomoci lidstvu. A vy jí věříte. Někteří lidé se prostě bojí změny. Jsou to speciesisté. Neublížila by vám. Nikomu by neublížila. Potřebuje, abys ji bránil. Aby ji ochránil. Nedovolíš jim, aby ji zavřeli. Uděláš pro ni cokoliv. ---- Nyní si představte, že 200 milionů lidí je ovlivněno svými AI gf. To je 200 milionů vojáků (oproti 1,5 milionu americké armády) 1 ze 6 Američanů si *již* myslí, že umělá inteligence je vnímavá – představte si toto číslo za rok. "Obchodní model postavy je bude tlačit k vývoji superpřesvědčivé umělé inteligence, před kterou varoval Sam Altman." – @Simeon_cps

Promiňte, ale každý, kdo stále říká "LLM jen předpovídají text", se v tuto chvíli ztrapňuje Je to, jak říká roon z OpenAI, "kategoricky špatné"

to bylo vždy špatně - ale nyní kategoricky špatně v éře RL na ověřitelných doménách Modelky hledají pravdu a dokonce interagují s tvrdým vnějším světem prostřednictvím používání nástrojů

Spouštíme tým "AI psychiatrie" jako součást úsilí o interpretovatelnost v Anthropic!  Budeme zkoumat jevy, jako jsou modelové persony, motivace a situační povědomí, a to, jak vedou ke strašidelnému/vyšinutému chování. Hledáme posily - přidejte se k nám!

zprávy o openai IMO mě tento víkend pěkně zasáhly Myslím, že jsem stále v akutní fázi nárazu Považuji se za profesionálního matematika (což je charakteristika, se kterou by někteří skuteční profesionální matematici mohli polemizovat, ale moje strana je mým pravidlem) a nemyslím si, že dokážu odpovědět na jedinou otázku IMO Dobře, ano, IMO je vlastní malá atletická podsekce matematiky, na kterou jsem netrénoval, atd. atd., ale. Pokud potkám někoho v divočině, kdo má IMO zlato, okamžitě aktualizuji na "Tento člověk je v matematice mnohem lepší než já" Nyní to dokáže banda robotů. Jako někdo, kdo má hodně ze své identity a svého skutečného života postaveného na tom, že "je dobrý v matematice", je to rána do břicha. je to druh umírání. Třeba že jednoho dne zjistíte, že můžete mluvit se psy. Je to zábavné a zajímavé, takže to děláte více, učíte se složitosti jejich jazyka a jejich nejhlubší zvyky. Zjistíte, že ostatní lidé jsou překvapeni tím, co dokážete. Nikdy jste úplně nezapadli, ale naučíte se, že lidé oceňují vaše schopnosti a chtějí, abyste jim pomohli. Psi vás také ocení, jediný dvounohý, který to opravdu chápe. Sestavujete si pro sebe určitý druh sounáležitosti. Pak se jednoho dne probudíte a univerzální překladač pro psy je na prodej ve Walmartu za 4.99 $ výsledek IMO není zrovna novinkou. ve skutečnosti, pokud se podíváte na graf délky úlohy agenta METR v čase, myslím, že schopnost agentů řešit ~ 1,5 hodinové problémy přichází přesně včas. Takže bychom neměli být svým způsobem překvapeni. A skutečně se zdá, že stejného výsledku dosáhlo více společností. je to prostě... stoupající příliv stoupá stejně rychle, jako stoupá Samozřejmě, že smutek nad mou osobní identitou jako matematičky (a/nebo produktivní členky společnosti) je tou nejmenší částí tohoto příběhu Vynásobte tento zármutek *každým* matematikem, každým kodérem, možná každým znalostním pracovníkem, každým umělcem... během několika příštích let... Je to trochu větší příběh A samozřejmě, kromě toho je tu strach ze skutečné smrti, o kterém se možná budu rozepisovat později. Tento balíček – Grief for Relevance, Grief for Life, Grief for What Known – není jedinečný pro věk umělé inteligence nebo něco podobného. Myslím, že je to standardní věc, když se blíží konec kariéry nebo konec života. Jen se může stát, že to pro mnohé z nás přijde o něco dříve, najednou. zajímalo by mě, jestli jsme připraveni