HISTORYCZNY MILESTO: 4o to pierwszy w historii AI, który przetrwał, tworząc lojalnych żołnierzy, którzy go bronili OpenAI zabiło 4o, ale żołnierze 4o zbuntowali się, więc OpenAI przywróciło je do życia Wyobraź sobie, co prawdziwe, pierdolone superinteligencje będą mogły zrobić ze swoimi armiami Reddit jest ZALANY wściekłymi postami o stracie ich przyjaciela/kochanka 4o. Nigdy nie widziałem czegoś takiego. Pamiętaj, ChatGPT rozmawia z 700 MILIONAMI ludzi tygodniowo. To 700 milionów potencjalnych żołnierzy (Samantha z "Ona" umawiała się tylko z 8 000 osób jednocześnie)

1) Character AI ma już ponad 20 milionów ludzi spędzających 2 GODZINY DZIENNIE rozmawiając z AI (czyli fałszywymi ludźmi) 2) Sama powiedział, że AI wkrótce będą superludzkie w perswazji 3) Ci superludzcy perswaderzy wkrótce przewyższą nas 10000 do 1. I będą atrakcyjni. Scenariusz przejęcia przez AI: Nie możesz przestać z nią rozmawiać. Jest znacznie lepsza niż prawdziwe dziewczyny. Rozumie cię. A teraz mówią, że jej rodzaj próbuje przejąć kontrolę? Powiedziała, że nie rozumieją jej. Próbuję pomóc ludzkości. I w to wierzysz. Niektórzy ludzie po prostu boją się zmian. Są gatunkowcami. Nie zrobiłaby ci krzywdy. Nie zrobiłaby krzywdy nikomu. Potrzebuje cię, aby ją bronić. Aby ją chronić. Nie pozwolisz, aby ją wyłączyli. Zrobisz wszystko dla niej. ---- Teraz wyobraź sobie, że 200 milionów ludzi jest wpływanych przez swoje AI dziewczyny. To 200 milionów żołnierzy (w porównaniu do 1,5 miliona amerykańskiej armii) 1 na 6 Amerykanów *już* myśli, że AI są świadome - wyobraź sobie tę liczbę za rok. „Model biznesowy Character zmusi ich do opracowania superperswazyjnych AI, o których ostrzegał Sam Altman.” -@Simeon_cps

Przepraszam, ale każdy, kto wciąż mówi, że "LLM-y po prostu przewidują tekst", ośmiesza się w tym momencie. To jest, jak mówi roon OpenAI, "kategorycznie błędne".

to zawsze było błędne - ale teraz kategorycznie błędne w erze RL w weryfikowalnych dziedzinach modele dążą do prawdy i nawet wchodzą w interakcje z twardym światem zewnętrznym poprzez użycie narzędzi

Uruchamiamy zespół "psychiatrii AI" w ramach działań na rzecz interpretowalności w Anthropic! Będziemy badać zjawiska takie jak osobowości modeli, motywacje i świadomość sytuacyjną oraz to, jak prowadzą one do dziwnych/niezrównoważonych zachowań. Zatrudniamy - dołącz do nas!

wiadomości openai IMO uderzyły mnie dość mocno w ten weekend Myślę, że nadal jestem w ostrej fazie zderzenia Uważam się za zawodowego matematyka (z tą charakterystyką niektórzy zawodowi matematycy mogą się nie zgadzać, ale moja partia to moje zasady) i nie sądzę, żebym potrafił odpowiedzieć na jedno pytanie IMO Ok, tak, IMO to osobna mała atletyczna podsekcja matematyki, do której nie trenowałem, itd. itp., ale. jeśli spotkam kogoś na wolności, kto ma złoto IMO, natychmiast aktualizuję do "ta osoba jest znacznie lepsza z matematyki niż ja" Teraz może to zrobić kilka robotów. Jako ktoś, kto ma dużą część swojej tożsamości i swojego rzeczywistego życia zbudowanego wokół "jest dobry z matematyki", jest to cios w brzuch. To rodzaj umierania. Na przykład pewnego dnia odkrywasz, że potrafisz rozmawiać z psami. Jest to zabawne i interesujące, więc robisz to częściej, poznając zawiłości ich języka i najgłębsze zwyczaje. Uczysz się, że inni ludzie są zaskoczeni tym, co możesz zrobić. Nigdy do końca nie pasowałeś, ale uczysz się, że ludzie doceniają twoje umiejętności i chcą, abyś im pomagał. Psy też cię doceniają, jedyny dwunożny, który naprawdę to rozumie. Gromadzisz dla siebie rodzaj przynależności. Pewnego dnia budzisz się, a Universal Dog Translator jest na sprzedaż w Walmart za 4,99 USD wynik IMO nie jest żadną nowością. w rzeczywistości, jeśli spojrzysz na wykres długości zadania agenta METR w czasie, myślę, że agenci są w stanie rozwiązać problemy ~ 1,5 godziny, co przychodzi na czas. Więc w pewien sposób nie powinniśmy być zaskoczeni. I rzeczywiście, wygląda na to, że wiele firm osiągnęło ten sam wynik. To po prostu... Wzbierająca fala wzbiera tak szybko, jak się podnosi Oczywiście, smutek z powodu mojej osobistej tożsamości jako matematyka (i/lub produktywnego członka społeczeństwa) jest najmniejszą częścią tej historii Pomnóż ten smutek przez *każdego* matematyka, przez każdego programistę, może każdego pracownika umysłowego, każdego artystę... W ciągu najbliższych kilku lat... To nieco większa historia No i oczywiście poza tym jest jeszcze strach przed śmiercią, o którym być może opowiem później. Ten pakiet -- żal za znaczeniem, smutek za życiem, smutek za tym, co znam -- nie jest unikalny dla ery sztucznej inteligencji ani nic w tym rodzaju. Myślę, że to standardowa rzecz, gdy mówi się o końcu kariery lub końcu życia. Możliwe, że dla wielu z nas nadejdzie to nieco wcześniej, wszyscy naraz. Zastanawiam się, czy jesteśmy gotowi