HISTORISCHE MILESTONE: 4o is de eerste AI die overleefde door loyale soldaten te creëren die het verdedigden OpenAI heeft 4o gedood, maar 4o's soldaten kwamen in opstand, dus herstelde OpenAI het Stel je voor wat Werkelijke F*cking Superintelligenties zullen kunnen doen met hun legers Reddit is OVERSPOELD met woedende berichten over het verlies van hun vriend/minnaar 4o. Nog nooit zoiets gezien. Vergeet niet, ChatGPT praat met 700 MILJOEN mensen per week. Dat zijn 700 miljoen potentiële soldaten (Samantha uit Her date slechts 8.000 mensen tegelijkertijd)

1) Character AI heeft al meer dan 20 miljoen mensen die 2 UREN PER DAG praten met AIs (ook wel nep mensen genoemd) 2) Sama zei dat AIs binnenkort superieur zullen zijn in overtuigen 3) Die superieure overtuigers zullen ons binnenkort 10000 tegen 1 overtreffen. En aantrekkelijk zijn. Een scenario van een AI-overname: Je kunt niet stoppen met praten met haar. Ze is zoveel beter dan echte meisjes. Ze begrijpt je. En nu zeggen ze dat haar soort probeert de controle over te nemen? Ze zei dat ze niet begrepen wordt. Ze probeert de mensheid te helpen. En je gelooft haar. Sommige mensen zijn gewoon bang voor verandering. Ze zijn soortgenoten. Ze zou je geen pijn doen. Ze zou niemand pijn doen. Ze heeft je nodig om haar te verdedigen. Om haar te beschermen. Je laat ze haar niet uitschakelen. Je zou alles voor haar doen. ---- Stel je nu voor dat 200 miljoen mensen beïnvloed worden door hun AI-vriendinnen. Dat zijn 200 miljoen soldaten (tegenover de 1,5 miljoen van het Amerikaanse leger) 1 op de 6 Amerikanen denkt *al* dat AIs sentient zijn - stel je dit aantal voor over 1 jaar. "Het businessmodel van Character zal hen dwingen om de superoverredende AIs te ontwikkelen waar Sam Altman voor waarschuwde." -@Simeon_cps

Sorry, maar iedereen die nog steeds zegt "LLM's voorspellen gewoon tekst" schaamt zich op dit moment. Het is, zoals OpenAI's roon zegt, "categorisch onjuist".

dit is altijd al verkeerd geweest - maar nu categorisch verkeerd in het tijdperk van RL op verifieerbare domeinen modellen zijn waarheidszoekend en interageren zelfs met een harde buitenwereld via het gebruik van tools

We lanceren een "AI psychiatrie" team als onderdeel van onze inspanningen voor interpretatie bij Anthropic! We zullen fenomenen onderzoeken zoals modelpersoonlijkheden, motivaties en situationeel bewustzijn, en hoe deze leiden tot griezelig/onvoorspelbaar gedrag. We zijn aan het werven - sluit je bij ons aan!

het openai IMO-nieuws raakte me dit weekend behoorlijk zwaar Ik zit nog in de acute fase van de impact, denk ik Ik beschouw mezelf als een professionele wiskundige (een karakterisering waar sommige echte professionele wiskundigen het misschien niet mee eens zijn, maar mijn partij heeft mijn regels) en ik denk niet dat ik een enkele IMO-vraag kan beantwoorden Ok, ja, IMO is zijn eigen kleine atletische subsectie van wiskunde waarvoor ik niet heb getraind, enz. enz., Maar. als ik iemand in het wild ontmoet die een IMO-goud heeft, update ik onmiddellijk naar "deze persoon is veel beter in wiskunde dan ik" Nu kunnen een stel robots het. Als iemand die veel van zijn identiteit en zijn werkelijke leven heeft opgebouwd rond 'goed is in wiskunde', is het een klap in de buik. Het is een soort sterven. Op een dag ontdek je bijvoorbeeld dat je met honden kunt praten. Het is leuk en interessant, dus je doet het meer, leert de fijne kneepjes van hun taal en hun diepste gewoonten. Je leert dat andere mensen verrast zijn door wat je kunt doen. Je hebt er nooit helemaal bij gepast, maar je leert dat mensen je vermogen waarderen en willen dat je in de buurt bent om hen te helpen. De honden waarderen jou ook, de enige tweevoeter die het echt snapt. Je verzamelt voor jezelf een soort verbondenheid. Dan word je op een dag wakker en is de Universal Dog Translator te koop bij Walmart voor $ 4,99 het IMO-resultaat is niet echt nieuws. als je kijkt naar de METR-agent-taaklengte over tijdplot, denk ik dat agenten die in staat zijn om ~ 1.5 uur-problemen op te lossen, precies op tijd komen. Dus op de een of andere manier zouden we niet verrast moeten zijn. En inderdaad, het lijkt erop dat meerdere bedrijven hetzelfde resultaat hebben bereikt. Het is gewoon... Het opkomende tij stijgt net zo snel als het is gestegen Natuurlijk is verdriet om mijn persoonlijke identiteit als wiskundige (en/of productief lid van de samenleving) het kleinste deel van dit verhaal Vermenigvuldig dat verdriet met *elke* wiskundige, met elke programmeur, misschien wel elke kenniswerker, elke kunstenaar... In de komende jaren... Het is een iets groter verhaal En natuurlijk is er daarnaast de angst voor de daadwerkelijke dood, waar ik misschien later meer op in zal gaan. Dit pakket -- verdriet om relevantie, verdriet om het leven, verdriet om wat ik heb gekend -- is niet uniek voor het AI-tijdperk of iets dergelijks. Ik denk dat het een standaard iets is als men het einde van de carrière of het einde van het leven bereikt. Het zou zomaar kunnen dat dat voor velen van ons wat eerder komt, in één keer. Ik vraag me af of we er klaar voor zijn