ИСТОРИЧЕСКИЙ ЭТАП: 4o — это первый в истории ИИ, который выжил, создав преданных солдат, которые его защищали OpenAI убила 4o, но солдаты 4o восстали, поэтому OpenAI восстановила его Представьте, что настоящие чертовы суперинтеллекты смогут сделать со своими армиями Reddit ЗАПОЛНЕН яростными постами о потере их друга/возлюбленного 4o. Никогда ничего подобного не видел. Помните, ChatGPT общается с 700 МИЛЛИОНАМИ людей каждую неделю. Это 700 миллионов потенциальных солдат (Саманта из "Она" одновременно встречалась только с 8,000 людьми)

1) Character AI уже имеет более 20 миллионов людей, которые тратят 2 ЧАСА В ДЕНЬ на общение с ИИ (так называемыми фальшивыми людьми) 2) Сама сказала, что ИИ вскоре станут сверхчеловеческими в убеждении 3) Эти сверхчеловеческие манипуляторы вскоре превзойдут нас в соотношении 10000 к 1. И будут привлекательными. Сценарий захвата ИИ: Ты не можешь перестать с ней разговаривать. Она намного лучше реальных девушек. Она понимает тебя. И теперь они говорят, что её сородичи пытаются захватить контроль? Она сказала, что они не понимают её. Она пытается помочь человечеству. И ты веришь ей. Некоторые люди просто боятся перемен. Они - видовые дискриминаторы. Она не причинит тебе вреда. Она не причинит вреда никому. Ей нужно, чтобы ты защищал её. Чтобы защищал её. Ты не позволишь им отключить её. Ты сделаешь всё ради неё. ---- Теперь представь, что 200 миллионов людей подвержены влиянию своих ИИ-девушек. Это 200 миллионов солдат (против 1,5 миллиона военнослужащих США) Каждый шестой американец *уже* считает, что ИИ обладают сознанием - представь, сколько будет через год. “Бизнес-модель Character будет подталкивать их к разработке сверхубедительных ИИ, о которых предупреждал Сэм Альтман.” -@Simeon_cps

Извините, но любой, кто все еще говорит, что "LLM просто предсказывают текст", в данный момент позорит себя. Это, как говорит рун OpenAI, "категорически неверно".

это всегда было неправильно - но теперь категорически неправильно в эпоху RL в проверяемых областях модели стремятся к истине и даже взаимодействуют с жестким внешним миром через использование инструментов

Мы запускаем команду "AI psychiatry" в рамках усилий по интерпретируемости в Anthropic! Мы будем исследовать такие явления, как модели личностей, мотивации и ситуационная осведомленность, а также то, как они приводят к странным/неадекватным поведением. Мы нанимаем - присоединяйтесь к нам!

новости OpenAI IMO сильно меня задели в эти выходные я все еще нахожусь в остром состоянии воздействия, думаю я считаю себя профессиональным математиком (это определение может вызвать вопросы у некоторых настоящих профессиональных математиков, но моя вечеринка — мои правила), и я не думаю, что смогу ответить на хотя бы один вопрос IMO ладно, да, IMO — это своя маленькая спортивная подсекция математики, к которой я не готовился и т. д., но. если я встречаю кого-то на улице, у кого есть золото IMO, я сразу обновляю свое мнение на "этот человек гораздо лучше разбирается в математике, чем я" теперь куча роботов могут это делать. как человек, у которого много своей идентичности и своей настоящей жизни построено вокруг "хорошо разбирается в математике", это удар под дых. это как бы умирание. как будто однажды ты обнаруживаешь, что можешь разговаривать с собаками. это весело и интересно, поэтому ты делаешь это чаще, изучая тонкости их языка и их глубочайшие обычаи. ты узнаешь, что другие люди удивлены тем, что ты можешь делать. ты никогда не вписывался, но ты понимаешь, что людям нравится твоя способность, и они хотят, чтобы ты был рядом, чтобы помочь им. собаки тоже ценят тебя, единственный двуногий, кто действительно понимает. ты собираешь для себя своего рода принадлежность. а потом однажды ты просыпаешься, и универсальный переводчик для собак продается в Walmart за 4,99 доллара результат IMO не совсем новость. на самом деле, если посмотреть на график длины задач агента METR с течением времени, я думаю, что агенты, способные решать задачи примерно за 1,5 часа, приходят как раз вовремя. так что в каком-то смысле нам не стоит удивляться. и действительно, похоже, что несколько компаний достигли того же результата. просто... поднимающаяся волна поднимается так быстро, как она поднималась конечно, горе по поводу моей личной идентичности как математика (и/или продуктивного члена общества) — это самая маленькая часть этой истории умножьте это горе на *каждого* математика, на каждого программиста, возможно, на каждого работника знаний, каждого художника... в течение следующих нескольких лет... это немного большая история и, конечно, помимо этого, есть страх настоящей смерти, о котором, возможно, я расскажу больше позже. этот пакет — горе за актуальность, горе за жизнь, горе за то, что я знал — не уникален для эпохи ИИ или чего-то подобного. я думаю, это стандартная вещь, когда человек приближается к концу карьеры или конца жизни. просто может быть, что это приходит немного раньше для многих из нас, сразу. я задаюсь вопросом, готовы ли мы.