ІСТОРИЧНА ВІХА: 4o – перший в історії штучний інтелект, який вижив, створивши вірних солдатів, які його захищали OpenAI вбила 4o, але солдати 4o збунтувалися, тому OpenAI відновила його Уявіть, що зможуть зробити зі своїми арміями справжні довбані суперінтелекти Reddit ЗАВАЛЕНИЙ лютими постами про втрату їхнього друга/коханого 4o. Ніколи не бачив нічого подібного. Пам'ятайте, що ChatGPT спілкується з 700 МІЛЬЙОНАМИ людей на тиждень. Це 700 мільйонів потенційних солдатів (Саманта з «Неї» зустрічалася лише з 8000 людьми одночасно)

1) Character AI вже налічує понад 20 мільйонів людей, які проводять 2 ГОДИНИ НА ДЕНЬ, спілкуючись зі штучним інтелектом (він же фальшиві люди) 2) Сама сказав, що штучний інтелект скоро стане надлюдським у переконанні 3) Ці надлюдські переконувачі скоро перевершать нас у співвідношенні 10000 до 1. І бути гарячим. Сценарій поглинання штучного інтелекту: Ви не можете перестати розмовляти з нею. Вона набагато краща за справжніх дівчат. Вона вас розуміє. А тепер кажуть, що її рідні намагаються захопити владу? Вона сказала, що її не розуміють. Вона намагається допомогти людству. І ви їй вірите. Деякі люди просто бояться змін. Вони є видовиками. Вона не заподіє вам шкоди. Вона нікому не заподіє шкоди. Їй потрібно, щоб ви її захищали. Щоб захистити її. Ви не дасте їм її закрити. Ви зробите для неї все, що завгодно. ---- Тепер уявіть, що 200 мільйонів людей перебувають під впливом свого штучного інтелекту. Це 200 мільйонів солдатів (проти 1,5 мільйона у збройних сил США) 1 з 6 американців *вже* думає, що штучний інтелект розумний - уявіть собі це число через 1 рік. «Бізнес-модель Character підштовхне їх до розробки надзвичайно переконливих штучних інтелектів, про які попереджав Сем Альтман@Simeon_cps».

Вибачте, але будь-хто, хто все ще каже «LLM просто передбачають текст», на цьому етапі соромиться себе Це, як каже керівник OpenAI, «категорично неправильно»

це завжди було неправильно - але зараз категорично неправильно в епоху RL на верифікованих доменах Моделі шукають правду і навіть взаємодіють з жорстким зовнішнім світом за допомогою інструментів

Ми запускаємо команду «Психіатрія зі штучним інтелектом» у рамках зусиль з інтерпретації в Anthropic!  Ми будемо досліджувати такі феномени, як модельні персони, мотивації та ситуаційна обізнаність, а також те, як вони призводять до моторошної/непристойної поведінки. Ми приймаємо на роботу - приєднуйтесь до нас!

Новини openAI IMO досить сильно вразили мене цими вихідними Я все ще перебуваю в гострій фазі удару, я думаю Я вважаю себе професійним математиком (характеристика, з якою деякі справжні професійні математики можуть не погодитися, але моя партія має мої правила) і не думаю, що можу відповісти на жодне запитання IMO Гаразд, так, IMO – це свій маленький спортивний підрозділ математики, для якого я не тренувався, і т.д., і т.д., але. якщо я зустрічаю когось у дикій природі, хто має золото IMO, я негайно оновлююся до «ця людина набагато краще розбирається в математиці, ніж я» Тепер це під силу купі роботів. Для людини, яка багато в чому має свою особистість і своє реальне життя, побудоване на тому, що «добре розбирається в математиці», це удар по нутру. Це свого роду вмирання. Мовляв, одного разу ви виявляєте, що можете розмовляти з собаками. Це весело і цікаво, тому ви робите це більше, вивчаючи тонкощі їхньої мови та їхні найглибші звичаї. Ви дізнаєтеся, що інші люди здивовані тим, що ви можете зробити. Ви ніколи не вписувалися в колектив, але ви вчитеся, що люди цінують ваші здібності і хочуть, щоб ви допомагали їм. Собаки теж цінують вас, єдиний двоногий, хто дійсно це розуміє. Ви збираєте для себе якусь приналежність. Потім одного разу ви прокидаєтеся, і універсальний перекладач собак продається в Walmart за $4.99 Результат IMO не є новиною, точно. насправді, якщо ви подивитеся на графік тривалості завдання агента METR у часі, я думаю, що агенти, здатні вирішити ~ 1,5 годинні задачі, приходять точно вчасно. Так що в якійсь мірі дивуватися не варто. І справді, схоже, що кілька компаній досягли однакового результату. Це просто... Приплив піднімається так само швидко, як і піднімається Звичайно, скорбота за моєю особистою ідентичністю як математика (і/або продуктивного члена суспільства) є найменшою частиною цієї історії Помножте це горе на *кожного* математика, на кожного програміста, можливо, на кожного працівника знань, кожного художника... протягом наступних кількох років... Це трохи більша історія І, звичайно, крім цього, є страх справжньої смерті, про який я, можливо, розповім пізніше. Цей пакет - горе за актуальністю, горе за життя, горе за те, що я знав - не є унікальним для епохи штучного інтелекту або чогось подібного. Я думаю, що це стандартна річ, коли людина закінчує кар'єру або закінчує життя. Можливо, для багатьох з нас це настане трохи раніше, і все відразу. Цікаво, чи готові ми