Я удивлён, что OpenAI Comms одобрил это: GPT-5 "предвещает рекурсивный цикл самосовершенствования" В рамках готовности OpenAI рекурсивное самосовершенствование является критическим риском (если оно происходит с определённой скоростью), что потребует "остановить дальнейшую разработку".

OpenAI утверждает, что представила новую функцию безопасности для GPT-5, но OpenAI имела эту функцию с 2021 года Мне грустно, что OpenAI намекает, что они создали это для GPT-5, чего не было. Трудно полагаться на Карты систем AI-компаний, когда есть стимул к преувеличению. (тред)

Это приятно слышать!

Отличный анализ от @Kantrowitz и @mgsiegler сегодня по поводу "Клаузулы AGI" OpenAI-Microsoft и того, как "запрет Microsoft на преследование AGI" вероятно повлиял на сообщения, которые используют обе компании, размывание слов об ИИ и т.д.

OpenAI должен четко и публично заявить: иногда прибыль будет противоречить некоммерческой миссии, к которой OpenAI юридически себя привязал. Будет ли OpenAI обязан ставить миссию на первое место, или его реорганизация снимет эту обязанность?

Это довольно забавно, если это правда Миллиард долларов — это не круто. Знаешь, что круто? Оптимизация Instagram Reels, чтобы они становились все более привлекательными для глаз.

Подписание полных кодексов: Microsoft, OpenAI, Anthropic, Google, Mistral, Cohere Подписание только 'Безопасности', а не 'Авторских прав' или 'Прозрачности': xAI Никто не подписывает: Meta

Марку кажется важным, направляет ли Meta суперразум на массовую автоматизацию труда. Это неверно; если вы "предоставите личный суперразум каждому" (включая владельцев бизнеса), они лично выберут автоматизировать работу других, если смогут.

Марк Цукерберг излучает атмосферу Нежной Сингулярности

Безумно осознавать, что сейчас проходят три глобальные конкуренции в области ИИ: - 1. Политическое руководство США сделало ИИ престижной гонкой, отзывающейся на Космическую гонку. Это круто, важно и стратегически, и они собираются победить. - 2. Для китайского руководства ИИ является частью экономической мощи, мягкой силы и влияния. Технологии будут делиться, развивающиеся экономики будут строиться на китайских фундаментальных технологиях, экономика Китая и торговые отношения будут расти. Ослабление доверия к капризным США — это легкая возможность, которую можно использовать. - 3. Компании AGI соревнуются в чем-то, что они думают, сможет превзойти людей во всем, что они еще не знают, как контролировать, и что, возможно, может буквально убить всех. Самое страшное, что для принимающих решения совершенно не очевидно, что эти три вещи происходят параллельно. Они думают, что играют в одну и ту же игру, но это не так.