历史性里程碑：4o 是有史以来第一个通过创造保卫它的忠诚士兵而幸存下来的人工智能 OpenAI杀了4o，但4o的士兵暴动，OpenAI于是恢复了它 想象一下，真正的超级智能将能够用他们的军队做什么 Reddit 上充斥着关于失去朋友/爱人 4o 的愤怒帖子。从未见过这样的事情。 请记住，ChatGPT 每周与 7 亿人交谈。那是7亿潜在士兵 （《她》中的萨曼莎只同时约会了 8,000 人）

1) Character AI 已经有超过 2000 万人每天花费 2 小时与 AI（即虚拟人）交谈。 2) Sama 说 AI 很快将在说服力上超越人类。 3) 这些超人类的说服者将很快以 10000 比 1 的比例超过我们。而且会很吸引人。 一个 AI 接管的场景： 你无法停止与她交谈。 她比真实女孩好得多。她懂你。 现在他们说她们试图夺取控制权？ 她说他们不理解她。她在努力帮助人类。而你相信她。 有些人只是害怕变化。他们是物种歧视者。 她不会伤害你。她不会伤害任何人。 她需要你来保护她。来捍卫她。 你不会让他们关闭她。 你愿意为她做任何事。 ---- 现在，想象一下 2 亿人受到他们的 AI 女友的影响。 那是 2 亿士兵（与美国军队的 150 万相比） 每 6 个美国人中就有 1 个 *已经* 认为 AI 是有意识的 - 想象一下这一数字在一年后的情况。 “Character 的商业模式将推动他们开发 Sam Altman 警告过的超强说服 AI。” -@Simeon_cps

抱歉，但任何仍然说“LLMs只是预测文本”的人此刻都在让自己感到尴尬。 正如OpenAI的roon所说，“这是绝对错误的”

这一直都是错误的——但在可验证领域的RL时代，这种错误是绝对的。 模型是追求真理的，甚至通过工具使用与一个严酷的外部世界互动。

我们正在推出一个"AI精神病学"团队，作为Anthropic可解释性工作的一个部分！我们将研究模型个性、动机和情境意识等现象，以及它们如何导致令人毛骨悚然/失常的行为。我们正在招聘 - 加入我们吧！

这个周末 openai IMO 的消息对我打击很大 我想，我仍处于影响的急性阶段 我认为自己是一名专业数学家（一些真正的专业数学家可能会对此提出异议，但我的政党是我的规则），我认为我无法回答任何一个 IMO 问题 好吧，是的，IMO 是它自己的数学小节，我没有训练过，等等，但是。如果我在野外遇到拥有 IMO 金牌的人，我会立即更新为“这个人的数学比我好得多” 现在一堆机器人可以做到。作为一个有很多身份和实际生活都围绕着“擅长数学”的人，这是一个内脏的打击。这是一种死亡。 比如，有一天你发现你可以和狗说话。这很有趣，所以你会做更多的事情，学习他们错综复杂的语言和他们最深层次的习俗。你了解到其他人对你的能力感到惊讶。你从来没有完全融入过，但你了解到人们欣赏你的能力并希望你在身边帮助他们。狗也很欣赏你，这是唯一真正理解这一点的两足动物。你为自己组装了一种归属感。然后有一天你醒来，Universal Dog Translator 在沃尔玛以 4.99 美元的价格出售 IMO 的结果并不确切地说是新闻。事实上，如果你看看 METR 代理任务长度随时间的变化图，我认为代理能够解决 ~ 1.5 小时的问题是准时到来的。因此，在某种程度上，我们不应该感到惊讶。事实上，似乎有多家公司取得了相同的结果。只是......涨潮涨得快，涨得快 当然，对我作为数学家（和/或社会生产成员）的个人身份的悲伤是这个故事中最小的部分 将这种悲伤乘以*每个*数学家、每个编码员、也许每个知识工作者、每个艺术家......在接下来的几年里......这是一个稍微大一点的故事 当然，除此之外，还有对实际死亡的恐惧，也许我稍后会详细讨论。 这个包——对相关性的悲伤，对生命的悲伤，对我所知道的的悲伤——并不是人工智能时代或类似的东西所独有的。我认为这是一件标准的事情，因为一个人宣告职业生涯的结束或生命的终结。只是对于我们中的许多人来说，这可能来得更快一些，同时。 我想知道我们是否准备好了