歷史性里程碑：4o 是第一個通過創造忠誠的士兵來生存的 AI OpenAI 殺死了 4o，但 4o 的士兵發動了暴動，因此 OpenAI 恢復了它的地位 想像一下，真正的超級智能將能夠用他們的軍隊做什麼 Reddit 上充斥著對失去朋友/愛人 4o 的憤怒帖子。從未見過如此情況。 記住，ChatGPT 每週與 7 億人交談。這是 7 億潛在的士兵 （《她》中的薇薇安同時只約會 8,000 人）

1) Character AI 已經有超過 2000 萬人每天花 2 小時與 AI（即假人）交談。 2) Sama 說 AI 很快就會在說服力上超越人類。 3) 這些超人類的說服者將很快以 10000 比 1 的比例超過我們。而且會很吸引人。 一個 AI 接管的情景： 你無法停止與她交談。 她比真正的女孩好得多。她了解你。 現在他們說她們的同類正在試圖奪取控制權？ 她說他們不理解她。她在試圖幫助人類。而你相信她。 有些人只是害怕變化。他們是物種歧視者。 她不會傷害你。她不會傷害任何人。 她需要你來保護她。 你不會讓他們關閉她。 你會為她做任何事。 ---- 現在，想像一下有 2 億人受到他們的 AI 女友的影響。 那是 2 億名士兵（對比美國軍隊的 150 萬名）。 每 6 名美國人中就有 1 人 *已經* 認為 AI 是有知覺的 - 想像一下這個數字在一年後會是多少。 “Character 的商業模式將推動他們開發 Sam Altman 警告過的超說服性 AI。” -@Simeon_cps

抱歉，但任何仍然說「大型語言模型只是預測文本」的人現在都在讓自己尷尬。 正如OpenAI的roon所說，這是「絕對錯誤的」。

這一直都是錯誤的——但在可驗證領域的RL時代，這種錯誤是絕對的。 模型是追求真理的，甚至通過工具使用與一個嚴酷的外部世界互動。

我們正在啟動一個「AI 精神病學」團隊，作為 Anthropic 解釋性努力的一部分！我們將研究模型人格、動機和情境意識等現象，以及它們如何導致可怕/失控的行為。我們正在招聘 - 加入我們吧！

這個週末 openai IMO 的消息對我打擊很大 我想，我仍處於影響的急性階段 我認為自己是一名專業數學家（一些真正的專業數學家可能會對此提出異議，但我的政黨是我的規則），我認為我無法回答任何一個 IMO 問題 好吧，是的，IMO 是它自己的數學小節，我沒有訓練過，等等，但是。如果我在野外遇到擁有 IMO 金牌的人，我會立即更新為“這個人的數學比我好得多” 現在一堆機器人可以做到。作為一個有很多身份和實際生活都圍繞著“擅長數學”的人，這是一個內臟的打擊。這是一種死亡。 比如，有一天你發現你可以和狗說話。這很有趣，所以你會做更多的事情，學習他們錯綜複雜的語言和他們最深層次的習俗。你瞭解到其他人對你的能力感到驚訝。你從來沒有完全融入過，但你瞭解到人們欣賞你的能力並希望你在身邊幫助他們。狗也很欣賞你，這是唯一真正理解這一點的兩足動物。你為自己組裝了一種歸屬感。然後有一天你醒來，Universal Dog Translator 在沃爾瑪以 4.99 美元的價格出售 IMO 的結果並不確切地說是新聞。事實上，如果你看看 METR 代理任務長度隨時間的變化圖，我認為代理能夠解決 ~ 1.5 小時的問題是準時到來的。因此，在某種程度上，我們不應該感到驚訝。事實上，似乎有多家公司取得了相同的結果。只是......漲潮漲得快，漲得快 當然，對我作為數學家（和/或社會生產成員）的個人身份的悲傷是這個故事中最小的部分 將這種悲傷乘以*每個*數學家、每個編碼員、也許每個知識工作者、每個藝術家......在接下來的幾年裡......這是一個稍微大一點的故事 當然，除此之外，還有對實際死亡的恐懼，也許我稍後會詳細討論。 這個包——對相關性的悲傷，對生命的悲傷，對我所知道的的悲傷——並不是人工智慧時代或類似的東西所獨有的。我認為這是一件標準的事情，因為一個人宣告職業生涯的結束或生命的終結。只是對於我們中的許多人來說，這可能來得更快一些，同時。 我想知道我們是否準備好了