OpenAI在GPT-5的测试上没有对其进行比他们较弱的OS模型更严格的审查，这真让人失望。 OpenAI拥有可用于微调GPT-5的数据集，并能够更准确地衡量GPT-5的生物武器风险；他们只是选择不这样做。

我很惊讶 OpenAI 通讯会批准这个： GPT-5 "预示着一个递归自我改进循环" 在 OpenAI 的准备框架中，递归自我改进是一个关键风险（如果达到某个速率），这将要求 "停止进一步开发"

OpenAI声称为GPT-5引入了一项新安全功能，但OpenAI自2021年以来就拥有这项功能。 我很难过OpenAI暗示他们为GPT-5创造了这个功能，但实际上并没有。当AI公司有动机夸大其词时，很难依赖他们的系统卡片。（线程）

应给予应有的认可： OpenAI 在他们的开源安全评估中做了很多正确的事情 - 他们实际上进行了微调 - 他们获得了有用的外部反馈 - 他们分享了他们采纳了哪些建议以及哪些没有采纳 我并不总是理解 OAI 的理由，但他们分享信息真是太好了

听到这个真好！

今天@Kantrowitz 和 @mgsiegler 对 OpenAI-Microsoft 的“AGI 条款”进行了很好的分析，以及微软‘禁止追求 AGI’可能如何影响两家公司使用的信息、AI 词汇的稀释等。

OpenAI 应该明确而公开地说：有时利润会与 OpenAI 法律上绑定的非营利使命发生冲突。 OpenAI 是否需要将使命放在首位，还是其重组将解除这一义务？

如果这是真的，那就有点搞笑了 十亿美元并不酷。你知道什么酷吗？优化Instagram Reels，让它们对眼球更加诱人。

签署完整的代码：微软、OpenAI、Anthropic、谷歌、Mistral、Cohere 仅签署“安全”，不签署“版权”或“透明度”：xAI 未签署：Meta

现在反思正在进行的三场全球人工智能竞赛真是疯狂： - 1. 美国政治领导层将人工智能视为一种声望竞赛，回响着太空竞赛。这既酷又重要且具有战略意义，他们将会获胜。 - 2. 对于中国领导层来说，人工智能是经济实力、软实力和影响力的一部分。技术是共享的，发展中经济体将建立在中国的基础技术之上，中国的经济和贸易关系将会增长。对一个反复无常的美国信任的削弱是一个容易利用的机会。 - 3. AGI公司正在竞赛，他们认为这将超越人类的思维能力，但他们尚不知道如何控制，并且认为这可能会字面上杀死每一个人。 最可怕的是，决策者们并不清楚这三件事情是并行发生的。他们认为自己在玩同一场游戏，但实际上并不是。