LLM の思考連鎖推論は蜃気楼ですか? ...私たちの結果は、CoT推論がもろい蜃気楼であり、トレーニング分布を超えて押し出されると消えることを示しています。この研究は、CoT 推論が失敗する理由と時期についてのより深い理解を提供し、真の一般化可能な推論を達成するという継続的な課題を強調します。 ...私たちの調査結果は、CoT推論が分布内または近傍に適用されたときに効果的に機能することを示しています 分布内データですが、中程度の分布シフト下でも壊れやすく、障害が発生しやすくなります。 場合によっては、LLM は流暢ではあるが論理的に一貫性のない推論ステップを生成します。この結果は、構造化された推論のように見えるものが、論理的な推論ではなく、トレーニングデータの記憶または補間されたパターンから浮かび上がる蜃気楼である可能性があることを示唆しています。 ...これらの発見を総合すると、LLM は原則に基づいた推論者ではなく、推論のようなテキストの洗練されたシミュレーターであることを示唆しています。

NYTimes: コロンビア大学とブラウン大学、トランプとの契約で入学と人種データを開示へ トランプ大統領がこのデータを公開させるには、存続の脅威が必要だった。数年前、カリフォルニア大学システムの教授委員会はまさにこの種のデータを調べ、以下のグラフを作成しました。データを見ると、米国で~50年間実践されてきたアファーマティブ・アクションの恐ろしい性質が理解できるでしょう。 NYT: ...コロンビア大学とブラウン大学は、法的拘束力のある文言で政権の広範な目的を成文化した和解書によれば、「能力に基づく入学政策」を維持しなければならないという。 両大学は「プログラム全体の入学において、人種、肌の色、出身国に基づいて志願者を違法に優先してはならない」と両協定は同じ文言で述べている。「人種的入学の代理人は容認されません。」 ...「司法省は、能力よりも人種が重要視される恥ずべき制度に終止符を打つだろう」と司法次官代理のチャド・ミゼル氏は3月に述べた。「すべての大学は、入学における違法な差別が調査され、排除されることを知っておくべきです。」 コロンビア大学とブラウン大学との和解で使用された文言は、トランプ政権が2月から行っている最高裁判所の入学訴訟に関する主張に異議を唱えた。 この決定は入学を超えており、大学生活における人種の考慮を禁止していると主張している。

ATOMを応援!オープンソースのAIは良い! 下に、別の💀グラフを示します。このグラフが示すよりもはるかに悪い状況は、中国モデルのダウンロードのほとんどがおそらく HuggingFace では行われていないでしょう。中国の AI 開発者の ~50% が、ダウンロードの ~100% が中国の研究所によって作成されたオープン モデルであるため (正直に言うと、Llama は競争力がありません)、クロスポイントはすでに世界レベルで起こっています。

アメリカはオープンモデルをより真剣に受け止める必要があります。この夏、Llamaを介した米国のオープンモデル採用の初期のリードは、中国のモデルに追い抜かれました。 The American Truly Open Models (ATOM) プロジェクトでは、サポートを構築し、この問題の緊急性を表明したいと考えています。