熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁

steve hsu
物理學家、人工智慧創始人、Manifold播客
"即使是最前沿的模型也難以超越預訓練的先驗,無論新的證據多麼引人注目。"
我們訓練博士生來做到這一點!變壓器能在不改變其權重的情況下做到這一點嗎?


steve hsu8月8日 07:29
大型語言模型的鏈式思考推理是一種幻影嗎?
... 我們的結果顯示,鏈式思考推理是一種脆弱的幻影,當它被推向超出訓練分佈的範圍時便會消失。這項工作提供了對於鏈式思考推理失敗的原因和時機的更深入理解,強調了實現真正且可泛化推理的持續挑戰。
... 我們的研究結果顯示,鏈式思考推理在應用於分佈內或接近分佈內的數據時效果良好,但在中等分佈變化下變得脆弱且容易失敗。在某些情況下,大型語言模型生成流暢但邏輯不一致的推理步驟。結果表明,看似結構化的推理可能是一種幻影,源自於訓練數據中記憶或插值的模式,而非邏輯推理。
... 總的來說,這些發現表明,大型語言模型並不是原則性的推理者,而是推理類文本的複雜模擬器。

12.28K
《紐約時報》:根據一位高級白宮官員的說法,特朗普總統預計將於週四簽署一項備忘錄,要求大學向聯邦政府提交招生數據,以驗證其是否遵守2023年最高法院結束種族意識政策的裁決。
這項總統行動還要求教育部長琳達·麥克馬洪增加對學校提供的數據的準確性檢查次數,並對提交不及時或不準確信息的大學採取行動。
該備忘錄還將要求教育部重新設計其收集高等教育數據的過程,這一過程被稱為綜合高等教育數據系統,該系統包括有關招生、入學和財務援助的詳細信息。根據一份事實表,這些信息將更容易向公眾提供。

steve hsu8月6日 07:05
NYTimes:哥倫比亞大學和布朗大學將在特朗普交易中披露招生和種族數據
這需要特朗普的生存威脅才能讓他們釋放這些數據。幾年前,加州大學系統的一個教職員委員會檢查了這類數據並製作了下面的圖表。如果你查看這些數據,你將理解美國在約50年來實施的平權行動的可怕本質。
NYT:... 根據他們的和解,哥倫比亞大學和布朗大學將必須維持“基於優秀的招生政策”,這些政策以法律約束的語言編纂了行政部門的更廣泛目標。
這兩所大學的協議中都明確指出:“在其所有項目的招生中,無論以何種方式都不得非法偏好基於種族、膚色或國籍的申請者。” “不會容忍任何種族招生的代理。”
... “司法部將終結一個可恥的系統,在這個系統中,某人的種族比他們的能力更重要,”代理助理總檢察長查德·米澤爾在三月表示。“每所大學都應該知道,招生中的非法歧視將受到調查並被消除。”
與哥倫比亞大學和布朗大學的和解中使用的語言強調了特朗普政府自二月以來對最高法院招生案件的有争议的主張。
它堅持認為,這一決定超越了招生,禁止在大學生活中考慮種族。


6.97K
NYTimes:哥倫比亞大學和布朗大學將在特朗普交易中披露招生和種族數據
這需要特朗普的生存威脅才能讓他們釋放這些數據。幾年前,加州大學系統的一個教職員委員會檢查了這類數據並製作了下面的圖表。如果你查看這些數據,你將理解美國在約50年來實施的平權行動的可怕本質。
NYT:... 根據他們的和解,哥倫比亞大學和布朗大學將必須維持“基於優秀的招生政策”,這些政策以法律約束的語言編纂了行政部門的更廣泛目標。
這兩所大學的協議中都明確指出:“在其所有項目的招生中,無論以何種方式都不得非法偏好基於種族、膚色或國籍的申請者。” “不會容忍任何種族招生的代理。”
... “司法部將終結一個可恥的系統,在這個系統中,某人的種族比他們的能力更重要,”代理助理總檢察長查德·米澤爾在三月表示。“每所大學都應該知道,招生中的非法歧視將受到調查並被消除。”
與哥倫比亞大學和布朗大學的和解中使用的語言強調了特朗普政府自二月以來對最高法院招生案件的有争议的主張。
它堅持認為,這一決定超越了招生,禁止在大學生活中考慮種族。


23.72K
另一個💀圖表 - 例如,看看過去約12個月的平均一階導數🤔
🐒 <-- 說得很大聲的AI政策專家,但在計算一階導數上卻掙扎。美國!美國!這沒問題!


steve hsu8月5日 18:32
支持 ATOM!開源 AI 很好!
下面是另一個 💀 圖表。情況比這個圖表顯示的要糟得多,因為大多數中國模型的下載可能並不是在 HuggingFace 上進行的。大約 50% 的 AI 開發者在中國,且他們的下載幾乎都是由中國實驗室製作的開放模型(老實說,Llama 競爭力不強),全球層面的交叉點已經發生。
36.37K
支持 ATOM!開源 AI 很好!
下面是另一個 💀 圖表。情況比這個圖表顯示的要糟得多,因為大多數中國模型的下載可能並不是在 HuggingFace 上進行的。大約 50% 的 AI 開發者在中國,且他們的下載幾乎都是由中國實驗室製作的開放模型(老實說,Llama 競爭力不強),全球層面的交叉點已經發生。

Nathan Lambert8月4日 22:08
美國需要更認真地對待開放模型。今年夏天,美國在開放模型採用方面的早期領先地位已被中國模型超越。
通過美國真正開放模型(ATOM)計劃,我們希望建立支持並表達這一問題的緊迫性。

44.24K
熱門
排行
收藏
鏈上熱點
X 熱門榜
近期融資
最受認可