Dnešek znamená pro Nous, ale potenciálně také pro AI Landscape, opravdu velký úspěch. Zahájili jsme decentralizovaný předtréninkový běh toho, co je v podstatě hustý Deepseek - 40B parametry, přes 20T tokenů, s MLA pro dlouhodobou kontextovou efektivitu. Všechny kontrolní body, nežíhané, žíhané, datová sada, vše bude v průběhu školení živě opensource. Podívejte se na blog, který tým Psyche vede @DillonRolnick, @theemozilla a Ari napsali v citátovém tweetu, abyste se dozvěděli *hodně* více o infrastruktuře.
Nous Research
Nous Research15. 5. 2025
Oznámení o spuštění programu Psyche Nous Research demokratizuje vývoj umělé inteligence. Dnes se pouštíme do našeho dosud největšího úsilí, aby se tato mise stala skutečností: Síť Psyche Psyche je decentralizovaná školicí síť, která umožňuje spojit světové výpočetní prostředky za účelem trénování výkonné umělé inteligence a poskytuje jednotlivcům a malým komunitám přístup ke zdrojům potřebným k vytváření nových, zajímavých a jedinečných modelů ve velkém měřítku. Dnes spouštíme naši testovací síť s předběžným trénováním 40B parametru LLM, což je model dostatečně výkonný, aby sloužil jako základ pro budoucí snahy v otevřené vědě. Toto spuštění představuje dosud největší předtrénovací běh provedený přes internet a překonal předchozí iterace, které trénovaly menší modely na mnohem menším počtu datových tokenů.
63,32K