Astăzi marchează o realizare cu adevărat mare pentru Nous, dar și potențial pentru peisajul AI. Am început o rulare descentralizată de pre-antrenament a ceea ce este practic un Deepseek dens - 40B parametri, peste 20T de token-uri, cu MLA pentru eficiență lungă a contextului. Toate punctele de control, nerecoapte, recoapte, setul de date, totul va fi opensource live pe măsură ce antrenamentul continuă. Consultați blogul condus de echipa Psyche @DillonRolnick, au scris @theemozilla și Ari în tweet-ul citat pentru a afla *multe* mai multe despre infrastructură.
Nous Research
Nous Research15 mai 2025
Anunțarea lansării Psyche Nous Research democratizează dezvoltarea inteligenței artificiale. Astăzi, ne angajăm în cel mai mare efort de până acum pentru a transforma această misiune în realitate: The Psyche Network Psyche este o rețea de antrenament descentralizată care face posibilă reunirea calculului lumii pentru a antrena inteligența artificială puternică, oferind indivizilor și comunităților mici acces la resursele necesare pentru a crea modele noi, interesante și unice la scară mare. Lansăm astăzi rețeaua noastră de testare cu pre-antrenarea unui LLM cu parametri 40B, un model suficient de puternic pentru a servi drept bază pentru viitoarele activități în știința deschisă. Această rulare reprezintă cea mai mare rulare de pre-antrenament efectuată pe internet până în prezent, depășind iterațiile anterioare care au antrenat modele mai mici pe mult mai puține jetoane de date.
63,31K