Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

steve hsu
Fizician, fondator AI, Manifold Podcast
NYT forțat să tipărească fapte care chiar nu-i plac.
SPUTNIK MOMENT = timp pentru a concura, gata cu COPE
"După cel de-al Doilea Război Mondial, când Statele Unite s-au confruntat cu o concurență militară și științifică crescută din partea Uniunii Sovietice, universitățile selective au început să acorde o importanță mai mare factorilor academici, inclusiv SAT", a spus Nicholas Lemann, care a scris despre istoria testării standardizate și este profesor de jurnalism la Universitatea Columbia.

24,07K
"Chiar și modelele de frontieră se luptă să se actualizeze dincolo de preantrenament, indiferent cât de convingătoare sunt noile dovezi".
Pregătim doctoranzi pentru a face acest lucru! Pot transformatoarele să o facă fără a-și schimba greutățile?


steve hsu8 aug., 07:29
Este raționamentul în lanț de gândire al LLM-urilor un miraj?
... Rezultatele noastre arată că raționamentul CoT este un miraj fragil care dispare atunci când este împins dincolo de distribuțiile de antrenament. Această lucrare oferă o înțelegere mai profundă a motivului și a momentului în care raționamentul CoT eșuează, subliniind provocarea continuă de a obține un raționament autentic și generalizabil.
... Descoperirile noastre arată că raționamentul CoT funcționează eficient atunci când este aplicat în distribuție sau în apropiere
date în distribuție, dar devine fragilă și predispusă la eșec chiar și în condiții de schimbări moderate de distribuție.
În unele cazuri, LLM-urile generează pași de raționament fluenți, dar inconsecvenți din punct de vedere logic. Rezultatele sugerează că ceea ce pare a fi un raționament structurat poate fi un miraj, care apare din modele memorate sau interpolate în datele de antrenament, mai degrabă decât din inferență logică.
... Împreună, aceste descoperiri sugerează că LLM-urile nu sunt raționamente principiale, ci mai degrabă simulatoare sofisticate de text asemănător raționamentului.

10,83K
NYT: Președintele Trump este așteptat să semneze joi un memorandum prin care cere colegiilor să trimită datele de admitere guvernului federal pentru a verifica conformitatea cu o decizie a Curții Supreme din 2023 care a pus capăt politicilor rasiale, potrivit unui oficial de rang înalt de la Casa Albă.
Acțiunea prezidențială cere, de asemenea, Lindei McMahon, secretarul educației, să crească numărul de verificări ale acurateței datelor furnizate de școli și să ia măsuri împotriva universităților care trimit informații incorecte sau inexacte.
Memorandumul va cere, de asemenea, Departamentului de Educație să-și reînnoiască procesul de colectare a datelor din învățământul superior, cunoscut sub numele de Sistemul integrat de date privind învățământul postsecundar, care include detalii despre admitere, înscriere și ajutor financiar. Aceste informații vor fi făcute mai accesibile publicului, potrivit unei fișe informative.

steve hsu6 aug., 07:05
NYTimes: Columbia și Brown vor dezvălui datele despre admitere și rasă în afacerea Trump
A fost nevoie de o amenințare existențială din partea lui Trump pentru a-i determina să publice aceste date. Cu ani în urmă, un comitet al facultății din sistemul Universității din California a examinat exact acest tip de date și a produs graficele de mai jos. Dacă vă uitați la date, veți înțelege natura monstruoasă a acțiunii afirmative așa cum a fost practicată în SUA timp de ~50 de ani.
NYT: ... Columbia și Brown vor trebui să mențină "politici de admitere bazate pe merit", potrivit înțelegerilor lor, care codifică obiectivele mai largi ale administrației într-un limbaj obligatoriu din punct de vedere juridic.
Universitățile "nu pot în niciun caz să prefere în mod ilegal solicitanții pe bază de rasă, culoare sau origine națională în admiterea în programele lor", se arată în ambele acorduri într-un limbaj identic. "Niciun proxy pentru admiterea rasială nu va fi tolerat".
... "Departamentul de Justiție va pune capăt unui sistem rușinos în care rasa cuiva contează mai mult decât abilitățile sale", a declarat Chad Mizelle, procurorul general adjunct interimar, în martie. "Fiecare colegiu și universitate ar trebui să știe că discriminarea ilegală la admitere va fi investigată și eliminată".
Limbajul folosit în înțelegerile cu Columbia și Brown susține afirmațiile contestate despre cazul de admitere al Curții Supreme pe care administrația Trump le-a făcut din februarie.
Insistă că decizia merge dincolo de admitere și interzice orice luare în considerare a rasei în viața universitară.


6,65K
NYTimes: Columbia și Brown vor dezvălui datele despre admitere și rasă în afacerea Trump
A fost nevoie de o amenințare existențială din partea lui Trump pentru a-i determina să publice aceste date. Cu ani în urmă, un comitet al facultății din sistemul Universității din California a examinat exact acest tip de date și a produs graficele de mai jos. Dacă vă uitați la date, veți înțelege natura monstruoasă a acțiunii afirmative așa cum a fost practicată în SUA timp de ~50 de ani.
NYT: ... Columbia și Brown vor trebui să mențină "politici de admitere bazate pe merit", potrivit înțelegerilor lor, care codifică obiectivele mai largi ale administrației într-un limbaj obligatoriu din punct de vedere juridic.
Universitățile "nu pot în niciun caz să prefere în mod ilegal solicitanții pe bază de rasă, culoare sau origine națională în admiterea în programele lor", se arată în ambele acorduri într-un limbaj identic. "Niciun proxy pentru admiterea rasială nu va fi tolerat".
... "Departamentul de Justiție va pune capăt unui sistem rușinos în care rasa cuiva contează mai mult decât abilitățile sale", a declarat Chad Mizelle, procurorul general adjunct interimar, în martie. "Fiecare colegiu și universitate ar trebui să știe că discriminarea ilegală la admitere va fi investigată și eliminată".
Limbajul folosit în înțelegerile cu Columbia și Brown susține afirmațiile contestate despre cazul de admitere al Curții Supreme pe care administrația Trump le-a făcut din februarie.
Insistă că decizia merge dincolo de admitere și interzice orice luare în considerare a rasei în viața universitară.


23,25K
Un alt 💀 grafic - de exemplu, uitați-vă la primele derivate medii în ultimele ~12 luni 🤔
🐒 <-- Tipul care vorbește mult despre politica AI, dar se luptă cu calcularea primelor derivate. SUA! SUA! Este în regulă!


steve hsu5 aug., 18:32
Susține ATOM! AI open source este bună!
Mai jos, un alt 💀 grafic. Lucrurile sunt MULT mai rele decât indică acest grafic, deoarece majoritatea descărcărilor de modele din China probabil că nu se întâmplă pe HuggingFace. Cu ~50% dintre dezvoltatorii AI din RPC și ~100% din descărcări fiind modele deschise realizate de laboratoare chineze (Llama nu este competitiv, ca să fiu sincer), punctul de trecere a avut loc deja la nivel global.
36,32K
Susține ATOM! AI open source este bună!
Mai jos, un alt 💀 grafic. Lucrurile sunt MULT mai rele decât indică acest grafic, deoarece majoritatea descărcărilor de modele din China probabil că nu se întâmplă pe HuggingFace. Cu ~50% dintre dezvoltatorii AI din RPC și ~100% din descărcări fiind modele deschise realizate de laboratoare chineze (Llama nu este competitiv, ca să fiu sincer), punctul de trecere a avut loc deja la nivel global.

Nathan Lambert4 aug., 22:08
America trebuie să ia mai în serios modelele deschise. În această vară, avansul timpuriu în adoptarea modelelor deschise din SUA prin Llama a fost depășit de modelele chinezești.
Cu proiectul American Truly Open Models (ATOM) căutăm să construim sprijin și să exprimăm urgența acestei probleme.

44,19K
Huawei openPangu-Ultra-MoE-718B-model
Nicio tehnologie Nvidia nu a fost folosită pentru a construi acest model - doar cipuri Ascend AI, CANN nu CUDA.
"... antrenat de la zero pe Ascend NPU, cu un număr total de parametri de 718B și 39B de parametri activați pe token. openPangu-Ultra-MoE-718B este antrenat pe aproximativ 19 trilioane de jetoane și echipat cu capacitatea de a comuta între gândirea rapidă și lentă."
Pare a fi un model de ultimă generație, dacă nu cel mai bun model deschis disponibil în prezent.
Link de mai jos - îl puteți descărca și utiliza

27,14K
Limită superioară
Clasament
Favorite
La modă pe lanț
La modă pe X
Principalele finanțări recente
Cele mai importante