Le raisonnement par chaîne de pensée des LLMs est-il un mirage ? ... Nos résultats révèlent que le raisonnement CoT est un mirage fragile qui disparaît lorsqu'il est poussé au-delà des distributions d'entraînement. Ce travail offre une compréhension plus profonde des raisons pour lesquelles et des moments où le raisonnement CoT échoue, soulignant le défi permanent d'atteindre un raisonnement véritable et généralisable. ... Nos découvertes révèlent que le raisonnement CoT fonctionne efficacement lorsqu'il est appliqué à des données dans la distribution ou proches de la distribution, mais devient fragile et sujet à l'échec même sous des changements de distribution modérés. Dans certains cas, les LLMs génèrent des étapes de raisonnement fluides mais logiquement inconsistantes. Les résultats suggèrent que ce qui semble être un raisonnement structuré peut être un mirage, émergeant de motifs mémorisés ou interpolés dans les données d'entraînement plutôt que d'une inférence logique. ... Ensemble, ces résultats suggèrent que les LLMs ne sont pas des raisonneurs principiels mais plutôt des simulateurs sophistiqués de textes ressemblant à du raisonnement.

NYTimes : Columbia et Brown vont divulguer des données sur les admissions et la race dans le cadre de l'accord Trump Il a fallu une menace existentielle de Trump pour les amener à publier ces données. Il y a des années, un comité de faculté du système de l'Université de Californie a examiné ce type de données et a produit les graphiques ci-dessous. Si vous regardez les données, vous comprendrez la nature monstrueuse de l'action affirmative telle qu'elle est pratiquée aux États-Unis depuis environ 50 ans. NYT : ... Columbia et Brown devront maintenir des "politiques d'admission basées sur le mérite", selon leurs règlements, qui codifient les objectifs plus larges de l'administration dans un langage juridiquement contraignant. Les universités "ne peuvent en aucun cas préférer illégalement des candidats en fonction de la race, de la couleur ou de l'origine nationale dans les admissions à travers leurs programmes", stipulent les deux accords dans un langage identique. "Aucun substitut pour l'admission raciale ne sera toléré." ... "Le Département de la Justice mettra fin à un système honteux dans lequel la race de quelqu'un compte plus que sa capacité", a déclaré Chad Mizelle, l'assistant procureur général par intérim, en mars. "Chaque collège et université devrait savoir que la discrimination illégale dans les admissions sera enquêtée et éliminée." Le langage utilisé dans les règlements avec Columbia et Brown renforce des assertions contestées concernant l'affaire des admissions de la Cour suprême que l'administration Trump fait depuis février. Il insiste sur le fait que la décision va au-delà des admissions et interdit toute considération de la race dans la vie universitaire.

Soutenez ATOM ! L'IA open source est bonne ! Ci-dessous, un autre 💀 graphique. Les choses sont BEAUCOUP pires que ce que ce graphique indique car la plupart des téléchargements du modèle chinois ne se font probablement pas sur HuggingFace. Avec ~50 % des développeurs d'IA en RPC, et ~100 % de leurs téléchargements étant des modèles open source réalisés par des laboratoires chinois (Llama n'est pas compétitif, pour être honnête), le point de croisement s'est déjà produit à l'échelle mondiale.

L'Amérique doit prendre les modèles ouverts plus au sérieux. Cet été, l'avance initiale des États-Unis en matière d'adoption de modèles ouverts via Llama a été dépassée par des modèles chinois. Avec le projet The American Truly Open Models (ATOM), nous cherchons à construire un soutien et à exprimer l'urgence de cette question.