Is Chain-of-Thought Redeneren van LLMs een Mirage? ... Onze resultaten onthullen dat CoT-redeneren een broze mirage is die verdwijnt wanneer het verder wordt geduwd dan de trainingsdistributies. Dit werk biedt een dieper inzicht in waarom en wanneer CoT-redeneren faalt, en benadrukt de voortdurende uitdaging om oprechte en generaliseerbare redenering te bereiken. ... Onze bevindingen onthullen dat CoT-redeneren effectief werkt wanneer het wordt toegepast op in-distributie of nabij in-distributie gegevens, maar fragiel en kwetsbaar wordt voor falen, zelfs onder gematigde distributieverschuivingen. In sommige gevallen genereren LLMs vloeiende maar logisch inconsistente redeneringsstappen. De resultaten suggereren dat wat lijkt op gestructureerde redenering een mirage kan zijn, voortkomend uit gememoriseerde of geïnterpoleerde patronen in de trainingsdata in plaats van logische inferentie. ... Samen suggereren deze bevindingen dat LLMs geen principiële redenaars zijn, maar eerder geavanceerde simulators van redenering-achtige tekst.

NYTimes: Columbia en Brown zullen toelatings- en racedata openbaar maken in Trump-deal Het heeft een existentiële bedreiging van Trump nodig gehad om hen te dwingen deze gegevens vrij te geven. Jaren geleden onderzocht een faculteitscommissie van het University of California-systeem precies dit soort gegevens en produceerde de onderstaande grafieken. Als je naar de gegevens kijkt, begrijp je de monsterachtige aard van positieve discriminatie zoals die in de VS al ~50 jaar wordt toegepast. NYT: ... Columbia en Brown zullen "op verdienste gebaseerde toelatingsbeleid" moeten handhaven, volgens hun schikkingen, die de bredere doelen van de administratie in wettelijk bindende taal codificeren. De universiteiten "mogen op geen enkele manier onwettig voorkeur geven aan aanvragers op basis van ras, kleur of nationale afkomst in toelatingen in al hun programma's," stellen beide overeenkomsten in identieke taal. "Geen proxy voor raciale toelating zal worden getolereerd." ... "Het ministerie van Justitie zal een einde maken aan een schandelijke systeem waarin iemands ras belangrijker is dan hun vermogen," zei Chad Mizelle, de waarnemend adjunct-procureur-generaal, in maart. "Elke hogeschool en universiteit moet weten dat illegale discriminatie in toelatingen zal worden onderzocht en geëlimineerd." De taal die in de schikkingen met Columbia en Brown wordt gebruikt, benadrukt betwiste beweringen over de toelatingszaak van het Hooggerechtshof die de Trump-administratie sinds februari maakt. Het insisteert dat de beslissing verder gaat dan toelatingen en elke overweging van ras in het universitaire leven verbiedt.

Steun ATOM! Open source AI is goed! Hieronder, nog een 💀 grafiek. De situatie is VEEL erger dan deze grafiek aangeeft, omdat de meeste downloads van het China-model waarschijnlijk niet op HuggingFace plaatsvinden. Met ~50% van de AI-ontwikkelaars in de PRC, en ~100% van hun downloads zijnde open modellen gemaakt door Chinese laboratoria (Llama is eerlijk gezegd niet competitief), is het kruispunt al op wereldniveau bereikt.

Amerika moet open modellen serieuzer nemen. Deze zomer is de vroege voorsprong van de VS in de adoptie van open modellen via Llama overgenomen door Chinese modellen. Met het American Truly Open Models (ATOM) Project willen we steun opbouwen en de urgentie van deze kwestie uitdrukken.