Является ли рассуждение в стиле цепочки мыслей (Chain-of-Thought Reasoning) у LLM миражом? ... Наши результаты показывают, что рассуждение в стиле CoT является хрупким миражом, который исчезает, когда его выводят за пределы обучающих распределений. Эта работа предлагает более глубокое понимание того, почему и когда рассуждение CoT терпит неудачу, подчеркивая постоянную проблему достижения подлинного и обобщаемого рассуждения. ... Наши выводы показывают, что рассуждение CoT эффективно работает, когда применяется к данным в распределении или близким к ним, но становится хрупким и подверженным сбоям даже при умеренных изменениях распределения. В некоторых случаях LLM генерируют беглые, но логически несогласованные шаги рассуждения. Результаты предполагают, что то, что кажется структурированным рассуждением, может быть миражом, возникающим из запомненных или интерполированных паттернов в обучающих данных, а не из логического вывода. ... Вместе эти выводы предполагают, что LLM не являются принципиальными рассуждателями, а скорее сложными симуляторами текстов, похожих на рассуждения.

NYTimes: Колумбия и Браун раскроют данные о приеме и расе в сделке с Трампом Для того чтобы они выпустили эти данные, потребовалась экзистенциальная угроза от Трампа. Годы назад факультетский комитет системы Университета Калифорнии изучил именно такие данные и представил графики ниже. Если вы посмотрите на данные, вы поймете чудовищную природу позитивной дискриминации, как она практиковалась в США на протяжении ~50 лет. NYT: ... Колумбия и Браун должны будут поддерживать "политику приема на основе заслуг", согласно их соглашениям, которые кодифицируют более широкие цели администрации в юридически обязывающем языке. Университеты "не могут ни в коем случае незаконно отдавать предпочтение заявителям на основе расы, цвета кожи или национального происхождения при приеме на все свои программы", утверждают оба соглашения в идентичном языке. "Никакие прокси для расового приема не будут терпимы." ... "Министерство юстиции положит конец позорной системе, в которой раса человека имеет большее значение, чем его способности," сказал Чад Мизелл, исполняющий обязанности заместителя генерального прокурора, в марте. "Каждое колледж и университет должны знать, что незаконная дискриминация при приеме будет расследоваться и устраняться." Язык, использованный в соглашениях с Колумбией и Брауном, подчеркивает оспариваемые утверждения о деле по приему в Верховный суд, которые администрация Трампа делает с февраля. Он настаивает на том, что решение выходит за рамки приема и запрещает любое рассмотрение расы в университетской жизни.

Поддержите ATOM! Открытый искусственный интеллект — это хорошо! Ниже еще один 💀 график. Дела гораздо хуже, чем показывает этот график, потому что большинство загрузок модели из Китая, вероятно, не происходит на HuggingFace. При ~50% разработчиков ИИ в Китае и ~100% их загрузок, представляющих собой открытые модели, созданные китайскими лабораториями (Llama не конкурентоспособна, если быть честным), точка пересечения уже произошла на глобальном уровне.

Америке нужно серьезнее относиться к открытым моделям. Этим летом раннее лидерство США в принятии открытых моделей через Llama было обойденно китайскими моделями. С проектом American Truly Open Models (ATOM) мы стремимся создать поддержку и выразить срочность этого вопроса.