Актуальные темы
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
С момента, как OpenAI выпустила gpt-oss, полностью открытая модель, прошло всего чуть больше 19 часов.
И люди уже начинают проявлять безумную креативность и получать результаты с её помощью.
10 диких примеров:
1. Создание режима Pro gpt-oss
В основном это o3 Pro, но с открытым исходным кодом
6 авг., 01:59
Представляем `gpt-oss Pro Mode`!
По сути, это o3 Pro, но для новых открытых моделей OpenAI :)
Pro Mode объединяет до 10 экземпляров новой модели OpenAI GPT-OSS, позволяя ей давать лучший ответ, чем один экземпляр мог бы создать!
Открытый исходный код, ссылка здесь:
2. Запуск gpt-oss 120b на Macbook M4 Max
6 авг., 03:03
На Macbook M4 Max
gpt-oss 120b:
48 ток/с высокий
35 ток/с нормальный
23 ток/с низкое потребление
Очень хорошие результаты, новая модель на выбор
4. Голосовой агент на базе gpt-oss
6 авг., 12:19
Голосовой агент на базе gpt-oss. Запускается локально на моем MacBook. Демонстрация записана в Waymo с отключенным WiFi.
Я все еще увлечен голосовым ИИ для космических игр, очевидно. Ссылка на код ниже.
Для разговорного голосового ИИ вам нужно установить поведение рассуждения gpt-oss на "низкое". (По умолчанию стоит "среднее".) Заметки о том, как это сделать, и шаблон jinja, который вы можете использовать, находятся в репозитории.
LLM в демонстрационном видео — это большая версия gpt-oss на 120 миллиардов параметров. Вы, конечно, можете использовать меньшую модель на 20 миллиардов. Но OpenAI действительно сделала классную вещь, разработав модель на 120 миллиардов, которая работает на "всего лишь" 80 ГБ VRAM. А инференс llama.cpp mlx быстрый: ~250 мс TTFT.
Запуск большой модели на устройстве ощущается как путешествие во времени в будущее ИИ.
9. gpt-oss с мыслительным приложением Chat
6 авг., 05:24
openai gpt-oss чат-приложение с thinking-ui (100% локально):
Если вам понравилась эта ветка,
Подпишитесь на меня @minchoi и, пожалуйста, добавьте в закладки, поставьте лайк, оставьте комментарий и перепостите первый пост ниже, чтобы поделиться с друзьями:
6 авг., 22:28
С момента, как OpenAI выпустила gpt-oss, полностью открытая модель, прошло всего чуть больше 19 часов.
И люди уже начинают проявлять безумную креативность и получать результаты с её помощью.
10 диких примеров:
323,72K
Топ
Рейтинг
Избранное