Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Au trecut doar puțin peste 19 ore de când OpenAI a renunțat în sfârșit la gpt-oss, model complet open source.
Și oamenii devin deja nebuni de creativi și rezultate cu asta.
10 exemple sălbatice:
1. Construirea modului gpt-oss Pro
Practic o3 Pro, dar open source
6 aug., 01:59
Vă prezentăm "gpt-oss Pro Mode"!
Practic o3 Pro, dar pentru noile modele open source OpenAI :)
Modul Pro înlănțuie până la 10 instanțe ale noului model OpenAI GPT-OSS, permițându-i să producă un răspuns mai bun decât ar putea crea o singură instanță!
Open source, link aici:
2. Rularea gpt-oss 120b pe Macbook M4 Max
6 aug., 03:03
Pe Macbook M4 Max
GPT-OSS 120B:
48 Tok/s ridicat
35 Tok/s normal
23 Tok/s putere redusă
Ieșiri foarte frumoase, model nou la alegere
4. Agent vocal alimentat de gpt-oss
6 aug., 12:19
Un agent vocal alimentat de gpt-oss. Rulează local pe MacBook-ul meu. Demo înregistrat într-un Waymo cu WiFi dezactivat.
Sunt încă pe jocul meu spațial, evident. Link de cod de mai jos.
Pentru AI vocal conversațional, doriți să setați comportamentul de raționament gpt-oss la "scăzut". (Valoarea implicită este "mediu".) Note despre cum să faceți asta și un șablon jinja pe care îl puteți folosi sunt în depozit.
LLM din videoclipul demo este versiunea mare, 120B a gpt-oss. Puteți folosi modelul mai mic, 20B pentru asta, desigur. Dar OpenAI a făcut cu adevărat un lucru interesant aici, proiectând modelul 120B pentru a rula în "doar" 80 GB de VRAM. Și inferența llama.cpp mlx este rapidă: ~250ms TTFT.
Rularea unui model mare pe dispozitiv se simte ca o transformare în timp în viitorul AI.
9. gpt-oss cu aplicația thinking Chat
6 aug., 05:24
Aplicația de chat OpenAI GPT-OSS cu Thinking-UI (100% locală):
Dacă ți-a plăcut acest subiect,
Urmărește-mă @minchoi și te rog să marchezi, să dai like, să comentezi și să repostezi prima postare de mai jos pentru a o împărtăși cu prietenii tăi:
6 aug., 22:28
Au trecut doar puțin peste 19 ore de când OpenAI a renunțat în sfârșit la gpt-oss, model complet open source.
Și oamenii devin deja nebuni de creativi și rezultate cu asta.
10 exemple sălbatice:
323,75K
Limită superioară
Clasament
Favorite