Vi presenterar 'gpt-oss Pro Mode'! I grund och botten o3 Pro, men för de nya OpenAI-modellerna med öppen källkod :) Pro Mode kopplar ihop upp till 10 instanser av den nya OpenAI GPT-OSS-modellen, vilket gör att den kan producera ett bättre svar än vad en enskild instans kan skapa! Öppen källkod, länk här:

På Macbook M4 Max GPT-OSS 120B: 48 tok/s hög 35 tok/s normal 23 tok/s låg effekt Mycket fina utgångar, ny modell att välja

En röstagent som drivs av gpt-oss. Körs lokalt på min macBook. Demo inspelad i en Waymo med WiFi avstängt. Jag är fortfarande på min rymdspel röst AI-kick, uppenbarligen. Kodlänk nedan. För konversationsröst-AI vill du ställa in resonemangsbeteendet gpt-oss till "lågt". (Standardvärdet är "medium".) Anteckningar om hur du gör det och en jinja-mall som du kan använda finns i lagringsplatsen. LLM i demovideon är den stora 120B-versionen av gpt-oss. Du kan naturligtvis använda den mindre 20B-modellen för detta. Men OpenAI gjorde verkligen en cool sak här genom att designa 120B-modellen för att köras i "bara" 80 GB VRAM. Och den llama.cpp mlx-inferensen är snabb: ~250ms TTFT. Att köra en stor modell på enheten känns som en tidsresa in i AI:s framtid.

OpenAI GPT-OSS chattapp med Thinking-UI (100 % lokalt):

Det har bara gått drygt 19 timmar sedan OpenAI äntligen släppte gpt-oss, en helt öppen källkodsmodell. Och folk blir redan galet kreativa och resultat med det. 10 vilda exempel: