Apresentando o `gpt-oss Pro Mode`! Basicamente o3 Pro, mas para os novos modelos de código aberto da OpenAI :) O Pro Mode encadeia até 10 instâncias do novo modelo GPT-OSS da OpenAI, permitindo que produza uma resposta melhor do que uma única instância poderia criar! Código aberto, link aqui:

No Macbook M4 Max gpt-oss 120b: 48 tok/s alto 35 tok/s normal 23 tok/s baixo consumo Saídas muito boas, novo modelo de escolha

Um agente de voz alimentado por gpt-oss. Executando localmente no meu macBook. Demonstração gravada em um Waymo com o WiFi desligado. Ainda estou na minha fase de IA de voz para jogos espaciais, obviamente. Link do código abaixo. Para IA de voz conversacional, você quer definir o comportamento de raciocínio do gpt-oss como "baixo". (O padrão é "médio".) Notas sobre como fazer isso e um template jinja que você pode usar estão no repositório. O LLM no vídeo da demonstração é a grande versão de 120B do gpt-oss. Você pode usar o modelo menor de 20B para isso, é claro. Mas a OpenAI realmente fez algo legal aqui ao projetar o modelo de 120B para rodar em "apenas" 80GB de VRAM. E a inferência do llama.cpp mlx é rápida: ~250ms TTFT. Executar um grande modelo no dispositivo parece uma viagem no tempo para o futuro da IA.

aplicativo de chat openai gpt-oss com thinking-ui (100% local):

Já se passaram pouco mais de 19 horas desde que a OpenAI lançou o gpt-oss, um modelo totalmente open source finalmente. E as pessoas já estão ficando loucamente criativas e obtendo resultados com isso. 10 exemplos incríveis: