Er zijn veel tegenstrijdige meningen over gpt-oss (hoera voor open-source in de schijnwerpers)! We ondersteunen de officiële @openai demo met HF-inferentieproviders dankzij @FireworksAI_HQ, @CerebrasSystems, @GroqInc en @togethercompute, zodat we een front-row seat hebben van wat er gebeurt. Iets om te onthouden: inferentie voor nieuwe grensopen modellen is niet eenvoudig, vooral niet met een nieuw formaat zoals harmony en het volume van interesse dat gpt-oss vanaf het begin krijgt. Vroege pieken kunnen tijdelijk de kwaliteit, nauwkeurigheid en algehele "vibes" beïnvloeden, vooral 24 uur na de release wanneer providers tegen de klok racen met nauwelijks slaap! Enkele adviezen om te voorkomen dat je de verkeerde meningen vormt: - Als je zo snel mogelijk vibes wilt krijgen, gebruik dan een gehoste setup die je een diversiteit aan providers biedt, zoals HF-inferentieproviders (en volg officiële standaardgidsen ( - Als het kan, probeer het op je eigen hardware vanaf de HF-modelpagina's (die meestal goede waarheidsbronnen zijn met transformers en vLLM (houd er rekening mee dat je daar ook fouten kunt maken in de generatie) - Ontspan en neem X hete meningen met een korreltje zout. Zelfs als de eerste dagen verwarrend kunnen zijn, is de kracht van open-source dat er geen vals spel is, dus we zullen geleidelijk alle sterke en zwakke punten van deze modellen onthullen! Persoonlijk denk ik dat dit een mijlpaalrelease is van het @OpenAI-team, de soort die we over 10 jaar zullen herinneren vanwege de implicaties. Kan niet wachten om te zien wat de toekomst brengt 🚀🚀🚀