Beaucoup d'opinions contradictoires sur gpt-oss (youpi, l'open-source sous les projecteurs) ! Nous alimentons la démo officielle de @openai avec des fournisseurs d'inférence HF grâce à @FireworksAI_HQ, @CerebrasSystems, @GroqInc et @togethercompute, donc nous avons une place au premier rang pour voir ce qui se passe. Une chose à garder à l'esprit : l'inférence pour les nouveaux modèles ouverts de pointe n'est pas facile, surtout avec un nouveau format comme harmony et le volume d'intérêt que gpt-oss suscite dès le départ. Les pics précoces peuvent temporairement affecter la qualité, la précision et l'ensemble des "vibes", en particulier juste 24 heures après la sortie, lorsque les fournisseurs courent contre la montre avec à peine quelques heures de sommeil ! Quelques conseils pour éviter de se faire une mauvaise opinion : - Si vous tenez à obtenir des vibes le plus rapidement possible, utilisez une configuration hébergée qui vous offre une diversité de fournisseurs comme les fournisseurs d'inférence HF (et suivez les guides standards officiels ( - Si vous le pouvez, essayez-le sur votre propre matériel à partir des pages de modèles HF (qui sont généralement de bonnes sources de vérité avec des transformers et vLLM (gardez à l'esprit que vous pouvez aussi faire des erreurs dans la génération là-bas) - Détendez-vous et prenez X opinions à chaud avec un grain de sel. Même si les premiers jours peuvent être déroutants, la puissance de l'open-source est qu'il n'y a pas de tricherie, donc nous découvrirons progressivement toutes les forces et les limites de ces modèles ! Personnellement, je pense que c'est une sortie marquante de l'équipe @OpenAI, du genre que nous nous souviendrons dans 10 ans à cause de ses implications. J'ai hâte de voir ce que l'avenir nous réserve 🚀🚀🚀

DIRECT5TREAM JEUDI 10H PT