منظور رائع ونصائح من @ClementDelangue في الأيام الأولى ل gpt-oss. يستغرق بناء أسس قوية وقتا ، ونحن متحمسون للعمل مع موفري الاستدلال @huggingface لمساعدة هذه النماذج على الأداء في أفضل حالاتها. يرجى الحفاظ على ملاحظاتك قادمة!
clem 🤗
clem 🤗‏6 أغسطس، 23:44
الكثير من اللقطات المتضاربة حول gpt-oss (yay مفتوح المصدر في دائرة الضوء)! نحن نعمل على تشغيل العرض التوضيحي الرسمي @openai مع موفري الاستدلال HF بفضل @FireworksAI_HQ و @CerebrasSystems و @GroqInc و @togethercompute حتى يكون لدينا مقعد في الصف الأمامي لما يحدث. شيء يجب تذكره: الاستدلال على النماذج المفتوحة الجديدة ليس بالأمر السهل ، خاصة مع تنسيق جديد مثل الانسجام وحجم الاهتمام الذي يخرج منه gpt-oss من البوابة. يمكن أن تؤثر الارتفاعات المبكرة مؤقتا على الجودة والدقة و "المشاعر العامة" ، لا سيما بعد 24 ساعة فقط من الإصدار عندما يتسابق مقدمو الخدمة مع عقارب الساعة بالكاد أي نوم! بعض النصائح لتجنب تكوين آراء خاطئة: - إذا كنت تهتم بالحصول على المشاعر في أسرع وقت ممكن ، فاستخدم إعدادا مستضافا يمنحك مجموعة متنوعة من مقدمي الخدمات مثل موفري الاستدلال HF ( واتبع الأدلة القياسية الرسمية ( - إذا استطعت ، جربه على أجهزتك الخاصة من صفحات طراز HF (والتي عادة ما تكون مصادر جيدة للحقيقة مع المحولات و vLLM (ضع في اعتبارك أنه يمكنك ارتكاب أخطاء في التوليد هناك أيضا) - يبرد ويأخذ X ساخنا مع حبة ملح. حتى لو كانت الأيام الأولى مربكة ، فإن قوة المصدر المفتوح هي أنه لا يوجد غش ، لذا سنكشف عن جميع نقاط القوة والقيود في هذه النماذج تدريجيا! أنا شخصيا أعتقد أن هذا إصدار تاريخي من قبل فريق @OpenAI ، من النوع الذي سنتذكره بعد 10 سنوات بسبب آثاره. لا استطيع الانتظار لنرى ما يخبئه 🚀🚀🚀 المستقبل
‏‎26‏K