نقدم لكم "وضع gpt-oss Pro"! في الأساس o3 Pro ، ولكن بالنسبة لنماذج OpenAI مفتوحة المصدر الجديدة :) يربط الوضع الاحترافي معا ما يصل إلى 10 مثيلات من طراز OpenAI GPT-OSS الجديد ، مما يمكنه من إنتاج إجابة أفضل مما يمكن أن ينشئه مثيل واحد وحده! مفتوح المصدر ، رابط هنا:

على Macbook M4 Max GPT-OSS 120B: 48 توك / ثانية عالية 35 توك / ثانية عادي 23 توك / ثانية طاقة منخفضة مخرجات لطيفة جدا ، نموذج جديد للاختيار

وكيل صوتي مدعوم من gpt-oss. يعمل محليا على جهاز MacBook الخاص بي. تم تسجيل العرض التوضيحي في Waymo مع إيقاف تشغيل WiFi. من الواضح أنني ما زلت في ركلة الذكاء الاصطناعي الصوتية الخاصة بي في لعبة الفضاء. رابط الكود أدناه. بالنسبة إلى الذكاء الاصطناعي الصوتي للمحادثة ، تريد تعيين سلوك التفكير gpt-oss على "منخفض". (الإعداد الافتراضي هو "متوسط".) ملاحظات حول كيفية القيام بذلك وقالب jinja الذي يمكنك استخدامه موجودة في الريبو. LLM في الفيديو التجريبي هو الإصدار الكبير 120B من gpt-oss. يمكنك استخدام طراز 20B الأصغر لهذا الغرض بالطبع. لكن OpenAI فعلت حقا شيئا رائعا هنا في تصميم طراز 120B ليعمل بسعة 80 جيجابايت فقط من VRAM. والاستدلال llama.cpp mlx سريع: ~ 250 مللي ثانية TTFT. يبدو تشغيل نموذج كبير على الجهاز وكأنه تشوه زمني في مستقبل الذكاء الاصطناعي.

تطبيق الدردشة OpenAI GPT-OSS مع Thinking-UI (محلي 100٪):

لقد مرت ما يزيد قليلا عن 19 ساعة منذ أن أسقطت OpenAI gpt-oss ، نموذج مفتوح المصدر بالكامل أخيرا. والناس يصبحون بالفعل مبدعين مجنونين ونتائج معها. 10 أمثلة جامحة: