تعاني من إجهاد chatbot؟ هل تشعر بالإحباط من إلغاء التفرد؟ هل تبحث عن شيء جديد يمنحك الأمل؟ ها هي خطتي الوهمية ، لكن "مهلا ، من المنطقي نوعا ما" لبناء ذكاء فائق في مختبر الأبحاث المستقل الصغير الخاص بي (ملاحظة: سأتداول الدقة في علم أصول التدريس) أولا ، خلفية: أنا رجل يبلغ من العمر 33 عاما أمضيت آخر 22 عاما في البرمجة. خلال الوقت ، طرحت العديد من الأسئلة حول طبيعة الحوسبة ، وتراكمت بعض ... غريب... البصائر. قبل بضع سنوات ، قمت ببناء HVM ، وهو نظام قادر على تشغيل البرامج بلغة مقصورة على فئة معينة تسمى "Haskell" على وحدة معالجة الرسومات - نعم ، نفس الشريحة التي جعلت التعلم العميق يعمل ، وأثارت دورة الذكاء الاصطناعي بأكملها. ولكن كيف يرتبط هاسكل الذكاء الاصطناعي؟ حسنا ، هذه قصة طويلة. كما قد يتذكر الشيوخ ، في ذلك الوقت ، كان ما أطلقنا عليه اسم "الذكاء الاصطناعي" ... مختلف. منذ ما يقرب من 3 عقود ، ولأول مرة على الإطلاق ، هزم جهاز كمبيوتر بطل العالم في لعبة الشطرنج ، مما أثار العديد من المناقشات حول الذكاء الاصطناعي العام والتفرد - تماما كما هو الحال اليوم! كان النظام ، المسمى Deep Blue ، مختلفا تماما عن النماذج التي لدينا اليوم. لم تستخدم المحولات. لم تستخدم الشبكات العصبية على الإطلاق. في الواقع ، لم يكن هناك "نموذج". لقد كان "الذكاء الاصطناعي الرمزي" الخالص ، مما يعني أنه كان مجرد خوارزمية قديمة بسيطة ، قامت بمسح مليارات الحركات الممكنة ، أسرع وأعمق مما يمكن لأي إنسان ، وتغلب علينا بالقوة الغاشمة المطلقة. أثار هذا موجة من أبحاث الذكاء الاصطناعي الرمزية الواعدة. الخوارزميات التطورية ، والرسوم البيانية المعرفية ، وإثبات النظرية الآلي ، ومحللات SAT / SMT ، وحل القيود ، والأنظمة الخبيرة ، وغير ذلك الكثير. للأسف ، بمرور الوقت ، اصطدم النهج بالحائط. لم تتوسع القواعد المصنوعة يدويا ، ولم تكن الأنظمة الرمزية قادرة على * التعلم * ديناميكيا ، وانفجرت الفقاعة. بدأ شتاء الذكاء الاصطناعي الجديد. بعد سنوات فقط ، غيرت المحاذاة الغريبة للعوامل كل شيء. قام الباحثون بإزالة الغبار عن فكرة قديمة - الشبكات العصبية - ولكن هذه المرة ، كان لديهم شيء جديد: وحدات معالجة الرسومات. تبين أن رقائق الرسومات هذه ، التي تم تصميمها في الأصل لتقديم ألعاب الفيديو ، مثالية لمضاعفة المصفوفة الهائلة التي تتطلبها الشبكات العصبية. فجأة ، ما استغرق أسابيع يمكن القيام به في ساعات. انفجر التعلم العميق ، وها نحن اليوم ، مع المحولات التي تأكل العالم. ولكن هذا هو الشيء: لقد قمنا فقط بنقل * فرع واحد * من الذكاء الاصطناعي إلى وحدات معالجة الرسومات - التوصيل العددي. الجانب الرمزي؟ لا يزال عالقا في العصر الحجري لوحدة المعالجة المركزية. Haskell هي لغة خاصة ، لأنها توحد لغة البراهين (أي المصطلح الذي يستخدمه علماء الرياضيات للتعبير عن النظريات) مع لغة البرمجة (أي ما يستخدمه المطورون لإنشاء التطبيقات). هذا يجعلها مناسبة بشكل فريد للتفكير الرمزي - النوع الدقيق من الحساب الذي استخدمه Deep Blue ، ولكن يمكننا الآن تشغيله بشكل متوازي على نطاق واسع على الأجهزة الحديثة. (لكي نكون أكثر دقة ، فإن التوازي الهائل لوحدة معالجة الرسومات ليس هو الشيء الوحيد الذي يجلبه HVM إلى الطاولة. اتضح أنه يؤدي أيضا إلى تسريع * مقارب * في بعض الحالات. وهذا سبب رئيسي للإيمان بنهجنا: لم تكن الأساليب الرمزية السابقة مجرد تجويع حسابيا. كانت بطيئة بشكل كبير ، بالمعنى الخوارزمي. لا عجب أنها لم تنجح. لم يكن لديهم فرصة لذلك.) أطروحتي بسيطة: الآن بعد أن تمكنت من تشغيل Haskell على وحدات معالجة الرسومات ، وبالنظر إلى هذا التسريع المقارب ، فأنا في وضع يسمح لي بإحياء طرق الذكاء الاصطناعي الرمزية القديمة هذه ، وتوسيع نطاقها بأوامر من حيث الحجم ، ومعرفة ما سيحدث. ربما ، ربما فقط ، سيفاجئنا أحدهم. أول إنجاز لنا قيد الحركة بالفعل: لقد قمنا ببناء أسرع مركب للبرنامج / الدليل في العالم ، والذي أسميه SupGen. أو NeoGen. أو QuickGen؟ سنصدرها كتحديث للغة "Bend" الخاصة بنا ، مما يجعلها متاحة للجمهور في أواخر أكتوبر تقريبا. بعد ذلك ، في وقت لاحق من هذا العام ، سنستخدمه كأساس لبرنامج بحثي جديد ، بحثا عن بنية رمزية خالصة يمكنها في الواقع التعلم من البيانات وبناء التعميمات - ليس من خلال النسب المتدرج والانتشار الخلفي ، ولكن من خلال التفكير المنطقي وتوليف البرنامج. ستكون تجاربنا الأولى بسيطة للغاية (لا تختلف عن GPT-2) ، وسيكون المعلم الرئيسي هو امتلاك "أداة إكمال الرمز المميز التالي" خالية بنسبة 100٪ من الشبكات العصبية. إذا نجح هذا ، فقد يكون قفزة رائدة إلى ما وراء المحولات والتعلم العميق ، لأنه نهج جديد تماما من شأنه على الأرجح التخلص من العديد من القيود الموروثة ل GPT التي يواجهها الذكاء الاصطناعي اليوم. ليس فقط مشكلات الرمز المميز (مثل R في الفراولة) ، ولكن المشكلات الأساسية التي تمنع GPTs من التعلم بكفاءة والتعميم الوهميه؟ ربما تستحق المحاولة؟ مطلقا (الآن خمن المقدار الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ، والنموذج الذي استخدمته)
‏‎23.19‏K