يدعم أندريه كارباثي إدخال مصطلح جديد يتعلق ب "هندسة السياق" في تطوير برمجيات الذكاء الاصطناعي باستخدام LLMs. وقد بدا هذا المصطلح ضروريا للغاية منذ فترة طويلة. في كل مرة أشرح فيها للناس كيف نطور Nethermind AuditAgent الخاص بنا ، فإن أحد الجوانب الرئيسية ، إلى جانب استخدام الخبرة في المجال (أمان web3) واستخدام أفضل نماذج الذكاء الاصطناعي المتاحة (من OpenAI و Anthropic و Google) ، وأدوات LLM ، هو بالضبط "هندسة السياق". في بعض الأحيان يكون هناك تعبير "السياق هو الملك" ، وهذا صحيح حقا. تعد LLMs ، سواء كانت متقدمة ضخمة أو LLMs صغيرة محسنة ، أداة قوية ، ولكن مثل أي أداة ، إذا كانت في الأيدي الخطأ ، فستحصل على نتائج واعدة أقل بكثير مما يمكنك أن تحصل عليه إذا كنت تعمل معهم بشكل صحيح. وإدارة السياق (أو الهندسة) هي في الواقع مجال معقد وغير موصوف جيدا يتطور باستمرار ، وقد برز حقا كامتداد لمفهوم الهندسة السريعة ، والذي له بالفعل بعض الدلالات السلبية. بشكل عام ، أدرج Andrej الجوانب الرئيسية المتعلقة بهندسة السياق (في لقطة الشاشة الثانية) ، ولكن في كل مهمة محددة ، يحقق الأشخاص نتائج ممتازة إلى حد كبير من خلال التجربة والخطأ ، في كل مرة يحاولون بشكل رتيب تحديد عناصر السياق الصحيحة المطلوبة حقا في هذه المرحلة من حل المشكلات ، وجمع المعايير لكل مرحلة ، والنظر في المقاييس ، وتقسيم مجموعات البيانات إلى اختبار ، التحقق من الصحة ، وما إلى ذلك ، وهكذا دواليك. ما رأيك في "هندسة السياق"؟
Andrej Karpathy
Andrej Karpathy‏25 يونيو 2025
+1 ل "هندسة السياق" بدلا من "الهندسة السريعة". يربط الأشخاص المطالبات بأوصاف قصيرة للمهام التي قد تعطيها LLM في استخدامك اليومي. عندما تكون في كل تطبيق LLM ذو قوة صناعية ، فإن هندسة السياق هي الفن والعلم الدقيق لملء نافذة السياق بالمعلومات الصحيحة للخطوة التالية. العلم لأن القيام بذلك بشكل صحيح يتضمن أوصافا وتفسيرات للمهام ، وبعض الأمثلة على اللقطات ، و RAG ، والبيانات ذات الصلة (ربما متعددة الوسائط) ، والأدوات ، والحالة والتاريخ ، والضغط ... القليل جدا أو من الشكل الخاطئ ولا يمتلك LLM السياق المناسب للأداء الأمثل. الكثير أو غير ذي صلة وقد ترتفع تكاليف LLM وقد ينخفض الأداء. القيام بذلك بشكل جيد غير تافه للغاية. والفن بسبب الحدس التوجيهي حول علم نفس LLM لأرواح الناس. علاوة على هندسة السياق نفسها ، يجب على تطبيق LLM القيام بما يلي: - تقسيم المشكلات مباشرة إلى تدفقات التحكم - حزم نوافذ السياق بشكل صحيح - إرسال المكالمات إلى LLMs من النوع والقدرة الصحيحين - التعامل مع تدفقات UIUX للتحقق من الجيل - أكثر من ذلك بكثير - الدرابزين ، والأمن ، والإيفال ، والتوازي ، والجلب المسبق ، ... لذا فإن هندسة السياق هي مجرد قطعة صغيرة من طبقة سميكة ناشئة من البرامج غير التافهة التي تنسق مكالمات LLM الفردية (وأكثر من ذلك بكثير) في تطبيقات LLM الكاملة. مصطلح "غلاف ChatGPT" متعب وخاطئ حقا.
‏‎427‏