تطوير نماذج الذكاء الاصطناعي والضبط الدقيق

معظم مشاريع الضبط الدقيق تفشل قبل أن يبدأ التدريب

فاتورة وحدة معالجة الرسوميات ليست الجزء المكلف من الضبط الدقيق على مستوى المؤسسات. فنموذج بـ7 مليارات معلمة يُضبط بدقة على وحدة A100 واحدة مقابل $100–$400 من تكاليف الحوسبة؛ ويكلّف نموذج بـ70 مليار معلمة $4,000–$9,750 لكل تشغيل تدريبي. وما يقتل المشاريع هو كل ما يحيط بحلقة التدريب: تنسيق آلاف الأمثلة الخاصة بالمجال، ومنع النموذج من نسيان ما يعرفه بالفعل، والتحقق من أن محاذاة الأمان نجت من التدريب، والتكميم لخدمة الإنتاج، وبناء خط أنابيب المراقبة الذي يلتقط الانجراف.

تتوقع Gartner أنه بحلول عام 2027، ستستخدم المؤسسات نماذج ذكاء اصطناعي صغيرة ومخصصة لمهام محددة بمعدل ثلاثة أضعاف مقارنةً بنماذج اللغة الكبيرة عامة الأغراض. وقد بدأ هذا التحول بالفعل: 68% من المؤسسات التي ضبطت نماذجها بدقة في عام 2024 أبلغت عن تحسّن في دقة المهام يصل إلى 3 أضعاف. لكن الفجوة بين تجربة في دفتر ملاحظات ونشر في بيئة الإنتاج هي حيث تتعثر معظم المشاريع. ونهجنا هو هندسة خط الأنابيب الكامل، لا حلقة التدريب فحسب (وهو تخصص مفصّل في بحثنا حول هندسة أنظمة تتجاوز أغلفة واجهات برمجة التطبيقات).

متى يكون الضبط الدقيق القرار الصحيح (ومتى لا يكون)

تستغرق هندسة التوجيهات ساعات. ويستغرق RAG من أسبوع إلى أربعة أسابيع. ويستغرق الضبط الدقيق من أسبوعين إلى ثمانية أسابيع، بما في ذلك إنشاء مجموعة البيانات والتدريب واختبار الأمان وتحصين الإنتاج. نبدأ كل ارتباط بتقييم ما إذا كان الضبط الدقيق ضرورياً فعلاً.

اضبط بدقة عندما:

• يحتاج النموذج إلى سلوك جديد أو تنسيقات مخرجات لا يمكن للتوجيه إنتاجها بموثوقية؛
• يمتلك مجالك أنماط استدلال متخصصة تتعامل معها النماذج العامة بشكل غير متسق؛
• تحتاج إلى استدلال فعّال من حيث التكلفة على نطاق واسع — فنموذج بـ7 مليارات معلمة مضبوط بدقة بسعر $0.20 لكل مليون رمز يحل محل نموذج بـ70 مليار معلمة بسعر $2 لكل مليون؛
• تبني أنظمة وكيلة حيث تهم موثوقية استدعاء الأدوات — فقد حسّنت نماذج اللغة الصغيرة المضبوطة بدقة نجاح استدعاء الأدوات من 10% إلى 79% في اختبارات الأداء المرجعية (انظر عرضاً توضيحياً عملياً لأحد أنظمة الجدولة الوكيلة هذه).

لا تضبط بدقة عندما:

• تكون المشكلة استرجاع المعرفة (استخدم RAG)؛
• تحتوي مجموعة البيانات على أقل من 1,000 مثال لكل مهمة؛
• تحقق هندسة التوجيهات دقة مقبولة بالفعل؛
• يتغير النموذج الأساسي أسرع من وتيرة إعادة تدريبك.

عندما يحل RAG المشكلة ولا يؤدي الضبط الدقيق إلا إلى إهدار الميزانية، فإن نهجنا هو قول ذلك قبل تحديد نطاق أي تدريب بدلاً من بيعك مشروعاً لا تحتاجه. هذه الصراحة مدمجة في طريقة تحديدنا لنطاق الارتباط.

قرار اختيار إطار العمل مهم

لقد تبلور مشهد عام 2026 حول أدوات متمايزة، يحل كل منها مشكلة مختلفة.

نختار بناءً على نطاق تدريبك وبنية النموذج والأهداف. تستخدم معظم عمليات النشر الإنتاجية أكثر من واحد: Axolotl للضبط الدقيق الخاضع للإشراف، وTRL لتحسين التفضيلات، وUnsloth للنمذجة الأولية السريعة.

محاذاة الأمان لا تصمد أمام الضبط الدقيق الساذج

أظهرت أبحاث EMNLP 2024 أن الضبط الدقيق لنماذج اللغة الكبيرة على معرفة واقعية جديدة يزيد من ميل النموذج إلى الهلوسة. وبشكل منفصل، أظهر باحثون من جامعات برينستون وستانفورد وفرجينيا للتقنية وIBM أن الضبط الدقيق القياسي مكّن النماذج من تجاوز تدريب الأمان بالكامل. ومنذ ذلك الحين أظهرت أبحاث ICLR 2026 أن الضبط الدقيق للمعاملات الفائقة بعناية يخفف من هذه المخاطر، لكن التكوينات الافتراضية لأطر العمل تُشحن دون حمايات.

الآلية: تحديثات المعلمات الجريئة في الطبقات العليا تطمس السمات المسؤولة عن الأمان. اختيار رتبة LoRA أمر بالغ الأهمية — فالمحوّلات عالية الرتبة على طبقات الانتباه قد تزعزع استقرار دوائر الرفض، ويعتمد التكوين الآمن على بنية النموذج المحددة وبيانات المهمة.

نهجنا هو تنفيذ خطوط أنابيب حافظة للأمان (مستنيرة بـ بحثنا حول حوكمة أمان الذكاء الاصطناعي في الفضاء الكامن):

• LoRA انتقائي يحمي الدوائر الحرجة؛
• اختبارات أمان مرجعية محتجزة عند كل نقطة تفتيش؛
• إيقاف مبكر بناءً على مقاييس مركبة توازن بين أداء المهمة والحفاظ على القدرات؛
• مراقبة مستمرة لتدهور المحاذاة طوال التدريب.

تنسيق البيانات هو عنق الزجاجة الفعلي

ساعات وحدة معالجة الرسوميات مجرد بند في الفاتورة. أما تنسيق البيانات فهو المشروع نفسه:

• حثّ خبراء الموضوع على وسم 5,000–50,000 مثال عالي الجودة؛
• حل خلافات التوسيم باستخدام مقاييس الاتفاق بين المُوسِّمين؛
• تشغيل إزالة التكرار بطريقة MinHash/LSH؛
• فحص التلوث مقابل مجموعات التقييم؛
• توثيق المصدر باستخدام صحائف البيانات.

يقلل RLAIF (باستخدام GPT-4 كمُوسِّم) من تكلفة بيانات التفضيل لكنه يُدخل تحيّز نموذج المعلّم. وتُنشئ البيانات الاصطناعية عبر التقطير من المعلّم إلى الطالب مجموعات تدريب أولية، رغم أن الجودة مقيّدة بقدرات نموذج المعلّم.

يُحدد نطاق الارتباط ليشمل تصميم خط أنابيب البيانات وسير عمل التوسيم والتحقق من الجودة وتوثيق الصناعات الخاضعة للتنظيم: التحقق من صحة البرمجيات لدى إدارة الغذاء والدواء الأمريكية (FDA)، وتقارير التحقق من صحة النماذج المالية، والتوثيق التقني لقانون الذكاء الاصطناعي للاتحاد الأوروبي مع بطاقات النماذج التي تفي بمتطلبات المادة 11(1).

من التدريب إلى الإنتاج

التكميم

اضبط بدقة بتنسيق FP16، وادمج المحوّلات، ثم كمّم. يوفر AWQ INT4 مع نواة Marlin أفضل نسبة إنتاجية إلى جودة لخدمة vLLM (741 رمزاً/ثانية). ويتكامل GPTQ مع TensorRT-LLM وTGI. وGGUF أصلي لـllama.cpp وOllama. نطابق التكميم مع مكدس الخدمة لديك.

المورّد مقابل مفتوح المصدر

تفرض OpenAI حوالي $3 لكل مليون رمز لضبط GPT-4.1 بدقة. ونموذج Small 3.1 المضبوط بدقة من Mistral بسعر $0.20 لكل مليون يضاهي نموذجهم Large 3 بسعر $2 لكل مليون في المهام الضيقة. ولا تقدّم Anthropic ضبطاً دقيقاً عاماً. وتصلح واجهات برمجة تطبيقات المورّدين للتكرار السريع عندما تسمح حوكمة البيانات باستخدام البنية التحتية لأطراف ثالثة.

النماذج مفتوحة المصدر (Llama 3 وMistral وQwen) مع التدريب المستضاف ذاتياً هي الخيار الصحيح عندما يجب أن تبقى البيانات على بنيتك التحتية أو عندما تتطلب المتطلبات التنظيمية ذلك. وتستخدم معظم المؤسسات كليهما.

المراقبة وإعادة التدريب

تنجرف نماذج الإنتاج. ونهجنا هو بناء خطوط أنابيب تتعقب جودة التنبؤ، وتكتشف انجراف البيانات والمفاهيم، وتطلق إعادة التدريب عند تجاوز العتبات. ويتولى MLflow أو Weights and Biases تتبع التجارب، مع سجلات النماذج التي توفر تسلسلاً كاملاً من بيانات التدريب إلى العنصر المنشور.

المحاذاة بعد التدريب: ما وراء SFT

المعيار الإنتاجي لعام 2026 هو خط أنابيب معياري: SFT لاتباع التعليمات، وDPO أو SimPO لمحاذاة التفضيلات، وGRPO للاستدلال.

أزاح DPO خوارزمية RLHF PPO عبر إلغاء نموذج المكافأة. وأزال SimPO النموذج المرجعي بينما تفوّق على DPO بـ6.4 نقطة في AlpacaEval 2. ويستخدم GRPO (من DeepSeek R1) مكافآت قابلة للتحقق لتدريب الاستدلال عبر التعلّم المعزّز الخالص (وهي تقنية نستكشفها في بحثنا حول التعلّم المعزّز على الرسوم البيانية)، مع ظهور التأمل الذاتي والتحقق. ننفذ هذه باستخدام TRL، إطار العمل الذي يضبط ديناميكيات تدريب التعلّم المعزّز بشكل صحيح.

ما الذي نقدّمه

يُحدد نطاق كل ارتباط لإنتاج نظام قابل للنشر:

• النموذج المضبوط بدقة مع بطاقات نماذج كاملة؛
• خط أنابيب التدريب كشيفرة قابلة لإعادة الإنتاج مع تتبع التجارب؛
• مجموعة تقييم تقارن الأداء مع النموذج الأساسي والبدائل عبر الدقة وزمن الاستجابة والمتانة والمعايرة؛
• عنصر النشر المكمّم مع تكوين خدمة مُحسّن؛
• لوحات مراقبة مع كشف الانجراف ومحفزات إعادة التدريب؛
• للصناعات الخاضعة للتنظيم، توثيق تحقق خاص بالقطاع (قانون الذكاء الاصطناعي للاتحاد الأوروبي، وإدارة الغذاء والدواء الأمريكية، والتحقق من صحة النماذج المالية).

ينتج الارتباط أيضاً تقييماً صادقاً: ما إذا كان الضبط الدقيق هو النهج الصحيح، وما لا يستطيع النموذج فعله، وأين يقع سقف الأداء. فالقيود الموثقة مسبقاً توفر من المال أكثر مما توفره التوقعات المتفائلة.