هندسة المحوّلات

ما بعد تدريب النماذج اللغوية: SFT و DPO و RLHF و GRPO

من رموز المفردات إلى توزيع الاحتمال. نشيد معمارية محول كاملة بلغة PyTorch، ندربها على بيانات متوسطة، ونفكك دقةً طبقات الانتباه والتموضع الدوار.

عن هذه الدورة

قراءة جادة لما تتعلمه — ما الذي ستبنيه بيديك، وأين يقع هذا المسار في طيف ممارسة الذكاء الاصطناعي.

السياق

بناء نموذج لغة من الصفر ليس تمرينًا بيداغوجيًا، بل مرور ضروري لمن يعمل لاحقًا على الضبط الدقيق (fine-tuning) أو المحاذاة. كل قرار من حجم المفردات إلى موضع التطبيع يصبح مرئيًا.

هذا المسار يبدأ من أسس الجبر الخطي والتفاضل التلقائي، ويتدرج إلى محول كامل: BPE/SentencePiece، طبقات الانتباه السببي، التموضع الدوار RoPE، التطبيع RMSNorm، ودوال التفعيل SwiGLU.

كل أسبوع تطبيق عملي على PyTorch. الهدف ليس الكفاءة على H100، بل وضوح المعمارية على بطاقة واحدة، ثم التدرج إلى عناقيد صغيرة في الأسابيع الأخيرة.

أصعب جزء في بناء النموذج ليس الكود، بل صبر التحقق من كل خطوة. هذا المسار عن الصبر أولًا.

— د. نورة الشهري · مدرسة المسار

المنهج التفصيلي

الوحدات على مدى الفصل. كل وحدة تنتهي بتسليم محدد يقيم فرديًا وجماعيًا.

مراجعة الجبر الخطي العملي وآلية autograd في PyTorch. نبني شبكة بسيطة من الصفر.

  • Autograd
  • Tensor ops
  • Backprop يدوي
  • Gradient checking
التسليم
شبكة MLP من الصفر مع تحقق من المشتقات.

BPE وSentencePiece. تحضير بيانات عربية وتقييم جودة الترميز.

  • BPE
  • SentencePiece
  • تنظيف البيانات
  • تقييم vocab
التسليم
مرمز عربي بحجم 32K مع تقرير تغطية.

الانتباه السببي والانتباه متعدد الرؤوس (Multi-Head). نبنيها من الصفر ونقارن بدالة scaled_dot_product_attention.

  • Q/K/V
  • Causal mask
  • Multi-head
  • FlashAttention overview
التسليم
طبقة انتباه مكتوبة يدويًا مع اختبارات.

تجميع المحول: كتل (blocks)، تطبيع، اتصال متبق (residual)، رأس النمذجة (LM head). تدريب أول نموذج بحجم 124M.

  • كتلة المحول (Transformer block)
  • RMSNorm
  • SwiGLU
  • RoPE
التسليم
نموذج 124M مدرب على بيانات عربية.

من 124M إلى 360M على بطاقتين. نقاش حول KV cache والتحسينات.

  • Mixed precision
  • Gradient accumulation
  • KV cache
  • DDP أساسي
التسليم
نموذج 360M مع تقرير قياس.

Perplexity، MMLU العربي، تحليل الأخطاء. كتابة تقرير ختامي.

  • Perplexity
  • MMLU عربي
  • تحليل الأخطاء
  • كتابة تقرير
التسليم
تقرير تقني 10 صفحات مع نتائج كاملة.

مشروع فردي: اختر زاوية تطبيقية صغيرة وطبقها على نموذجك.

  • تخطيط
  • تنفيذ
  • تحليل
  • عرض نهائي
التسليم
نموذج معدل مع تقرير + عرض شفهي 15 دقيقة.

المدرس

المسار يقوده مدرس واحد، يعرف ما يدرس من الداخل، ولا يفوض المختبرات لمساعدين.

سيعلن المدرس قريبًا

أستاذة مشاركة · مدرسة المسار

جامعة الملك عبدالله للعلوم والتقنيةزميلة زائرة · جامعة ستانفورد

د. نورة الشهري أستاذة مشاركة متخصصة في معالجة اللغة الطبيعية للعربية. عملت ست سنوات على نماذج لغة عربية مفتوحة المصدر.

حصلت على الدكتوراه من جامعة إدنبرة عام 2017 في تمثيل اللغة العربية باستخدام الشبكات العصبية. لها خمس أوراق محكمة في ACL وEMNLP.

قبل الالتحاق بساعي، قادت فريق NLP في شركة سعودية تعمل على نماذج عربية متوسطة الحجم.

2024انضمت إلى ساعيكأستاذة مشاركة
2019-2024قائدة فريق NLPفي القطاع الخاص بالرياض
2017-2019زميلة ما بعد الدكتوراه · ستانفوردNLP العربي
2017دكتوراه — جامعة إدنبرةتعلم تمثيل اللغة

مسارات ذات صلة

دورات تكمل أو تسبق هذا المسار في رحلة التعمق.

CR-01

بناء وتدريب النماذج اللغوية الكبيرة من الصفر

— ·
    ما بعد تدريب النماذج اللغوية: SFT و DPO و RLHF و GRPO — تفاصيل الدورة · ساعي