الذكاء الاصطناعي في تطوير المنتجات
من نموذج مدرب إلى خدمة منخفضة التأخير. نتناول التكميم وتقطير النماذج وذاكرات KV وتقنيات التسريع على وحدات H100 وA100.
عن هذه الدورة
قراءة جادة لما تتعلمه — ما الذي ستبنيه بيديك، وأين يقع هذا المسار في طيف ممارسة الذكاء الاصطناعي.
الفرق بين نموذج تجريبي ومنتج في الإنتاج ليس في الجودة وحدها، بل في تأخير الاستجابة وتكلفة العتاد. هذا المسار يفكك الفجوة.
نتناول التكميم بدقة INT8/INT4، تقطير النماذج، ذاكرة المفاتيح والقيم (KV cache)، فك الترميز التخميني (Speculative Decoding)، وتطبيقات vLLM وTGI.
المنهج التفصيلي
الوحدات على مدى الفصل. كل وحدة تنتهي بتسليم محدد يقيم فرديًا وجماعيًا.
كيف يعمل الاستدلال؟ ذاكرة المفاتيح والقيم (KV cache). زمن الاستجابة مقابل الإنتاجية (Latency vs Throughput).
- KV cache
- Batching
- Latency metrics
دقة INT8 وINT4، GPTQ، AWQ، وتأثيرها على الجودة والسرعة.
- Post-training quantization
- GPTQ
- AWQ
- BitsAndBytes
من نموذج كبير إلى صغير. تقنيات تقطير المعرفة (Knowledge Distillation).
- KD basics
- DistilBERT-style
- TinyLlama
- evaluation
الانتباه المصفح (PagedAttention)، التجميع المستمر (Continuous batching)، ونشر vLLM.
- PagedAttention
- Continuous batching
- TGI
- TensorRT-LLM
تسريع الاستدلال بنماذج مسودة (draft) أصغر.
- Speculative decoding
- Medusa
- Lookahead
المدرس
المسار يقوده مدرس واحد، يعرف ما يدرس من الداخل، ولا يفوض المختبرات لمساعدين.
فريق ساعي
مدرس مشارك للمسار
ساعي للتعلممساهم سابق · vLLM
د. أحمد الحربي مهندس مشارك متخصص في أنظمة الاستدلال والتسريع. مساهم في مشروع vLLM مفتوح المصدر.
حصل على الدكتوراه من جامعة الملك سعود عام 2021 في أنظمة الذكاء الاصطناعي.
مسارات ذات صلة
دورات تكمل أو تسبق هذا المسار في رحلة التعمق.