PyTorch · FlashAttention-2 · CUDA

تدريب الشبكات العصبية الكفؤة وتسريع استدلال النماذج اللغوية الضخمة

باحث رئيسي في نظم الذكاء الاصطناعي وهندسة تسريع النماذج اللغوية

تخصص في التدريب الدقيق الفعال عبر تقنيات LoRA وQLoRA، وتكميم الذاكرة المؤقتة (KV-cache)، وتطوير أنوية Triton المخصصة. ربط الأبحاث المتقدمة في التعلم العميق مع نظم الاستدلال السريعة التي تستجيب في أقل من 10 مللي ثانية.

إحصائيات ونماذج الأداء في الإنتاج

معايير تسريع الاستدلال ونشر النماذج في بيئات الحوسبة عالية الكثافة

4.2x
تسريع الاستدلال عبر أنوية Triton
+1.4M
تحميل للنماذج عبر HuggingFace
70B
أكبر نموذج تم تكميمه ونشره بنجاح
98.4%
دقة المعايير التقييمية للنماذج

النماذج مفتوحة المصدر والأنوية المحسنة

نماذج تعلم عميق قابلة للتكرار وموثقة بأكواد وسكربتات القياس القياسية

محرك OmniQuant-70B

نسخة مكممة بدقة 4 بت بتقنية AWQ لنموذج Llama-3 مجهزة لخدمة آلاف المستخدمين المتزامنين مع دعم FlashAttention-2.

PyTorchvLLMAWQCUDAPython

نواة Triton-SparseKernel

نواة مخصصة مكتوبة بـ Triton لضرب المصفوفات المتناثرة مع خفض زمن الاستجابة بنسبة 38% مقارنة بمكتبة cuBLAS.

TritonGPU OptimizationDeep Learning

منظومة AgenticRag للتوليد المعزز

نظام RAG ذاتي التصحيح يدمج التضمينات الكثيفة والمتناثرة مع إعادة ترتيب ذكية واسترجاع دقيق من قواعد البيانات المتجهة.

LangChainQdrantFastAPIDocker

بدء التعاون في أبحاث الذكاء الاصطناعي

متاح لعقود تحسين نماذج الذكاء الاصطناعي، والتدريب الدقيق المخصص، والاستشارات البحثية.

الرياض / عمل عن بعد عالمياً
متاح للأبحاث والاستشارات المتخصصة في الذكاء الاصطناعي