أخبار المنتجات

كيفية تحسين جودة واجهة GenAI Prompt API في حزمة تعلّم الآلة من خلال ميزة "التحسين الآلي للطلبات"

مدّة القراءة: 3 دقائق

التحسين الآلي للطلبات

لمساعدتك في طرح حالات استخدام واجهة ML Kit Prompt API في مرحلة الإنتاج، يسرّنا الإعلان عن ميزة "التحسين الآلي للطلبات" (APO) التي تستهدف النماذج على الجهاز فقط في Vertex AI. "التحسين الآلي للطلبات" هي أداة تساعدك في العثور تلقائيًا على الطلب الأمثل لحالات الاستخدام لديك.

لم يعُد عصر الذكاء الاصطناعي على الجهاز فقط مجرّد وعد، بل أصبح حقيقة واقعة. ومع إطلاق الإصدار الثالث من Gemini Nano، نضع بين أيدي المستخدمين إمكانات غير مسبوقة في فهم اللغة والتعامل مع الوسائط المتعددة. من خلال مجموعة نماذج Gemini Nano، نغطّي مجموعة واسعة من الأجهزة المتوافقة في منظومة Android المتكاملة. بالنسبة إلى المطوّرين الذين ينشئون الجيل التالي من التطبيقات الذكية، فإنّ الوصول إلى نموذج فعّال هو الخطوة الأولى فقط. يكمن التحدي الحقيقي في التخصيص: كيف يمكنك تخصيص نموذج أساسي لتقديم أداء على مستوى الخبراء لحالة الاستخدام المحدّدة بدون تجاوز قيود الأجهزة الجوّالة؟

في عالم جهة الخادم، تميل النماذج اللغوية الكبيرة إلى أن تكون ذات قدرات عالية وتتطلّب قدرًا أقل من التكيّف مع المجال. وحتى عند الحاجة، يمكن أن تكون الخيارات الأكثر تقدّمًا، مثل الضبط الدقيق باستخدام LoRA (التكيّف المنخفض الرتبة)، خيارات ممكنة. ومع ذلك، تعطي البنية الفريدة لخدمة Android AICore الأولوية لنموذج نظام مشترك يتسم بالكفاءة في استخدام الذاكرة. وهذا يعني أنّ نشر محوّلات LoRA المخصّصة لكل تطبيق على حدة يواجه تحديات في خدمات النظام المشتركة هذه.

ولكن هناك مسار بديل يمكن أن يكون له التأثير نفسه. من خلال الاستفادة من التحسين الآلي للطلبات (APO) في Vertex AI، يمكن للمطوّرين تحقيق جودة تقترب من الضبط الدقيق، وكل ذلك أثناء العمل بسلاسة ضمن بيئة تنفيذ Android الأصلية. من خلال التركيز على تعليمات النظام الفائقة، تتيح APO للمطوّرين تخصيص سلوك النموذج بفعالية وقابلية للتوسّع أكبر من حلول الضبط الدقيق التقليدية.

ملاحظة: Gemini Nano V3 هو إصدار محسّن من نموذج Gemma 3N الذي نال استحسانًا كبيرًا. وأي تحسينات يتم إجراؤها على الطلبات في نموذج Gemma 3N المفتوح المصدر ستسري أيضًا على Gemini Nano V3. على الأجهزة المتوافقة، تستفيد واجهات برمجة التطبيقات GenAI في حزمة تعلّم الآلة من نموذج nano-v3 لزيادة الجودة إلى أقصى حد لمطوّري تطبيقات Android

APO block diagram.jpg

لا يتعامل APO مع الطلب كنص ثابت، بل كمساحة قابلة للبرمجة يمكن تحسينها. ويستفيد من النماذج من جهة الخادم (مثل Gemini Pro وFlash) لاقتراح الطلبات وتقييم الصيغ المختلفة والعثور على الصيغة المثلى لمهمتك المحدّدة. تستخدم هذه العملية ثلاث آليات فنية محدّدة لتحسين الأداء إلى أقصى حد:

  1. تحليل الأخطاء المبرمَج: يحلّل APO أنماط الأخطاء من بيانات التدريب لتحديد نقاط ضعف معيّنة في الطلب الأولي تلقائيًا.
  2. استخلاص التعليمات الدلالية: يحلّل هذا النموذج أمثلة تدريبية ضخمة لاستخلاص "الهدف الحقيقي" من مهمة معيّنة، ما يؤدي إلى إنشاء تعليمات تعكس توزيع البيانات الحقيقية بدقة أكبر.
  3. اختبار الطلبات المرشحة بالتوازي: بدلاً من اختبار فكرة واحدة في كل مرة، تنشئ APO العديد من الطلبات المرشحة وتختبرها بالتوازي لتحديد الحد الأقصى العام للجودة.

لماذا يمكن أن يقترب APO من جودة الضبط الدقيق؟

من المفاهيم الخاطئة الشائعة أنّ الضبط الدقيق يؤدي دائمًا إلى جودة أفضل من الطلبات. بالنسبة إلى النماذج الأساسية الحديثة، مثل Gemini Nano v3، يمكن أن تكون هندسة الطلبات فعّالة بحد ذاتها:

  • الحفاظ على الإمكانات العامة: يؤدي الضبط الدقيق ( PEFT/LoRA) إلى فرض أوزان النموذج على فهرسة زائدة لتوزيع معيّن للبيانات. يؤدي ذلك غالبًا إلى "النسيان الكارثي"، حيث يتحسّن أداء النموذج في صياغة الجمل المحدّدة، ولكن يتراجع أداؤه في المنطق العام والأمان. لا يغيّر APO الأوزان، ما يحافظ على إمكانات النموذج الأساسي.
  • اتّباع التعليمات واستكشاف الاستراتيجيات: تم تدريب Gemini Nano v3 بدقة ليتّبع تعليمات النظام المعقّدة. ويستفيد APO من ذلك من خلال العثور على بنية التعليمات الدقيقة التي تفتح الإمكانات الكامنة للنموذج، وغالبًا ما يكتشف استراتيجيات قد يصعب على المهندسين البشريين العثور عليها. 

للتحقّق من صحة هذا النهج، قيّمنا APO على مستوى أعباء عمل إنتاجية متنوعة. أظهرت عملية التحقّق من الصحة التي أجريناها تحقيق زيادة في الدقة بنسبة تتراوح بين %5 و%8 في مختلف حالات الاستخدام، كما قدّم APO تحسينات كبيرة في الجودة في العديد من الميزات المنشورة على الجهاز فقط.

Use Caseنوع المهمةوصف المهمةالمقياستحسين ميزة "تحسين الأداء تلقائيًا"
تصنيف المواضيعتصنيف النصوصتصنيف مقالة إخبارية إلى مواضيع مثل الشؤون المالية والرياضة وما إلى ذلكالدقة‎+5%
تصنيف النيةتصنيف النصوصتصنيف طلب خدمة العملاء إلى نواياالدقة+8.0%
ترجمة صفحات الويبترجمة النصترجمة صفحة ويب من الإنجليزية إلى لغة محليةBLEU+‎8.57%

سير عمل سلس وشامل للمطوّرين

من المفاهيم الخاطئة الشائعة أنّ الضبط الدقيق يؤدي دائمًا إلى جودة أفضل من الطلبات. بالنسبة إلى النماذج الأساسية الحديثة، مثل Gemini Nano v3، يمكن أن تكون هندسة الطلبات فعّالة بحد ذاتها:

  • الحفاظ على الإمكانات العامة: يؤدي الضبط الدقيق ( PEFT/LoRA) إلى فرض أوزان النموذج على فهرسة زائدة لتوزيع معيّن للبيانات. يؤدي ذلك غالبًا إلى "النسيان الكارثي"، حيث يتحسّن أداء النموذج في صياغة الجمل المحدّدة، ولكن يتراجع أداؤه في المنطق العام والأمان. لا يغيّر APO الأوزان، ما يحافظ على إمكانات النموذج الأساسي.
  • اتّباع التعليمات واستكشاف الاستراتيجيات: تم تدريب Gemini Nano v3 بدقة ليتّبع تعليمات النظام المعقّدة. ويستفيد APO من ذلك من خلال العثور على بنية التعليمات الدقيقة التي تفتح الإمكانات الكامنة للنموذج، وغالبًا ما يكتشف استراتيجيات قد يصعب على المهندسين البشريين العثور عليها. 

للتحقّق من صحة هذا النهج، قيّمنا APO على مستوى أعباء عمل إنتاجية متنوعة. أظهرت عملية التحقّق من الصحة التي أجريناها تحقيق زيادة في الدقة بنسبة تتراوح بين %5 و%8 في مختلف حالات الاستخدام، كما قدّم APO تحسينات كبيرة في الجودة في العديد من الميزات المنشورة على الجهاز فقط.

الخاتمة

يُعدّ إطلاق ميزة التحسين الآلي للطلبات (APO) نقطة تحوّل في مجال الذكاء الاصطناعي التوليدي على الجهاز فقط. من خلال سدّ الفجوة بين النماذج الأساسية والأداء على مستوى الخبراء، نقدّم للمطوّرين الأدوات اللازمة لإنشاء تطبيقات أكثر فعالية للأجهزة الجوّالة. سواء كنت في بداية رحلتك مع التحسين بدون تدريب أو كنت بصدد توسيع نطاق الإصدار العلني باستخدام التحسين المستند إلى البيانات، أصبح مسار الوصول إلى ذكاء اصطناعي عالي الجودة على الجهاز فقط أكثر وضوحًا الآن.يمكنك الآن إطلاق حالات الاستخدام على الجهاز فقط في مرحلة الإنتاج باستخدام واجهة Prompt API في حزمة تعلّم الآلة وميزة "التحسين الآلي للطلبات" في Vertex AI. 

روابط ذات صلة: 

متابعة القراءة