نظرة على Gemini Nano وGemma 4 اللذين يعزّزان الذكاء الاصطناعي على الجهاز فقط

سارة سموت

مرحبًا، أهلاً بكم في هذه المحادثة.

اسمي سارة، وأنا قائدة هندسية في فريق Gemma في ما يتعلّق بالنماذج.

لذا، سأحدّثكم اليوم عن نماذجنا.

سأتحدث عن الإمكانات وكيفية التفكير في التصميم للأجهزة الجوّالة.

سأتحدث عن الأساليب التي ندمجها في النموذج لكي يعمل بكفاءة على الأجهزة الجوّالة.

سأشرح كيفية الوصول إلى هذه الميزة وكيفية دمجها مع AICore.

بعد ذلك، سأختم ببعض العروض التوضيحية لإظهار النموذج وإعطائكم فكرة عن إمكاناته وما يمكنه فعله.

لذا، لفهم ما نحن مقبلون عليه، من المفيد فهم ما مررنا به.

أطلقنا نموذج Gemma 1 في عام 2024.

أطلقنا نموذجًا يتضمّن مليارَي مَعلمة و7 مليارات مَعلمة، وهو نموذج نصي فقط، بأحجام صغيرة جدًا مقارنةً بما كان متاحًا في ذلك الوقت.

بعد Gemma 1، أطلقنا Gemma 2 الذي قدّم بعض الإمكانات الإضافية.

لقد قدّمنا البرمجة.

وقدّمنا أيضًا نموذجًا كبير الحجم، وهو 27B، ما وسّع بشكل كبير من إمكانات سلسلة Gemma.

وبعد فترة قصيرة، تم إطلاق Gemma 3.

أضفنا المزيد من الإمكانات، والقدرات المتعددة الوسائط، ثم نموذجًا أصغر حجمًا، وهو نموذج يحتوي على 270 مليون مَعلمة، لأنّنا أدركنا أنّ النماذج الأصغر حجمًا لها العديد من حالات الاستخدام، ونحاول حقًا المساعدة في تفعيل أكبر عدد ممكن من حالات الاستخدام على الأجهزة الجوّالة على الإنترنت.

لذلك، مع كل إصدار، تزداد إمكاناتنا، وهذا أمر مقصود.

ما نفعله هو أنّنا نصمّم لأجهزة فردية، ونحاول أن يشمل ذلك الهواتف وأجهزة الكمبيوتر المحمولة ووحدات معالجة الرسومات، وهدفنا ليس إنشاء نموذج أكبر، على الرغم من أنّنا وصلنا إلى 12 إلى 27 مليار مَعلمة، بل هدفنا هو توفير المزيد من الإمكانات مع كل تكرار على المساحة نفسها، لأنّنا نريد البقاء على الجهاز فقط، نريد البقاء على المستوى المحلي.

لذلك، الطريقة التي اتّبعناها لتحقيق ذلك هي من خلال تحسين الكفاءة.

سأتحدث عمّا فعلناه في Gemma 4 تحديدًا وكيف فعلنا ذلك.

أطلقنا نموذج E2B، وسأشرح معنى "E" بعد قليل، وأطلقنا نموذج E4B، ونموذجًا موحّدًا بـ 12 مليار مَعلمة، وسأشرح سبب ذلك، وأطلقنا أيضًا نموذج MoE.

كل ذلك للمساعدة في إثبات الكفاءة ومنح المطوّرين مزيدًا من المرونة في ما يتعلّق بالتطبيقات والمنتجات التي يريدون إنشاءها.

لنتعرّف على الإمكانات بمزيد من التفصيل، يمكنكم هنا الاطّلاع على الإمكانات التي أضفناها بمرور الوقت.

هناك بعض الأمور التي أريد الإشارة إليها، مثل طول السياق.

أضفنا سياقًا أطول بكثير من إصدارات Gemma السابقة.

يصل سياق Gemma 4 إلى 128 ألف رمز مميّز.

أما النماذج الأكبر حجمًا، فتصل إلى 256.

أودّ الإشارة إلى أنّ "حزمة تعلّم الآلة" تضع حدًا أقصى لطول السياق، لذا تأكَّد من مراجعة ميزانيتك قبل توقُّع إمكانية الإطلاق باستخدام 128.

ولكن من المفترض أن يكون هذا كافيًا لقراءة المستندات الطويلة، وإجراء بعض الاستدلال الموسّع، واستدعاء الدوال، وأيضًا منحك ميزانية كافية لاستخدام الوسائط المتعددة، واستخدام الرؤية والصوت.

الفيديو هو إمكانية جديدة أضفناها بدءًا من Gemma 3n، وقد ركّزنا عليها أكثر في Gemma 4.

لذلك، أصبح لدينا الآن دعم متعدد اللغات.

ما زلنا ندرّب النموذج على لغات متعددة، لذا يتوفّر لديك دعم مدمج للغة ودعم مدرَّب مسبقًا.

وكل هذا يأتي الآن بموجب ترخيص Apache 2 الجديد كليًا، وهو أمر يسرّنا جدًا، لأنّه سيمنحك مرونة أكبر في ما يمكنك إنشاؤه باستخدامه، كما أنّه يقلّل من الصعوبات التي قد تواجهها.

أصبح إنشاء النموذج وتنزيله أكثر سلاسة.

سارة سموت

حسنًا، الرؤية، ماذا نفعل بالرؤية؟

رؤيتنا لنموذج Gemma 4 تحديدًا هي أنّه يتميّز بنسبة عرض إلى ارتفاع متغيّرة.

ما تفعله هذه الميزة هو أنّها تأخذ صورة، وبدلاً من ضغطها في مربّع غير مناسب، تحافظ على نسبة العرض إلى الارتفاع الفعلية للنموذج.

هذا يعني أنّ النص لا يتشوّه، والعناصر لا تتشوّه.

فهي تحسّن بشكل كبير من قدرات النموذج.

تبقى الأشكال واضحة، ويتم تحسين ميزة "التعرّف البصري على الأحرف" بشكل كبير بفضل نسبة العرض إلى الارتفاع المتغيّرة هذه.

يمكن للرؤية أيضًا قراءة المخططات، ويمكنها قراءة جداول البيانات، ويمكنها قراءة الرسوم البيانية.

ويمكنه أيضًا الترجمة من الإشارات المرئية، بحيث يمكنك التقاط صور للكلمات، وسيكون قادرًا على ترجمتها لك.

ويمكنه أيضًا فهم العالم المادي.

يمكنه النظر إلى صورة وفهم أماكن العناصر فيها ومحتواها.

يمكنه تنفيذ الكثير من المهام.

والميزة الأخرى غير المعروفة في نماذج Gemma هي أنّه يمكنك ضبط ميزانية الرموز المميّزة المرئية.

لذا، في الوقت الحالي، أعني التحقق ومعرفة ما هو موجود في مجموعة أدوات تعلُّم الآلة، ولكن لديك نطاق كبير.

إذا أردت استخدام المزيد من الطاقة لفهم الصور بدقة أعلى، يمكنك ضبط ذلك.

إذا لم تكن هذه حالة استخدام تريد الاستفادة منها حقًا، يمكنك تقليل ميزانية الرموز المميزة للصور كثيرًا واستعادة الكثير من هذه الطاقة، كما تعلم، في دورات حساب النموذج لتطبيقاتك النصية.

المحتوى الصوتي هو وضع جديد نسبيًا بالنسبة إلينا.

وقد طرحناه لأول مرة في Gemma 3n.

ونحن الآن نعتمد عليه بالكامل في Gemma 4.

يتوفّر الصوت في أصغر نماذجنا فقط: E2B وE4B و12B.

سيتم تحويل الملف الصوتي إلى نص بالكامل.

تترجم الكلام.

وهي تتيح استخدام أكثر من 35 لغة.

لقد درّبناه مسبقًا على أكثر من 140 لغة، لذا إذا أردت استخدام لغة غير اللغات الـ 35 التي نتيحها، يمكنك إجراء عملية ضبط دقيق والحصول على دعم جيد للغة غير متاحة تلقائيًا.

أضفنا الاستدلال المستند إلى الوكلاء.

وهذه أيضًا ميزة جديدة في Gemma 4.

يخطّط.

ويمكنه تنفيذ مهام متعدّدة الخطوات.

ويستخدم الأدوات.

يتّبع التعليمات بدقة.

وتعرض هذه الأداة ملف JSON منظّمًا.

يمكنه تنفيذ كل ما تتوقّعه من نموذج وكيل ذكاء اصطناعي.

أنصحك بمشاهدة الفيديو "تأكَّد من استخدامك" إذا كنت تستخدم ML Toolkit، وإذا لم تكن تستخدمها، فأنت تقوم بالأمور بنفسك، لذا تأكَّد من الانتباه إلى نماذج المحادثات.

نماذج Chat صعبة.

ويجب التعامل معها بحذر.

إذا كنت تستخدم ML Toolkit، يتم تنفيذ كل ذلك نيابةً عنك.

وأخيرًا، يواصل Gemma تقديم فهم رائع للنصوص.

وبفضل السياق الأطول، أصبح بإمكاننا الآن تحليل الرموز البرمجية والمستندات الطويلة وترجمتها.

في الواقع، بفضل وظيفة الترميز، أصبح استوديو Android متوافقًا الآن مع Gemma 4 في وضع عدم الاتصال بالإنترنت.

لذا، إذا أردت استخدام Android Studio بلا إنترنت، سيتم تشغيله بواسطة Gemma 4 لتنفيذ مهام الترميز.

نقطة أساسية: E2B وE4B صغيران بما يكفي ليتناسبا مع هاتفك ويعملا بشكل جيد عليه.

لذا، إنّها إمكانات كثيرة في جهاز صغير الحجم.

هذا في الواقع تحدٍ هندسي صعب للغاية، لذا نحن فخورون جدًا بهذا في فريق Gemma.

في ما يلي بعض الأمثلة التي توضّح الإمكانات.

على اليمين، نوضّح أنّ النموذج قادر على العثور على الكمبيوتر المحمول وعرض إحداثيات موقعه.

وبعد ذلك، يتمكن التطبيق من رسم مؤشر، وإظهار مكان الكمبيوتر المحمول.

في الوسط، يمكن للنموذج التعرّف على العناصر ثم رسم مربّعات محيطة بها.

هناك بعض التطبيقات المثيرة للاهتمام في هذا المجال، مثل رصد العناصر وتجنّبها.

هذه ميزة رائعة حقًا.

على اليسار، يظهر كيف يمكن للنموذج قراءة النص.

لذا، يمكن ترجمة هذه العبارة على النحو التالي: "احذر، هناك قطة".

يفهم أيضًا ما يحدث في الصورة، ويرى هذه القطة في هذا الوضع المضحك حقًا، ويمكنه ترجمة النص الموجود أسفلها والإشارة إلى أنّه عبارة عن جملة مضحكة تقول: "قد يحدث شيء ما".

وأعتقد أنّ هذا لطيف.

وبالتالي، يمكنه الإشارة إلى العناصر ورصدها والتعرّف البصري على الأحرف والترجمة، وكل ذلك بدون مسار خاص للرؤية.

حسنًا، لنتعرّف على أرقام التقييم.

إنّ إظهار القدرات أمر مهم دائمًا، ولكن الكثير من الأشخاص ينظرون إلى هذه النماذج، وأعتقد أنّه يمكنكم هنا رؤية قوة النماذج.

إذا نظرنا إلى العمودَين الأخيرَين، يتفوّق E2B على Gemma 3 27B، وهو نموذج أكبر بكثير، في الاستدلال والترميز والمهام المستندة إلى الوكلاء.

لذا، لنلقِ نظرة على LiveCodeBench.

حصلنا على 44 نقطة لـ Gemma 4 مقابل 29 نقطة لـ Gemma 3 27B.

كما أنّ معدّل الذكاء الاصطناعي في الرياضيات (AIME) أعلى بكثير.

أما Tau2، وهو تقييم قائم على الوكلاء، فهو أيضًا أعلى بكثير، ما يُظهر قوة كبيرة في هذا المجال.

وإذا أضفنا بضع مَعلمات أخرى، سيتفوّق نموذج E4B على نموذج 27B في كل مقياس أداء.

لذلك، عند الانتقال من Gemma 3 إلى Gemma 4، أضفنا الكثير من الإمكانات إلى العدد نفسه من المَعلمات.

سارة سموت

إذًا، كيف يمكننا تنفيذ ذلك؟

إنّ جعل النموذج أكثر فعالية بدون زيادة حجمه هو مشكلة صعبة.

إذا نظرنا إلى الأجهزة، نجد أنّ الهواتف تحتوي على ذاكرة أقل بكثير.

أعني أنّنا نتحدث عن 12 إلى 16 غيغابايت مقارنةً بـ 80 غيغابايت تقريبًا التي قد تحصل عليها على خادم.

كما أن معدل نقل البيانات أقل بكثير: من 50 إلى 80 غيغابايت مقابل تيرابايت التي ستحصل عليها في الخادم.

وهناك أيضًا قيود شديدة على الطاقة.

لذا يجب أن نضع كل هذه الأمور في الاعتبار أثناء تشغيل النموذج.

وكل أسلوب سأعرضه عليكم بعد ذلك يستهدف كل واحد من هذه القيود ويساعد في جعل النموذج أكثر مثالية للعمل على أجهزة الجوّال.

حسنًا، أول ما نفعله هو أننا لا نستخدم بنية واحدة لكل حجم.

لكل حجم نموذج بنية منفصلة خاصة به.

لذلك، يحتوي نموذج E2B وE4B على بعض العناصر الخاصة، والتي سأركز عليها بشكل أساسي في بقية حديثي، ولكن أعتقد أنه من المفيد معرفة أن نموذج 12B لا يحتوي على برنامج ترميز للرؤية.

لذلك، أزلنا أداة ترميز الرؤية من هذا النموذج لتبسيط عملية النشر وتقليل عدد المَعلمات التي يحتاجها النموذج.

يستهدف هذا البرنامج عادةً أجهزة الكمبيوتر المحمول.

أما النماذج الكبيرة، فتهدف إلى إظهار أكبر قدر من الإمكانات.

وتتوفّر هذه النماذج بنوعَين: نماذج كثيفة بالكامل ونماذج خليط من الخبراء.

ويمكن أيضًا تشغيل نموذج "مزيج الخبراء" على أجهزة الكمبيوتر المحمولة، وقد أنشأناه بسبب وقت الاستجابة المنخفض الذي يوفّره من خلال بنية الخبراء.

لذا، في بقية حديثي، سأركّز على نماذج الأجهزة الجوّالة، وهي E2B وE4B، وسأتحدث عمّا فعلناه لجعلها تعمل بشكل جيد على هواتفكم.

حسنًا، من هنا يأتي الحرف "E"، أي "التضمينات لكل طبقة" (Per-Layer Embeddings).

هذه تقنية مثيرة للاهتمام لدينا، وهي تقنية مبتكرة أضفناها إلى النماذج.

وإذا فكّرنا في طريقة عمل النماذج، نجد أنّها تحتاج إلى المزيد من المَعلمات لتكون أكثر ذكاءً.

ونحن نبحث عن طرق لتحسين كفاءة المَعلمات، ولكن بشكل عام، إذا أردت أن يكون النموذج أفضل، تحتاج إلى المزيد من المَعلمات.

لذلك، ما يفعله نموذج PLE هو أنّه يقول: "حسنًا، نحن بحاجة إلى المزيد من المَعلمات".

ولكن بدلاً من إضافة المزيد من المَعلمات مباشرةً إلى النموذج، لدينا جدول تضمينات إضافي.

ويتم قراءة جدول التضمينات هذا لكل طبقة.

ما يمكنك فعله هو أنّه بعد الحصول على الرموز المميّزة التي يحتاجها النموذج، يمكنك سحب التضمينات لكل طبقة التي تحتاجها لتسلسل إدخال معيّن، ثم يمكنك تحميل هذه التضمينات فقط في النموذج.

ما يفعله هو أنّه يمنحك نماذج فعّالة تتضمّن ملياري مَعلمة، على الرغم من أنّ عدد المَعلمات نفسه أكبر بكثير.

لهذا السبب، نطلق عليه اسم "2 مليار مَعلمة"، لأنّ هذه المَعلمات فقط يتم تحميلها في الذاكرة.

يتم حفظ جدول التضمينات بشكل عام في ذاكرة الفلاش، وليس في ذاكرة الوصول العشوائي (RAM).

وبالتالي، يتم تقليل معدل نقل البيانات لأنّه لا داعي لنقل عدد كبير من المَعلمات، ولكن تظلّ إمكانات النموذج الكاملة متاحة كما لو كان نموذجًا أكبر بكثير.

ويشغل أيضًا مساحة أقل من ذاكرة الوصول العشوائي على الجهاز.

الميزة التالية التي أضفناها هي نموذج الصياغة.

نموذج الصياغة الذي نستخدمه في Gemma هو نموذج تنبؤي متعدد الرموز.

وهو شكل من أشكال فك الترميز التخميني.

ما يفعله هذا هو أنه يمنحك يتنبأ بمزيد من الرموز المميزة لكل تمريرة أكثر مما سيفعله النموذج العام للانحدار التلقائي.

لذا، بدلاً من تقديم نماذج الانحدار الذاتي النموذجية، سيتم إنشاء رمز مميز واحد في كل مرة، وعليك مراجعة النموذج بأكمله لكل رمز مميز.

ما يفعله نموذج MTP هو أنّه يتوقّع ثلاثة أو أربعة رموز مميّزة في المرة الواحدة، ثم نستخدم النموذج الرئيسي للتحقّق من صحة هذه الرموز المميّزة.

وإذا تم قبول هذه الرموز المميّزة، يتم استخدامها، ويمكننا عادةً الحصول على رمزين أو ثلاثة أو أربعة رموز مميّزة في كل مرة بدلاً من رمز مميّز واحد فقط في كل مرة.

هذه تقنية شائعة.

تتوفّر نماذج Drafter.

ما فعلناه بشكل مختلف ومميّز في Gemma هو أنّنا نشارك ذاكرة التخزين المؤقت للمفتاح والقيمة من النموذج الأساسي.

لذلك، في E2B، نُجري عملية الملء المُسبق بالكامل، وننشئ ذاكرة التخزين المؤقت، ثم يستخدم نموذج الصياغة ذاكرة التخزين المؤقت KV هذه.

وبالتالي، يمكنك توفير حوالي 130 ملي ثانية في طلب يتألف من مئة رمز مميز أو ألف رمز مميز، لأنّك لست بحاجة إلى إعادة إنشاء ملء مسبق لنموذج الصياغة.

وبالتالي، فإنّ نموذج Drafter الخاص بنا أسرع بنحو 30 إلى 40 مرة من نماذج Drafter الأخرى المتوفّرة.

إذا نظرنا إلى الأرقام، يمكننا ملاحظة زيادة السرعة عند استخدام نموذج المسوّدة.

نحصل على معدّل قبول أعلى بنسبة تتراوح بين %40 و%60 مقارنةً بمعظم نماذج الصياغة.

ونحقّق وقت استجابة أقل بنسبة %40 لفك الترميز باستخدام نموذج الصياغة، كما نستخدم طاقة أقل بنسبة تتراوح بين %30 و%40 باستخدام هذا النموذج.

وبالتالي، ستحصل على ردود أسرع وعمر بطارية أطول، ولن تحتاج إلى إجراء أي تغييرات على الرمز البرمجي.

إنّها أداة بسيطة إلى حدّ ما وتتوفّر لها خدمات دعم جيدة.

سارة سموت

ابتكارنا التالي هو التكميم.

عادةً، لا تُعدّ عملية التكميم تقنية جديدة، ولكننا نولي اهتمامًا خاصًا بنماذجنا المخصّصة للأجهزة الجوّالة لضمان الحصول على عملية تكميم تعمل بشكل جيد مع أجهزة الجوّال.

هناك بعض الأمور التي نأخذها في الاعتبار في نماذج QAT.

الأول هو أننا نقوم بـ QAT، وهو، بالنسبة لأولئك الذين لا يعرفون، تدريب مدرك للكمية.

وهذا يعني أنّه عندما نُجري التدريب، نأخذ في الاعتبار حقيقة أنّنا سنقوم بعملية التكميم.

وبالتالي، يساعد ذلك النموذج على فهم أنّ المَعلمات سيتم تجميعها، ويساعد في الحفاظ على الجودة.

وتساعد أيضًا في الحفاظ على الجودة، ويمكننا عادةً تقليل حجم النموذج إلى جزء صغير من حجمه الأصلي.

لذا، إذا انتقلنا من نموذج 16 بت إلى نموذج 4 بت، وحافظنا على الجودة نفسها، نكون قد وفّرنا الكثير من الذاكرة.

يتوفّر E2B بنوعَين مختلفَين من التكميم.

لدينا تنسيق Q4_0.

هذه عملية تكميم أكثر للأغراض العامة.

ويمكن تخصيص ذلك.

يعمل هذا بشكل جيد مع مكتبات التكميم الأخرى.

ويتيح لك ذلك تجربة عملية التكميم التي قد تناسب حالة الاستخدام لديك.

لدينا أيضًا عملية تكميم خاصة جدًا، نسمّيها "تكميم الأجهزة الجوّالة"، وهي قوية جدًا في التكميم، وقد أجرينا الكثير من الأبحاث لجعلها مثالية.

لا تتوفّر هذه الميزة في معظم بيئات التشغيل، لذا فهي متوفّرة في حزمة تعلّم الآلة وفي "استوديو Android"، ويمكنك استخدامها.

ويمكنك استخدامها هناك.

بعض الابتكارات التي أضفناها: نستخدم كميات ثابتة للتفعيل.

لذلك، عند إجراء عملية التكميم، عادةً ما يحتاج النموذج، إذا كنت تقوم بتنشيط النطاق الديناميكي، إلى حساب النطاقات بسرعة ثم استخدام ذلك لإجراء عملية التكميم.

لقد أجرينا عملية التكميم الثابتة للنطاقات نيابةً عنك، ما يوفّر عليك عناء حساب النطاقات مسبقًا.

الأمر الآخر الذي قمنا به هو التكميم على مستوى القناة.

لقد نظّمنا النموذج وضغطناه بطريقة تعتمد على القنوات وتعمل بشكل جيد مع معظم الأجهزة الجوّالة.

وقد استهدفنا التكميم بمقدار 2 بت.

لذا، فإنّ عملية التكميم الثنائية البت تؤدي بشكل عام إلى فقدان الكثير من المعلومات.

من الصعب جدًا إجراء عملية "التدريب الواعي بالتقريب".

وقد أجرينا أبحاثًا وفهمنا نماذجنا جيدًا بما يكفي لمعرفة المعلمات التي يمكن ضغطها إلى 2 بت، وحققنا نتائج جيدة من خلال التدريب المستند إلى التكميم.

يوفّر ذلك الكثير من مساحة التخزين، مع الحفاظ على الجودة نفسها تقريبًا.

لذا، فإنّ نموذجنا الكمّي الخاص يبلغ حجمه أقل من غيغابايت، وهو أصغر بكثير من النماذج الكمّية ذات الـ 4 بت التي نقدّمها.

أضفنا أيضًا إلى عملية التكميم المخصّصة ميزة تكميم التضمين وذاكرة التخزين المؤقت لـ KV.

هناك العديد من الأساليب حول كيفية تنفيذ كليهما.

لقد أجرينا البحث، وهذا ما سيعمل بشكل جيد مع نموذجنا.

وقد جمعنا ذلك في نقاط التحقّق هذه.

لذا فإن كل هذا يقلل بشكل كبير من ذاكرتك النشطة.

ويوفّر لك الكثير من معدل نقل البيانات عند نقل المَعلمات ذهابًا وإيابًا.

ويتيح لك أيضًا إدارة محادثاتك الطويلة والاحتفاظ بها بدون نفاد المساحة.

سارة سموت

حسنًا، يتم الدمج من خلال AICore.

وبالتالي، يوفّر لك AICore نموذج Gemini Nano 4.

‫Gemini Nano 4 هو نموذج Gemma تم إنشاؤه وتشغيله من خلال AICore.

يوفّر AICore بعض المزايا الرائعة.

إنّه المسار الذي يتطلّب أقل قدر من التدخّل، وسأتحدّث عن المسار الآخر بسرعة.

أما المسار الآخر، فيتمثّل في استخدام LiteRT، وهو مسار أكثر تخصيصًا وعمليًا.

إذا كنت ستسلك هذا المسار، فسيتم تجميع النموذج مع تطبيقك.

ولن يستخدم النموذج المشترَك المستضاف على الجهاز فقط.

لذلك عليك أن تكون على دراية بذاكرتك.

عليك الانتباه إلى استهلاك الطاقة.

سيكون عليك أن تكون أكثر عملية في التعامل مع الموارد على الهاتف وكيفية إدارتها.

ولكنّه يمنحك تحكّمًا كاملاً.

يمكنك استخدام عمليات الضبط الدقيق مع LiteRT، ما يمنحك المزيد من خيارات التخصيص.

إذا كنت تستخدم AICore، يمكنك استخدام واجهات برمجة التطبيقات الخاصة بمجموعة أدوات تعلُّم الآلة، وهذا هو المسار الأكثر سهولة.

وعند استخدام هذه الميزة، ستحصل على الكثير من هذه الوظائف التي تحدّثتُ عنها، ويتم التعامل مع عمليات التضمين لكل طبقة بشكل مناسب، ويتيح وقت التشغيل عدم توفّر المَعلمات في ذاكرة RAM، وعدم توفّر مَعلمات التضمين في ذاكرة RAM.

يتضمّن هذا الجهاز بروتوكول نقل الوسائط (MTP) مدمجًا، لذا سيعمل تلقائيًا.

ويستخدم أيضًا نموذجنا الكمّي للأجهزة الجوّالة.

ويتم تشغيله في بيئة تشغيل مصمَّمة لاستضافة هذا التكميم والعمل معه بشكل جيد.

يمكنه العمل وتنفيذ المهام بدقة 2 بت، ما يجعله فعّالاً للغاية.

إذا أردت التعمّق أكثر، هناك محاضرتان أخريان تم تقديمهما أو سيتم تقديمهما.

تتناول جلسة "ديفيد" حول "حزمة تعلّم الآلة" مسار Gemini Nano 4، وكيفية استخدام النموذج من خلال "حزمة تعلّم الآلة"، ثم ستتناول جلسة "تشينتان" و"فيرغوس" حول LiteRT كيفية استخدام LiteRT وكيفية التطوير باستخدام LiteRT.

هذا هو مسار الطلب في Gemma.

هناك واجهة برمجة تطبيقات تعالج بعض المدخلات، وكل ذلك مدمج في التطبيق.

وتُعدّ إشارات الأمان جزءًا من معالجة الإدخال.

تتوفّر لك بعض ميزات الأمان المضمّنة في AICore.

يتحقّق من أنّنا نضمّن الكثير من ميزات الأمان في النموذج.

وهذا يوفّر طبقة أمان إضافية لتطبيقات الأجهزة الجوّالة.

وستمرّ من خلال إعدادات الميزة ثم من خلال وقت التشغيل على الجهاز فقط.

وعند إنشاء المخرجات، يتحقّق أيضًا من الأمان مرة أخرى.

ويتحقّق من إشارات الإخراج للتأكّد من أنّ الردود آمنة.

هذه طبقة أمان إضافية تتجاوز ما تم تضمينه في النموذج.

ويُجري أيضًا تحديثات ويتمّ مشاركته في جميع التطبيقات.

لذا، إذا كنت تنشئ تطبيقات متعددة على وجه الخصوص، أو لا تريد إدارة نموذج مجمّع، فهذه هي الطريقة الرائعة حقًا، وستحصل على الكثير من الوظائف المضمنة مباشرةً من الصندوق.

سارة سموت

حسنًا، سأنتقل إلى العرض التوضيحي.

هذا مساعد صوتي.

سأعرضه على كمبيوتر محمول.

أريدكم أن تلاحظوا أنّ هذه الميزة محلية بالكامل، وتعمل على الجهاز.

ويتم تتابعها باستخدام VAD.

يتم تحويل الكلام إلى نص، ثم تتم معالجته في Gemma، ثم يتم تحويل النص إلى كلام باستخدام نموذج TTS.

يتم بثه، ويتم تشغيله أيضًا على نموذج E2B.

هذا هو النموذج نفسه الذي يعمل على الكمبيوتر المحمول، ولكنه يعمل على الهاتف.

ويمكن تنفيذ كل ذلك على الهاتف.

تم إنشاء هذا العرض التوضيحي المحدّد باستخدام LiteRT.

يجب أن يكون من الممكن إنشاؤه باستخدام حزمة تعلّم الآلة أيضًا.

انتبه إلى وقت الاستجابة، فليس هناك رحلة ذهاب وعودة إلى الخادم، وراقِب كيفية تعامله مع الانقطاعات.

‫Gemma، أريد معرفة المزيد عنك.

أنا Gemma 4، وهو نموذج لغوي كبير طوّرته Google DeepMind.

أعالج النصوص والصور لتقديم المعلومات وإكمال المهام.

رائع.

هل يمكنك إخباري بنبذة مختصرة عن شكسبير؟

كان "ويليام شكسبير" كاتبًا مسرحيًا وشاعرًا إنجليزيًا يُعتبر على نطاق واسع أعظم كاتب في اللغة الإنجليزية.

لحظة،

أتعرف ما هو؟

أريد حقًا معرفة المزيد عن المجموعة الشمسية.

هل يمكنك إخباري عن ذلك؟

يتكوّن النظام الشمسي من الشمس وكل ما يرتبط بها بفعل الجاذبية، بما في ذلك ثمانية كواكب وكواكب قزمة وأقمار وكويكبات ومذنبات.

هذا رائع

هل يمكنك شرح طريقة عمل الثقب الأسود؟

يتشكّل الثقب الأسود عندما ينهار نجم ضخم تحت تأثير جاذبيته، ما يؤدي إلى إنشاء منطقة من الزمكان ذات جاذبية قوية لدرجة أنّه لا يمكن لأي شيء، حتى الضوء، الهروب منها.

هذا رائع

شكرًا لك.

مرحبًا بك.

هل لديك أي أسئلة أخرى يمكنني الإجابة عنها؟

حسنًا.

هناك المساعد الصوتي.

حسنًا، لننتقل إلى السؤال التالي.

سيكون هذا مساعدًا محليًا يستخدم إمكانات الفيديو.

وهي تعمل بالكامل بلا إنترنت، ولإثبات ذلك، تم إجراء العرض التوضيحي أثناء التخييم، في البرية على ما يبدو.

الأمور التي يجب الانتباه إليها هي أنّ هذا النموذج يستند إلى نموذج E4B.

يتحدّث بشكل طبيعي.

سنوضّح له كيفية تنفيذ المهام.

يستخدم Gemini طلبات الأدوات في الخلفية، ويمكنه الوصول إلى عناصر مختلفة على الهاتف.

وهي مرحة جدًا.

‫Gemma، هل نحن متصلون بالإنترنت الآن؟

لا، ليس لدينا اتصال بالإنترنت الآن.

ما هو موضوع هذا التحذير؟

هذا باللغة الإسبانية.

هذه اللافتة تحذيرية بشأن موطن أسد الجبال.

وتشير إلى أنّ حيوانات البوما جزء من البيئة المحلية، ويجب توخي الحذر عند مواجهة أحدها.

ما هو مشتق هذه الدالة؟

مشتقة x تربيع زائد 7x زائد 10 هي 2x زائد 7.

إنّه مضحك.

مرحبًا

مرحبًا سيندي.

يا Gemma، متى موعد نزهتنا الجماعية الليلة؟

تم تحديد موعد رحلة المشي الجماعية في الساعة 6:00 مساءً.

اليوم.

هل هذا أسد جبال؟

لا، هذا كلب.

أحسنت.

سارة سموت

حسنًا، لنبدأ البناء.

هذه هي الروابط هنا، وهي في الواقع روابط إلى نقاط التحقّق.

إذا أردت الاطّلاع مباشرةً على نقاط التحقّق ورمز النموذج، فكلّها متاحة.

يمكنك استخدام تعلُّم الآلة، مثل Gemma وGemini Nano 4 ورابط حزمة تعلُّم الآلة.

تتوفّر نقاط التحقّق على Hugging Face، والرمز البرمجي الخاص بنا متاح في قاعدة الرموز البرمجية لـ Transformers.

يمكنك الاطّلاع على ما فعلناه.

يمكنك أيضًا الحصول على نقاط التحقّق من Kaggle.

أريد أن أذكّركم مرة أخرى بالاطّلاع على العرض التقديمي الذي قدّمه "ديفيد" حول "حزمة تعلّم الآلة"، إذا أردتم معرفة المزيد عن هذه الحزمة.

بعد ذلك، سنقدّم عرضًا تقديميًا حول LiteRT من إعداد "تشينتان" و"فيرغوس".

إذا أردت معرفة كيفية الوصول إلى النموذج واستخدامه في تطبيقاتك من خلال LiteRT

شكرًا لك.

أنا متحمّس جدًا لرؤية ما ستبتكرونه.