Gemini Nano

‫Gemini Nano به شما امکان می‌دهد بدون نیاز به اتصال شبکه یا ارسال داده به فضای ابری، تجربه‌های غنی هوش مصنوعی زایا ارائه دهید. هوشواره درون‌دستگاهی راه‌حل فوق‌العاده‌ای برای موارد استفاده‌ای است که هزینه پایین و پادمان‌های حریم خصوصی نگرانی‌های اصلی شما هستند.

برای موارد استفاده درون‌دستگاهی، می‌توانید از مدل پایه Gemini Nano از Google بهره ببرید. ‫Gemini Nano در سرویس سیستم AICore در Android اجرا می‌شود، که از سخت‌افزار دستگاه برای فعال کردن تأخیر پایین استنباط استفاده می‌کند و مدل را به‌روز نگه می‌دارد.

میاناهای برنامه‌سازی کاربردی ML Kit GenAI

میاناهای برنامه‌سازی کاربردی GenAI در ML Kit از قدرت Gemini Nano برای کمک به برنامه‌هایتان در انجام وظایف استفاده می‌کنند. این «میاناهای برنامه‌سازی کاربردی» ازطریق میانای سطح بالا، کیفیت آماده‌ای برای موارد استفاده محبوب ارائه می‌دهند. «میاناهای برنامه‌سازی کاربردی هوش مصنوعی زایای ML Kit» روی AICore ساخته شده است، AICore یک سرویس سیستم Android است که اجرای درون‌دستگاهی مدل‌های پایه هوش مصنوعی زایا را برای تسهیل ویژگی‌هایی مثل عملکرد بهبودیافته برنامه و بهبود حریم خصوصی کاربر ازطریق پردازش محلی داده‌ها امکان‌پذیر می‌کند. بیشتر بدانید.

ویژگی‌های مهم

«میاناهای برنامه‌سازی کاربردی هوش مصنوعی زایا ML Kit» از ویژگی‌های زیر پشتیبانی می‌کند:

  • پیام‌واره: محتوای نوشتاری را براساس پیام‌واره فقط نوشتاری یا چندحالته سفارشی تولید کنید.
  • خلاصه کردن: مقاله‌ها یا مکالمه‌ها را به‌صورت فهرست گلوله‌ای خلاصه می‌کند.
  • نمونه‌خوانی: پیام‌های کوتاه گپ را نمونه‌خوانی کنید.
  • بازنویسی: پیام‌های کوتاه گپ را با لحن‌ها یا سبک‌های مختلف بازنویسی کنید.
  • شرح تصویر: شرح کوتاهی از تصویر ارائه‌شده تولید کن.
  • تشخیص گفتار: صدای گفتاری را به نوشتار ترانویسی می‌کند.

معماری ازطریق AICore

به‌عنوان واحد سطح سیستم، برای اجرای استنباط درون‌دستگاهی ازطریق مجموعه‌ای از میاناهای برنامه‌سازی کاربردی به AICore دسترسی پیدا می‌کنید. علاوه‌براین، AICore چندین ویژگی ایمنی داخلی دارد که ارزیابی کامل دربرابر فیلترهای ایمنی ما را تضمین می‌کند. نمودار زیر نحوه دسترسی یک برنامه به AICore برای اجرای Gemini Nano در دستگاه را نشان می‌دهد.

نموداری که نشان می‌دهد چگونه یک برنامه Android از «کیت توسعه نرم‌افزار Google AI Edge» برای دسترسی به AICore استفاده می‌کند، جایی که Gemini Nano،‏ LoRA، و ویژگی‌های ایمنی مدیریت می‌شوند و در شتاب‌دهنده‌های سخت‌افزاری اجرا می‌شوند.
شکل ۱. ‫AICore به‌عنوان میانای بین برنامه شما و مدل Gemini Nano عمل می‌کند و به‌روزرسانی‌های مدل و ایمنی را درحین استفاده از سخت‌افزار درون‌دستگاهی مدیریت می‌کند.

داده‌های کاربر را خصوصی و ایمن نگه دارید

هوش مصنوعی زایا درون‌دستگاهی پیام‌واره‌ها را به‌صورت محلی اجرا می‌کند و تماس‌های سرور را حذف می‌کند. اگرچه این کار تأخیر شبکه را برطرف می‌کند، سرعت استنباط به سخت‌افزار دستگاه بستگی دارد. این رویکرد با نگه داشتن داده‌های حساس در دستگاه، حریم خصوصی را بهبود می‌بخشد، عملکرد آفلاین را امکان‌پذیر می‌کند، و هزینه‌های استنباط را کاهش می‌دهد.

‫AICore از اصول هسته رایانش خصوصی با ویژگی‌های کلیدی زیر پیروی می‌کند:

  • ملزم کردن بسته محدود: AICore از اکثر بسته‌های دیگر جدا شده است، با استثنائات محدود برای بسته‌های سیستم خاص. هرگونه تغییر در این فهرست مجاز فقط درطول به‌روزرسانی کامل Android OTA امکان‌پذیر است.
  • دسترسی غیرمستقیم به اینترنت: AICore دسترسی مستقیم به اینترنت ندارد. همه درخواست‌های اینترنتی، ازجمله بارگیری‌های مدل، ازطریق فایل همراه منبع‌باز خدمات محاسباتی خصوصی هدایت می‌شوند. میاناهای برنامه‌سازی کاربردی در «خدمات محاسباتی خصوصی» باید ماهیت حریم خصوصی‌محور خود را به‌طور صریح نشان دهند.

علاوه‌براین، AICore به‌گونه‌ای ساخته شده است که هر درخواست را جدا کند و هیچ سابقه ای از داده‌های ورودی یا بروندادهای حاصل پس‌از پردازش آن‌ها برای محافظت از حریم خصوصی کاربر ذخیره نمی‌کند. برای کسب اطلاعات بیشتر، پست وبلاگ آشنایی با حریم خصوصی و ایمنی Gemini Nano را بخوانید.

نمودار معماری دقیق AICore که جریان درخواست را نشان می‌دهد: سطح میانای برنامه‌سازی کاربردی، پردازش ورودی با سیگنال‌های ایمنی، پیکربندی ویژگی، زمان اجرا با وزن‌های مدل و LoRA، و پردازش برونداد با سیگنال‌های ایمنی. همچنین بارگیری‌های مدل ازطریق «خدمات محاسباتی خصوصی» را نشان می‌دهد.
شکل ۲. معماری AICore ایمنی ورودی و برونداد، پردازش درخواست، و وزن مدل را مدیریت می‌کند تا محیطی ایمن برای هوشواره‌ای درون‌دستگاهی فراهم کند.

مزایای دسترسی به مدل‌های پایه هوش مصنوعی با AICore

‫AICore سیستم عامل Android را قادر می‌سازد مدل‌های پایه هوش مصنوعی را ارائه و مدیریت کند. این کار هزینه استفاده از این مدل‌های بزرگ در برنامه‌تان را به‌طور قابل‌توجهی کاهش می‌دهد، به‌ویژه به‌دلیل موارد زیر:

  • سهولت استقرار: AICore توزیع Gemini Nano را مدیریت می‌کند و به‌روزرسانی‌های آتی را انجام می‌دهد. لازم نیست نگران بارگیری یا به‌روزرسانی مدل‌های بزرگ ازطریق شبکه باشید، و همچنین لازم نیست نگران تأثیر آن بر بودجه حافظه زمان اجرا و دیسک برنامه‌تان باشید.
  • استنباط شتاب‌یافته: AICore از سخت‌افزار درون‌دستگاهی برای شتاب دادن به استنباط استفاده می‌کند. برنامه شما در هر دستگاه بهترین عملکرد را دارد و نیازی نیست نگران میاناهای سخت‌افزاری زیرین باشید.

زمان استفاده از استنتاج ترکیبی

اگرچه Gemini Nano برای کارهای آفلاین و حساس به حریم خصوصی ایده‌آل است، اما محدودیت‌های درون‌دستگاهی مانند محدودیت‌های تعداد نشانه‌ها، محدودیت‌های سخت‌افزار دستگاه، و مرزهای قابلیت مدل دارد. در این سناریوها، می‌توانید از استنباط ترکیبی برای ایجاد تعادل در حجم کار هوش مصنوعی بین دستگاه محلی و ابر استفاده کنید.

برای اطمینان از تجربه کاربری یکپارچه در همه دستگاه‌ها و مدیریت پُرسمان‌های پیچیده، می‌توانید از Firebase AI Logic Hybrid API استفاده کنید. این کار به برنامه شما اجازه می‌دهد کارهای زیر را انجام دهد:

  • عملکرد مناسب درصورت عدم دسترسی: وقتی Gemini Nano در دستگاه کاربر دردسترس نباشد یا پشتیبانی نشود، درخواست‌ها به‌طور خودکار به مدل‌های Gemini Flash یا Gemini Pro در فضای ابری هدایت می‌شود.
  • اجرای امنیت: با Firebase App Check (و ارائه‌دهندگان گواهی پشتیبانی‌شده آن، مانند Play Integrity) از استنتاج ابری محافظت کنید و پیام‌واره‌های سیستم حساس را در سمت سرور نگه دارید.