استنتاج ترکیبی

‫Google مجموعه گسترده‌ای از مدل‌های هوش مصنوعی و میاناهای برنامه‌سازی کاربردی پیشرو در صنعت را برای استنباط ابری و درون‌دستگاهی ارائه می‌دهد. استنباط ترکیبی به شما امکان می‌دهد بار کاری هوش مصنوعی را به‌طور یکپارچه بین دستگاه محلی و ابر تراز کنید و عملکرد، هزینه، و دردسترس بودن را بهینه‌سازی کنید.

استنباط ترکیبی دو مزیت اصلی برای برنامه Android شما فراهم می‌کند:

• به‌حداکثر رساندن دسترسی: وقتی مدل‌های درون‌دستگاهی، مثل Gemini Nano، به‌دلیل محدودیت‌های سخت‌افزار دستگاه یا سیستم‌عامل دردسترس نباشند، مدل‌های ابری به‌عنوان یک پشتیبان حیاتی عمل می‌کنند. این کار کمک می‌کند تا ویژگی‌های هوش مصنوعی شما در وسیع‌ترین طیف ممکن از دستگاه‌های کاربران همچنان کار کنند.
• هزینه و قابلیت‌های آفلاین: مدل‌های درون‌دستگاهی کمک می‌کنند ویژگی‌های هوش مصنوعی شما وقتی کاربر آفلاین است به‌طور یکپارچه کار کنند. علاوه‌براین، واگذاری کارهای معمول به دستگاه محلی به کاهش هزینه‌های استنباط ابری کمک می‌کند.

در اینجا مزایای استنباط درون‌دستگاهی و استنباط ابری به‌ترتیب آورده شده است:

گزینه‌های پیاده‌سازی

بااستفاده از رویکردهای زیر می‌توانید استنباط ترکیبی را پیاده‌سازی کنید:

• Firebase AI Logic Hybrid API
• مسیریابی سفارشی

Firebase AI Logic Hybrid API

Firebase AI Logic Hybrid API یک میانای واحد و یکپارچه برای مسیردهی استنباط بین مدل‌های ابری و درون‌دستگاهی ارائه می‌دهد.

• جابه‌جایی خودکار: می‌توانید برنامه‌تان را به‌گونه‌ای پیکربندی کنید که هرگاه ممکن بود تکالیف هوش مصنوعی را در دستگاه اجرا کند. این یعنی ویژگی برنامه شما به‌صورت آفلاین کار می‌کند، حریم خصوصی بهبودیافته دارد، و هزینه استنباط ابری ندارد. اگر مدل درون‌دستگاهی دردسترس نباشد، کیت توسعه نرم‌افزار می‌تواند به‌طور خودکار درخواست را به مدل Gemini میزبانی‌شده در فضای ابری هدایت کند.
• محافظت دربرابر سوءاستفاده: فراخوانی مستقیم میاناهای برنامه‌سازی کاربردی ابری از برنامه تلفن همراه می‌تواند باعث شود اطلاعات اعتباری درمعرض خطر قرار گیرد و هزینه‌های ناخواسته ایجاد شود. بااین‌حال، وقتی از Firebase AI Logic استفاده می‌کنید، بررسی برنامه Firebase را نیز اجرا می‌کنید که می‌تواند با تأیید اینکه فقط برنامه واقعی و دستکاری‌نشده شما می‌تواند به Gemini API ابری دسترسی داشته باشد، به جلوگیری از سوءاستفاده کمک کند.
• حدود هزینه: هنگام مسیریابی درخواست‌ها به مدل‌های میزبانی‌شده در فضای ابری، می‌توانید سقف هزینه را پیکربندی کنید تا به شما کمک کند از بودجه ابری خود محافظت کنید و از هزینه‌های غیرمنتظره جلوگیری کنید.

در برنامه‌تان، پارامتر onDeviceConfig را برای کنترل حالت استنباط تعریف می‌کنید و مسیریابی را مدیریت می‌کنید:

• PREFER_ON_DEVICE: تلاش می‌کند از مدل درون‌دستگاهی استفاده کند؛ اگر مدل درون‌دستگاهی دردسترس نباشد یا از درخواست پشتیبانی نکند، به‌طور خودکار به مدل میزبانی‌شده در فضای ابری برمی‌گردد.

• ‫PREFER_IN_CLOUD: وقتی دستگاه آنلاین است و مدل دردسترس است، تلاش می‌کند از مدل میزبانی‌شده در فضای ابری استفاده کند؛ فقط درصورتی‌که دستگاه آفلاین باشد به مدل درون‌دستگاهی برمی‌گردد.

• ONLY_ON_DEVICE: تلاش می‌کند از مدل درون‌دستگاهی استفاده کند؛ اگر مدل درون‌دستگاهی برای درخواست دردسترس نباشد یا پشتیبانی نشود، استثنایی ایجاد می‌کند.

• ONLY_IN_CLOUD: وقتی دستگاه آنلاین باشد و مدل دردسترس باشد، سعی می‌کند از مدل میزبانی‌شده در فضای ابری استفاده کند؛ در همه موارد دیگر استثنا ایجاد می‌کند.

val model = Firebase.ai(backend = GenerativeBackend.Companion.googleAI())
    .generativeModel(
        modelName = "gemini-3.5-flash",
        onDeviceConfig = OnDeviceConfig(mode = InferenceMode.Companion.PREFER_ON_DEVICE)
    )

val response = model.generateContent("Write a story about a green robot.")
print(response.text)
HybridInferenceSnippets.kt

برای جزئیات پیاده‌سازی، اسناد Firebase را مرور کنید و نمونه هوش مصنوعی ترکیبی در کاتالوگ هوش مصنوعی را کاوش کنید.

انتقال حجم‌های کاری به فضای ابری می‌تواند نقاط پایانی API ابری را آشکار کند. وقتی از Firebase AI Logic استفاده می‌کنید، می‌توانید با اعمال بررسی برنامه Firebase، که به محافظت از استنباط مبتنی بر ابر دربرابر دسترسی غیرمجاز و سوءاستفاده از صورت‌حساب کمک می‌کند، به‌طور ایمن به مدل‌های Gemini مبتنی بر ابر مستقیماً از برنامه‌های سمت مشتری خود دسترسی داشته باشید. این کار به حفظ دردسترس بودن و امنیت سازوکار بازگشت ترکیبی شما کمک می‌کند.

مسیریابی سفارشی

اگر برنامه شما الزامات کسب‌وکار یا تجربه کاربری خاصی دارد، می‌توانید منطق مسیریابی سفارشی را نیز پیاده‌سازی کنید. این کار به شما امکان می‌دهد مسیر استنباط را به‌صورت پویا براساس عوامل هم‌زمان تعیین کنید، ازجمله:

• تأخیر شبکه
• سلامت سیستم دستگاه (برای مثال، سطح باتری و بار پردازنده)
• پیچیدگی پُرسمان کاربر

برنامه‌های پیشرو که مسیریابی سفارشی خودشان را برای ارائه تجربه‌های هوش مصنوعی قابل‌اعتماد پیاده‌سازی کرده‌اند از این رویکرد استنباط ترکیبی سفارشی استفاده می‌کنند، ازجمله:

• ‫GBoard: ‫Gboard از استنباط ترکیبی سفارشی برای تقویت ابزارهای نگارش مثل نمونه‌خوانی و بازنویسی استفاده می‌کند.

• Kakao Mobility: ‫Kakao Mobility بااستفاده از استنباط ترکیبی سفارشی، ابزار «استخراج نهاد» را برای سرویس تحویل بسته‌های خود ساخته است که به‌طور خودکار نام گیرنده، نشانی، و شماره تلفن را از پیام‌های زبان طبیعی استخراج می‌کند تا فرم‌های سفارش را ساده‌سازی کند.