產品新訊

Android 專用的實驗性混合推論技術和全新 Gemini 模型

3 分鐘閱讀
Thomas Ezan
資深開發人員關係工程師

如果您是 Android 開發人員,想在應用程式中導入創新的 AI 功能,我們最近推出了強大的新更新:

  • 混合式推論:Firebase AI Logic 的新 API,可同時運用裝置端和雲端推論,
  • 支援新的 Gemini 模型,包括最新的 Nano Banana 模型,可生成圖像。

我們開始吧!

實驗混合推論

我們透過全新的 Firebase API for hybrid inference,實作簡單的規則式路徑方法,做為初始解決方案,讓您透過統一的 API 使用裝置端和雲端推論。我們預計日後會提供更精細的轉送功能。

這項功能可讓應用程式在裝置上執行的 Gemini Nano,以及雲端代管的 Gemini 模型之間動態切換。裝置端執行作業會使用 ML Kit 的 Prompt API。雲端推論支援 Vertex AI 和 Developer API 中的所有 Firebase AI Logic Gemini 模型。

如要使用這項功能,請將 firebase-ai-ondevice 依附元件和 Firebase AI Logic 一併新增至應用程式:

dependencies {
 [...] 
 implementation("com.google.firebase:firebase-ai:17.10.1")
 implementation("com.google.firebase:firebase-ai-ondevice:16.0.0-beta01")
}

初始化期間,您會建立 GenerativeModel 例項,並使用特定推論模式設定該例項,例如 PREFER_ON_DEVICE (如果裝置無法使用 Gemini Nano,則會改用雲端) 或 PREFER_IN_CLOUD (如果離線,則會改用裝置端推論):

val model = Firebase.ai(backend = GenerativeBackend.googleAI())
    .generativeModel(
        modelName = "gemini-3.1-flash-lite",
        onDeviceConfig = OnDeviceConfig(
           mode = InferenceMode.PREFER_ON_DEVICE
        )
    )

val response = model.generateContent(prompt)

Android 適用的混合式推論 Firebase API 仍處於實驗階段,建議您在應用程式中試用,尤其是已使用 Firebase AI Logic 的應用程式。

目前裝置端模型專門用於根據文字或單一點陣圖輸入內容,生成單輪對話的文字。如需更多詳細資料,請參閱限制

我們剛在 AI 範例目錄中發布新的範例,其中運用 Firebase API 進行混合式推論,示範如何使用 Firebase API 進行混合式推論,根據選取的幾個主題生成評論,然後翻譯成各種語言。查看程式碼,瞭解實際運作方式!

Hybrid_Inference-Inline-imagery.gif
實際運作的新型混合式推論範例

實際運作的新型混合式推論範例

試用新模型

我們發布了兩款特別適合 Android 開發人員的新 Gemini 模型,可透過 Firebase AI Logic SDK 輕鬆整合至應用程式。

Nano Banana
去年,我們推出了最先進的圖像生成模型 Nano Banana。幾週前,我們也發布了幾款新的 Nana Banana 模型。

Nano Banana Pro (Gemini 3 Pro Image) 專為製作專業素材而設計,可算繪高保真文字,甚至能使用特定字型或模擬不同類型的手寫字。

Nano Banana 2 (Gemini 3.1 Flash Image) 是 Nano Banana Pro 的高效率版本。這項服務經過最佳化,可快速處理大量資料。這項技術可廣泛用於各種用途 (資訊圖、虛擬貼紙、情境插圖等)。  

新版 Nano Banana 模型運用真實世界知識和深入的推論能力,生成精確且細緻的圖像。

我們已更新「魔術自拍」範例 (使用圖像生成功能變更自拍背景!),改用 Nano Banana 2。現在背景分割作業會直接由圖像生成模型處理,因此實作起來更輕鬆,且 Nano Banana 2 的圖像生成功能也更出色。如要瞭解實際運作情況,請參閱這篇文章

magic_selfie.png
更新的 Magic Selfie 範例使用 Nanobana 2 更新自拍背景

您可以透過 Firebase AI Logic SDK 使用這項功能。詳情請參閱 Android 說明文件

Gemini 3.1 Flash-Lite

我們也發布了 Gemini 3.1 Flash-Lite,這是 Gemini Flash-Lite 系列的新版本。Gemini Flash-Lite 模型品質/延遲比率良好,推論成本低廉,因此特別受到 Android 開發人員青睞。Android 開發人員已將其用於各種用途,例如翻譯應用程式內訊息,或根據菜餚圖片生成食譜。  

Gemini 3.1 Flash-Lite 目前為搶先體驗版,延遲時間與 Gemini 2.5 Flash-Lite 相當,但可支援更進階的用途。

如要進一步瞭解這個模型,請參閱 Firebase 說明文件

結語

現在正是好時機,歡迎探索目錄中的全新 Hybrid 範例,瞭解這些功能實際運作情形,以及在裝置端和雲端推論之間進行路徑設定的好處。此外,我們也建議您參閱說明文件,測試新的 Gemini 模型。

撰寫者:

繼續閱讀