Produktneuigkeiten

Experimentelle hybride Inferenz und neue Gemini-Modelle für Android

Lesezeit: 2 Minuten
Profil von Thomas Ezan ansehen
Thomas Ezan Senior Developer Relations Engineer

Wenn Sie Android-Entwickler sind und innovative KI-Funktionen in Ihre App einbinden möchten, haben wir vor Kurzem leistungsstarke neue Updates veröffentlicht:

  • Hybride Inferenz, eine neue API für Firebase AI Logic, mit der sowohl On-Device- als auch Cloud-Inferenz genutzt werden kann,
  • Unterstützung für neue Gemini-Modelle, einschließlich der neuesten Nano Banana-Modelle für die Bildgenerierung.

Fangen wir am besten gleich an.

Mit hybrider Inferenz experimentieren

Mit der neuen Firebase API für die hybride Inferenz haben wir einen einfachen regelbasierten Routing-Ansatz als erste Lösung implementiert, mit dem Sie sowohl On-Device- als auch Cloud-Inferenz über eine einheitliche API verwenden können. Wir planen, in Zukunft komplexere Routingfunktionen anzubieten.

Damit kann Ihre App dynamisch zwischen Gemini Nano, das lokal auf dem Gerät ausgeführt wird, und in der Cloud gehosteten Gemini-Modellen wechseln. Für die Ausführung auf dem Gerät wird die Prompt API von ML Kit verwendet. Die Cloud-Inferenz unterstützt alle Gemini-Modelle von Firebase AI Logic sowohl in Vertex AI als auch in der Developer API.

Wenn Sie sie verwenden möchten, fügen Sie Ihrer App die firebase-ai-ondevice-Abhängigkeiten zusammen mit Firebase AI Logic hinzu:

dependencies {
 [...] 
 implementation("com.google.firebase:firebase-ai:17.10.1")
 implementation("com.google.firebase:firebase-ai-ondevice:16.0.0-beta01")
}

Während der Initialisierung erstellen Sie eine GenerativeModel-Instanz und konfigurieren sie mit bestimmten Inferenzmodi, z. B. PREFER_ON_DEVICE (greift auf die Cloud zurück, wenn Gemini Nano auf dem Gerät nicht verfügbar ist) oder PREFER_IN_CLOUD (greift auf die On-Device-Inferenz zurück, wenn das Gerät offline ist):

val model = Firebase.ai(backend = GenerativeBackend.googleAI())
    .generativeModel(
        modelName = "gemini-3.1-flash-lite",
        onDeviceConfig = OnDeviceConfig(
           mode = InferenceMode.PREFER_ON_DEVICE
        )
    )

val response = model.generateContent(prompt)

Die Firebase API für die hybride Inferenz für Android befindet sich noch in der experimentellen Phase. Wir empfehlen Ihnen, sie in Ihrer App auszuprobieren, insbesondere wenn Sie bereits Firebase AI Logic verwenden. 

Derzeit sind On-Device-Modelle auf die Single-Turn-Textgenerierung basierend auf Text- oder einzelnen Bitmap-Bildeingaben spezialisiert. Weitere Informationen finden Sie unter Einschränkungen.

Wir haben gerade ein neues Beispiel im AI Sample Catalog veröffentlicht, in dem die Firebase API für Hybrid-Inferenz verwendet wird. Es zeigt, wie die Firebase API für Hybrid-Inferenz verwendet werden kann, um eine Rezension basierend auf einigen ausgewählten Themen zu generieren und diese dann in verschiedene Sprachen zu übersetzen. Sehen Sie sich den Code an, um ihn in Aktion zu sehen.

Hybrid_Inference-Inline-imagery.gif
Das neue Beispiel für die hybride Inferenz in Aktion

Das neue Beispiel für die hybride Inferenz in Aktion 

Neue Modelle ausprobieren

Im Rahmen der neuen Gemini-Modelle haben wir zwei Modelle veröffentlicht, die für Android-Entwickler besonders hilfreich sind und sich über das Firebase AI Logic SDK einfach in Ihre Anwendung einbinden lassen.

Nano Banana
Letztes Jahr haben wir Nano Banana veröffentlicht, ein hochmodernes Modell zur Bildgenerierung. Vor ein paar Wochen haben wir ein paar neue Nana Banana-Modelle herausgebracht.

Nano Banana Pro (Gemini 3 Pro Image) wurde für die professionelle Asset-Produktion entwickelt und kann Text in hoher Qualität rendern, sogar in einer bestimmten Schriftart oder als Simulation verschiedener Arten von Handschrift.

Nano Banana 2 (Gemini 3.1 Flash Image) ist das hocheffiziente Gegenstück zu Nano Banana Pro. Es ist für Geschwindigkeit und Anwendungsfälle mit hohem Volumen optimiert. Es kann für eine Vielzahl von Anwendungsfällen verwendet werden (Infografiken, virtuelle Sticker, kontextbezogene Illustrationen usw.).  

Die neuen Nano Banana-Modelle nutzen Wissen über die reale Welt und tiefgreifende Reasoning-Funktionen, um präzise und detaillierte Bilder zu generieren.

Wir haben unser Magic Selfie-Beispiel (mit Bildgenerierung den Hintergrund eines Selfies ändern) aktualisiert, um Nano Banana 2 zu verwenden. Die Hintergrundsegmentierung wird jetzt direkt vom Modell zur Bildgenerierung übernommen. Das vereinfacht die Implementierung und sorgt dafür, dass die verbesserten Funktionen zur Bildgenerierung von Nano Banana 2 optimal genutzt werden können. Hier kannst du dir die Funktion in Aktion ansehen.

magic_selfie.png
Das aktualisierte Magic Selfie-Beispiel verwendet Nanobana 2, um den Hintergrund eines Selfies zu aktualisieren.

Sie können es über das Firebase AI Logic SDK verwenden. Weitere Informationen finden Sie in der Android-Dokumentation.

Gemini 3.1 Flash-Lite

Außerdem haben wir Gemini 3.1 Flash-Lite veröffentlicht, eine neue Version der Gemini Flash-Lite-Familie. Die Gemini Flash-Lite-Modelle sind bei Android-Entwicklern besonders beliebt, da sie ein gutes Verhältnis von Qualität und Latenz sowie niedrige Inferenzkosten bieten. Android-Entwickler haben es für verschiedene Anwendungsfälle verwendet, z. B. für die Übersetzung von In-App-Nachrichten oder die Erstellung eines Rezepts aus einem Bild eines Gerichts.  

Gemini 3.1 Flash-Lite, das sich derzeit in der Vorabversion befindet, ermöglicht komplexere Anwendungsfälle mit einer Latenz, die mit der von Gemini 2.5 Flash-Lite vergleichbar ist.

Weitere Informationen zu diesem Modell finden Sie in der Firebase-Dokumentation.

Schlusswort

In unserem Katalog finden Sie ein neues Hybrid-Beispiel, mit dem Sie diese Funktionen in Aktion sehen und die Vorteile des Routings zwischen On-Device- und Cloud-Inferenz nachvollziehen können. Wir empfehlen Ihnen außerdem, sich unsere Dokumentation anzusehen, um die neuen Gemini-Modelle zu testen.

Verfasst von:
Weiterlesen