Prompt API von ML Kit: Benutzerdefinierte On-Device-Gemini Nano-Funktionen freischalten

Mit KI ist es einfacher, personalisierte App-Inhalte zu erstellen, die für Nutzer in das richtige Format gebracht werden. Bisher konnten Entwickler Gemini Nano über ML Kit GenAI APIs einbinden, die auf bestimmte Anwendungsfälle wie Zusammenfassungen und Bildbeschreibungen zugeschnitten sind.

Heute erreichen wir einen wichtigen Meilenstein für die On-Device-KI von Android. Wir kündigen die Alpha-Version der ML Kit GenAI Prompt API an. Mit dieser API können Sie Anfragen in natürlicher Sprache und multimodale Anfragen an Gemini Nano senden. So wird die Nachfrage nach mehr Kontrolle und Flexibilität bei der Entwicklung mit generativen Modellen erfüllt.

Partner wie Kakao entwickeln bereits mit der Prompt API und schaffen so einzigartige Erlebnisse mit realen Auswirkungen. Sie können die leistungsstarken Funktionen der Prompt API schon heute mit minimalem Code ausprobieren.

Von vordefinierter zu benutzerdefinierter generativer KI auf dem Gerät

Die Prompt API geht über vordefinierte Funktionen hinaus und unterstützt benutzerdefinierte, App-spezifische Anwendungsfälle für generative KI. So können Sie einzigartige Funktionen mit komplexer Datentransformation erstellen. Die Prompt API verwendet Gemini Nano auf dem Gerät, um Daten lokal zu verarbeiten. Das ermöglicht die Offlinenutzung und einen besseren Datenschutz für Nutzer.

Wichtige Anwendungsfälle für die Prompt API:

Die Prompt API ermöglicht hochgradig personalisierte Anwendungsfälle für generative KI. Hier einige empfohlene Beispiele: 

• Bildverständnis: Fotos werden analysiert, um sie zu klassifizieren (z.B. um einen Entwurf für einen Beitrag in sozialen Medien zu erstellen oder Tags wie „Haustiere“, „Essen“ oder „Reisen“ zu identifizieren).
• Intelligentes Scannen von Dokumenten: Mit einem herkömmlichen ML-Modell wird Text aus einem Beleg extrahiert und dann mit der Prompt API jedes Element kategorisiert.
• Daten für die Benutzeroberfläche transformieren: Langform-Inhalte analysieren, um einen kurzen, ansprechenden Benachrichtigungstitel zu erstellen.
• Inhaltsvorschläge: Vorschlagen von Themen für neue Tagebucheinträge basierend auf den bevorzugten Themen eines Nutzers.
• Inhaltsanalyse: Kundenrezensionen werden in die Kategorien „positiv“, „neutral“ oder „negativ“ eingeteilt.
• Informationsextraktion: Extrahieren wichtiger Details zu einem anstehenden Ereignis aus einer E‑Mail-Konversation.

Implementierung
Mit der Prompt API können Sie mit nur wenigen Codezeilen benutzerdefinierte Prompts erstellen und optionale Generierungsparameter festlegen:

Generation.getClient().generateContent(
   generateContentRequest(
       ImagePart(bitmapImage),
       TextPart("Categorize this image as one of the following: car, motorcycle, bike, scooter, other. Return only the category as the response."),
   ) {
       // Optional parameters
       temperature = 0.2f
       topK = 10
       candidateCount = 1
       maxOutputTokens = 10
   },
)

Ausführlichere Beispiele für die Implementierung der Prompt API finden Sie in der offiziellen Dokumentation und im Beispiel auf GitHub.

Gemini Nano, Leistung und Prototyping

Die Prompt API funktioniert derzeit am besten auf der Pixel 10-Geräteserie, auf der die aktuelle Version von Gemini Nano (nano-v3) ausgeführt wird. Diese Version von Gemini Nano basiert auf derselben Architektur wie Gemma 3n, dem Modell, das wir auf der I/O erstmals der Open-Model-Community vorgestellt haben.

Die gemeinsame Grundlage von Gemma 3n und nano-v3 erleichtert Entwicklern das Erstellen von Prototypen für Funktionen. Wenn Sie kein Pixel 10 haben, können Sie schon heute mit Prompts experimentieren, indem Sie lokal mit Gemma 3n Prototypen erstellen.

Eine vollständige Liste der Geräte, die GenAI APIs unterstützen, finden Sie in unserer Dokumentation zur Geräteunterstützung.

Weitere Informationen

Beginnen Sie noch heute mit der Implementierung der Prompt API in Ihren Android-Apps. Eine Anleitung finden Sie in unserer offiziellen Dokumentation und im Beispiel auf GitHub.