Kakao Mobility nutzt Gemini Nano auf dem Gerät, um die Kosten zu senken und die Anruf-Conversion-Rate um 45 % zu steigern.

Kakao Mobility ist das führende Mobilitätsunternehmen in Südkorea und bietet über seine App Kakao T eine Reihe von Transport- und Lieferdiensten an, darunter Taxiruf, Navigation, Bike- und Scooter-Sharing, Parken und Paketlieferung. Das Team von Kakao Mobility nutzte Gemini Nano über die GenAI Prompt API des ML Kit, um eine Parkhilfe für seinen Bike-Sharing-Dienst und eine verbesserte Adresseingabe für seine Navigations- und Lieferdienste anzubieten.

Die Kakao T-App hat insgesamt über 30 Millionen Nutzer und der Bike-Sharing-Dienst ist einer der beliebtesten Dienste. Leider haben viele Nutzer die Fahrräder oder Roller nicht ordnungsgemäß abgestellt, wenn sie sie nicht mehr brauchten. Dieses Verhalten führte zu einer Vielzahl von Parkverstößen und Sicherheitsbedenken, was wiederum zu Beschwerden aus der Öffentlichkeit, Bußgeldern und Abschleppmaßnahmen führte. Diese Probleme wirkten sich negativ auf die öffentliche Wahrnehmung von Kakao Mobility und seinen Bike-Sharing-Diensten aus.

„Durch die Nutzung der GenAI Prompt API des ML Kit und Gemini Nano konnten wir schnell Funktionen implementieren, die den sozialen Wert verbessern, ohne die Nutzerfreundlichkeit zu beeinträchtigen. Kakao Mobility wird auch weiterhin On-Device-KI einsetzen, um sicherere und bequemere Mobilitätsdienste anzubieten.“ – Wisuk Ryu, Head of Client Development Div

Um diese Probleme anzugehen, hat das Team zunächst ein Bilderkennungsmodell entwickelt, das Nutzer benachrichtigt, wenn ihr Fahrrad oder Roller nicht gemäß den örtlichen Gesetzen und Sicherheitsstandards geparkt wurde. Die Ausführung dieses Modells über die Cloud hätte erhebliche Serverkosten verursacht. Außerdem enthielten die von den Nutzern hochgeladenen Fotos Informationen zu ihrem Parkplatz. Das Team wollte daher Datenschutz- oder Sicherheitsbedenken vermeiden. Das Team musste eine zuverlässigere und kostengünstigere Lösung finden.

Das Team wollte auch die Entitätsextraktion für den Paketlieferdienst in der Kakao T-App verbessern. Bisher konnten Nutzer die Paketlieferung ganz einfach über eine Chat-Oberfläche bestellen. Die Fahrer mussten die Adresse jedoch manuell in ein Bestellformular eingeben, um den Lieferauftrag zu starten. Das war umständlich und fehleranfällig. Das Team wollte diesen Prozess optimieren, um Bestellformulare schneller und weniger frustrierend für das Lieferpersonal zu machen.

Nutzerfreundlichkeit mit der GenAI Prompt API von ML Kit verbessern

Das Team hat cloudbasierte Gemini-Modelle mit Gemini Nano verglichen, auf das über die GenAI Prompt API des ML Kit zugegriffen wird. „Nachdem wir Datenschutz, Kosten, Genauigkeit und Antwortgeschwindigkeit geprüft hatten, war die GenAI Prompt API von ML Kit eindeutig die beste Wahl“, so Jinwoo Park, Android-App-Entwickler bei Kakao Mobility. 

Um das Problem falsch geparkter Fahrräder oder Roller zu lösen, nutzte das Team die multimodale Funktion von Gemini Nano über das ML Kit GenAI API SDK, um zu erkennen, ob ein Fahrrad oder Roller gegen örtliche Vorschriften verstößt, indem es auf gelben taktilen Pflastersteinen geparkt wird. Mit einem sorgfältig formulierten Prompt konnten sie mehr als 200 gelabelte Bilder von Parkplätzen auswerten und die Eingaben kontinuierlich verfeinern. Diese Bewertung, die anhand bekannter Messwerte wie Accuracy, Precision, Recall und F1-Wert gemessen wurde, stellte sicher, dass die Funktion die Qualitäts- und Zuverlässigkeitsstandards für die Produktebene erfüllt.

Nutzer können jetzt ein Foto ihres geparkten Fahrrads oder Rollers machen und die App informiert sie, ob es richtig geparkt ist, oder gibt ihnen eine Anleitung, wenn dies nicht der Fall ist. Der gesamte Vorgang dauert nur wenige Sekunden und erfolgt auf dem Gerät, sodass der Standort und die Daten des Nutzers geschützt bleiben. 

Um eine optimierte Funktion zur Extraktion von Entitäten zu erstellen, nutzte das Team wieder die GenAI Prompt API von ML Kit, um die in natürlicher Sprache verfassten Lieferbestellungen der Nutzer zu verarbeiten. Wenn sie herkömmliches maschinelles Lernen verwendet hätten, wären ein großes Lern-Dataset und spezielles Fachwissen im Bereich des maschinellen Lernens erforderlich gewesen. Stattdessen können sie einfach mit einem Prompt wie „Extrahiere den Namen, die Adresse und die Telefonnummer des Empfängers aus der Nachricht“ beginnen. Das Team hat etwa 200 hochwertige Bewertungsbeispiele vorbereitet und den Prompt in mehreren Iterationen bewertet, um das beste Ergebnis zu erzielen. Die effektivste Methode war ein Verfahren namens Few-Shot-Prompting. Die Ergebnisse wurden sorgfältig analysiert, um sicherzustellen, dass die Ausgabe so wenig Halluzinationen wie möglich enthielt.

„Die Prompt API von ML Kit reduziert den Entwicklungsaufwand und bietet gleichzeitig ein hohes Maß an Sicherheit und Zuverlässigkeit auf dem Gerät. Sie ermöglicht schnelles Prototyping, verringert die Abhängigkeit von der Infrastruktur und verursacht keine zusätzlichen Kosten. Es gibt keinen Grund, es nicht zu empfehlen.“ – Jinwoo Park, Android-App-Entwickler bei Kakao Mobility

Große Erfolge mit der GenAI Prompt API von ML Kit

So kann die Funktion zur Extraktion von Entitäten die erforderlichen Details jeder Bestellung korrekt identifizieren, auch wenn mehrere Namen und Adressen eingegeben werden. Um die Reichweite der Funktion zu maximieren und eine robuste Fallback-Lösung zu bieten, hat das Team auch einen cloudbasierten Pfad mit Gemini Flash implementiert.

Durch die Implementierung der GenAI Prompt API von ML Kit konnte das Team von Kakao Mobility erhebliche Kosteneinsparungen erzielen, da es auf On-Device-KI umgestellt hat. Die Funktion zur Analyse von Fahrradparkplätzen wurde zwar noch nicht eingeführt, die Verbesserung der Adresseingabe hat jedoch bereits hervorragende Ergebnisse geliefert: 

• Die Zeit für die Abwicklung von Lieferbestellungen wurde um 24 % verkürzt.
• Die Conversion-Rate ist bei neuen Nutzern um 45% und bei bestehenden Nutzern um 6% gestiegen.
• In der Hauptsaison steigen die KI-gestützten Bestellungen um über 200%. 

„Insbesondere Inhaber von Kleinunternehmen haben sehr positives Feedback gegeben und gesagt, dass die Funktion ihre Arbeit viel effizienter gemacht und den Stress deutlich reduziert hat“, fügte Wisuk hinzu.

Nach der Einführung der Bilderkennungsfunktion für Fahrrad- und Rollerparkplätze möchte das Kakao Mobility-Team sie weiter verbessern. Das Parken in der Stadt kann eine Herausforderung sein. Das Team sucht nach Möglichkeiten, unnötige Bereiche aus Bildern herauszufiltern. 

„Die GenAI Prompt API von ML Kit bietet hochwertige Funktionen ohne zusätzlichen Aufwand“, so Jinwoo. „Dadurch wurde der Entwicklungsaufwand reduziert, die Entwicklungszeit insgesamt verkürzt und wir konnten uns auf die Prompt-Optimierung für qualitativ hochwertigere Ergebnisse konzentrieren.“

GenAI Prompt API von ML Kit selbst ausprobieren

Mit der GenAI Prompt API von ML Kit können Sie On-Device-KI in Ihre App einbinden und bereitstellen, um die Funktionen von Gemini Nano zu nutzen.