Gemini Nano und Gemma 4 – die On-Device-KI

Sara Smoot

Hallo und herzlich willkommen zu diesem Vortrag.

Mein Name ist Sara und ich bin Engineering Lead für Gemma im Bereich Modellierung.

Heute möchte ich Ihnen unsere Modelle vorstellen.

Ich werde über die Funktionen sprechen und darüber, wie wir das Design für Mobilgeräte angehen.

Ich werde über die Techniken sprechen, die wir in das Modell integrieren, damit es auf Mobilgeräten effizient läuft.

Ich zeige Ihnen, wie Sie darauf zugreifen können und wie wir AICore einbinden.

Zum Schluss zeige ich Ihnen einige Demos, um Ihnen einen Eindruck davon zu vermitteln, was das Modell alles kann.

Um zu verstehen, wohin wir uns entwickeln, ist es hilfreich, zu wissen, woher wir kommen.

2024 haben wir Gemma 1 eingeführt.

Wir haben ein Modell mit 2 Milliarden und 7 Milliarden Parametern auf den Markt gebracht, das nur Text verarbeiten konnte und im Vergleich zu dem, was damals üblich war, sehr klein war.

Nach Gemma 1 haben wir Gemma 2 eingeführt, das einige zusätzliche Funktionen bietet.

Wir haben das Programmieren eingeführt.

Außerdem haben wir ein großes Modell mit 27 Milliarden Parametern eingeführt, das die Funktionen der Gemma-Reihe erheblich erweitert hat.

Kurz darauf wurde Gemma 3 veröffentlicht.

Wir haben weitere Funktionen hinzugefügt, multimodale Funktionen und dann ein kleineres Modell mit 270 Millionen Parametern, da wir festgestellt haben, dass kleinere Modelle wirklich viele Anwendungsfälle haben. Wir versuchen, so viele mobile Online-Anwendungsfälle wie möglich zu ermöglichen.

Mit jedem Release werden die Funktionen also besser – und das ist auch so gewollt.

Wir entwickeln für Hardware mit einem einzelnen Gerät, also Smartphones, Laptops, GPUs. Unser Ziel ist es nicht, ein größeres Modell zu entwickeln, obwohl wir bis zu 12 Milliarden bis 27 Milliarden Parameter erreicht haben. Unser Ziel ist es, mit jeder Iteration mehr Funktionen auf derselben Fläche unterzubringen, weil wir auf dem Gerät bleiben wollen, wir wollen lokal bleiben.

Wir haben das durch eine bessere Effizienz erreicht.

Ich werde darüber sprechen, was wir speziell für Gemma 4 getan haben und wie wir das gemacht haben.

Wir haben das E2B-Modell veröffentlicht (ich erkläre gleich, wofür das „E“ steht), das E4B-Modell, ein vereinheitlichtes 12B-Modell (ich erkläre gleich, warum wir das gemacht haben) und ein MoE-Modell.

So können Entwickler die Effizienz ihrer Apps belegen und erhalten mehr Flexibilität für die Apps und Funktionen, die sie entwickeln möchten.

Sehen wir uns die Funktionen etwas genauer an. Hier sehen Sie die Funktionen, die wir im Laufe der Zeit hinzugefügt haben.

Ich möchte auf ein paar Dinge hinweisen, z. B. die Kontextlänge.

Wir haben die Kontextlänge im Vergleich zu früheren Gemma-Versionen deutlich erhöht.

Gemma 4 hat einen Kontext von bis zu 128.000 Tokens.

Die größeren Modelle haben bis zu 256 GB.

ML Kit begrenzt die Kontextlänge. Prüfen Sie also, wie viel Kontextlänge Sie sich leisten können, bevor Sie mit 128 K starten.

Das sollte aber ausreichen, um lange Dokumente zu lesen, erweiterte Schlussfolgerungen zu ziehen, Funktionsaufrufe durchzuführen und auch Multimodalität zu nutzen, also Bild- und Audiofunktionen.

Video ist eine neue Funktion, die wir ab Gemma 3n hinzugefügt und für Gemma 4 noch etwas weiter ausgebaut haben.

Wir haben jetzt also mehrsprachige Unterstützung.

Wir trainieren die Modelle immer noch in mehreren Sprachen, sodass Sie sowohl integrierte als auch vortrainierte Sprachunterstützung haben.

Und all das wird jetzt unter einer brandneuen Apache 2-Lizenz veröffentlicht, worüber wir uns sehr freuen, denn dadurch erhalten Sie viel mehr Flexibilität bei der Entwicklung und es gibt weniger Reibungspunkte.

Das Erstellen und Herunterladen des Modells ist viel einfacher.

Sara Smoot

Okay, was machen wir mit der Vision?

Die Vision für Gemma 4 ist ein variables Seitenverhältnis.

Dabei wird ein Bild aufgenommen und anstatt es in ein unpassendes Quadrat zu quetschen, wird das tatsächliche Seitenverhältnis des Modells beibehalten.

Das bedeutet, dass Text und Objekte nicht verzerrt werden.

Tatsächlich wird die Leistungsfähigkeit des Modells dadurch erheblich verbessert.

Formen bleiben erhalten und die OCR wird durch dieses variable Seitenverhältnis erheblich verbessert.

Die Vision-Funktion kann auch Diagramme, Tabellen und Grafiken lesen.

Es kann auch visuelle Hinweise übersetzen. Du kannst also Fotos von Wörtern machen und Gemini übersetzt sie für dich.

Außerdem kann es aus der Welt um dich herum schlussfolgern.

Es kann sich ein Bild ansehen, erkennen, wo sich Dinge befinden, und verstehen, was auf dem Bild zu sehen ist.

Es kann ziemlich viel.

Eine weitere wenig bekannte Funktion unserer Gemma-Modelle ist, dass Sie das Budget für visuelle Tokens festlegen können.

Sehen Sie sich also am besten an, was im ML Toolkit verfügbar ist. Es gibt eine große Auswahl.

Wenn Sie mehr Leistung und Energie für die Bilderkennung mit höherer Auflösung aufwenden möchten, können Sie das festlegen.

Wenn Sie diesen Anwendungsfall nicht wirklich nutzen möchten, können Sie das Budget für Bild-Tokens erheblich reduzieren und einen großen Teil dieser Leistung und der Rechenzyklen des Modells für Ihre Textanwendungen zurückgewinnen.

Audio ist ein relativ neuer Modus für uns.

Wir haben es erstmals in Gemma 3n eingeführt.

Bei Gemma 4 setzen wir jetzt voll darauf.

Audio ist nur in unseren kleinsten Modellen verfügbar: E2B, E4B und 12B.

Die Transkription basiert vollständig auf der Audiodatei.

Es übersetzt Sprache.

Es unterstützt standardmäßig mehr als 35 Sprachen.

Wir haben es auch mit über 140 Sprachen vortrainiert. Wenn Sie also eine Sprache verwenden möchten, die nicht zu unseren 35 Sprachen gehört, sollten Sie in der Lage sein, eine Feinabstimmung vorzunehmen und eine wirklich gute Unterstützung für eine Sprache zu erhalten, die nicht standardmäßig unterstützt wird.

Wir haben agentisches Schlussfolgern hinzugefügt.

Auch das ist neu bei Gemma 4.

Es plant.

Es kann mehrstufige Aufgaben ausführen.

Es verwendet Tools.

Es folgt Anweisungen genau.

Es gibt strukturiertes JSON zurück.

Es kann alles, was Sie von einem agentischen Modell erwarten.

Ich würde sagen, achten Sie darauf, dass Sie das ML Toolkit verwenden. Wenn Sie das nicht tun, müssen Sie sich selbst um die Chatvorlagen kümmern.

Chatvorlagen sind knifflig.

Sie müssen mit Vorsicht behandelt werden.

Wenn Sie das ML Toolkit verwenden, wird all dies für Sie erledigt.

Und schließlich bietet Gemma weiterhin ein hervorragendes Textverständnis.

Und mit dem längeren Kontext können wir jetzt Code und lange Dokumente analysieren und übersetzen.

Dank der Programmierfunktion unterstützt Android Studio jetzt Gemma 4 im Offlinemodus.

Wenn Sie Android Studio offline verwenden möchten, werden Ihre Programmieraufgaben also von Gemma 4 unterstützt.

Wichtiger Hinweis: E2B und E4B sind klein genug, um auf Ihrem Smartphone zu laufen.

Es bietet also viele Funktionen auf kleinstem Raum.

Das ist eine sehr schwierige technische Herausforderung, auf die wir im Gemma-Team sehr stolz sind.

Hier sind einige Beispiele für die Funktionen.

Links sehen wir, dass das Modell den Laptop finden und die Koordinaten des Laptops zurückgeben kann.

Die App kann dann einen Zeiger zeichnen, der zeigt, wo sich der Laptop befindet.

In der Mitte kann das Modell Objekte identifizieren und dann Begrenzungsrahmen um diese Objekte zeichnen.

Es gibt einige interessante Anwendungen dafür: Objekterkennung, Objektausweichen.

Das ist eine wirklich nützliche Funktion.

Rechts wird gezeigt, wie das Modell Text lesen kann.

Das bedeutet also: „Achtung, da ist eine Katze.“

Es versteht auch, was auf dem Bild passiert, und sieht diese Katze in dieser wirklich lustigen Position. Es kann den Text darunter übersetzen und darauf hinweisen, dass es sich um eine Pointe handelt: „Etwas könnte passieren.“

Das finde ich irgendwie süß.

Es kann also auf Dinge zeigen, Objekterkennung ausführen, OCR ausführen und übersetzen – und das alles ohne spezielle Vision-Pipeline.

Sehen wir uns die Zahlen der Bewertung an.

Die Demonstration von Fähigkeiten ist immer wichtig, aber viele Leute sehen sich diese an und ich denke, hier kann man die Stärke der Modelle sehen.

Wenn Sie sich die letzten beiden Spalten ansehen, übertrifft E2B das viel größere Modell Gemma 3 27B in den Bereichen logisches Denken, Programmieren und agentische Aufgaben.

Sehen wir uns LiveCodeBench an.

Wir haben 44 für Gemma 4 im Vergleich zu 29 für Gemma 3 27B.

Auch der AIME ist viel höher.

Tau2, eine agentische Bewertung, ist ebenfalls viel höher und zeigt hier eine große Stärke.

Wenn wir nur ein paar Parameter mehr verwenden, schlägt unser E4B-Modell unser 27B-Modell in jedem Benchmark deutlich.

Beim Übergang von Gemma 3 zu Gemma 4 haben wir also viel mehr Funktionen in dieselbe Anzahl von Parametern gepackt.

Sara Smoot

Wie funktioniert das?

Das Modell leistungsfähiger zu machen, ohne es zu vergrößern, ist eine Herausforderung.

Wenn Sie sich nur die Hardware ansehen, haben Smartphones viel weniger Arbeitsspeicher.

Wir sprechen hier von 12 bis 16 GB im Vergleich zu den etwa 80 GB, die Sie auf einem Server erhalten könnten.

Die Bandbreite ist ebenfalls viel geringer: 50 bis 80 GB im Vergleich zu Terabyte, die Sie auf einem Server erhalten würden.

Und dann gibt es noch erhebliche Einschränkungen bei der Stromversorgung.

All diese Dinge müssen wir also berücksichtigen, wenn wir das Modell ausführen.

Jede Technik, die ich Ihnen als Nächstes zeige, zielt auf eine dieser Einschränkungen ab und hilft, das Modell für die mobile Hardware zu optimieren.

Als Erstes sollten Sie wissen, dass wir nicht für jede Größe eine eigene Architektur haben.

Jede Modellgröße hat eine eigene Architektur.

Unsere E2B- und E4B-Modelle haben einige spezielle Elemente, auf die ich mich im weiteren Verlauf meines Vortrags hauptsächlich konzentrieren werde. Es ist aber auch hilfreich zu wissen, dass unser 12B-Modell keinen Vision-Encoder hat.

Bei diesem Modell haben wir den Vision Encoder entfernt, um die Bereitstellung zu vereinfachen und die Anzahl der Parameter zu minimieren, die das Modell benötigt.

Diese richtet sich in der Regel an unsere Laptop-Hardware.

Unsere großen Modelle sind darauf ausgelegt, die höchste Leistungsfähigkeit zu demonstrieren.

Diese sind sowohl als vollständig dichte Modelle als auch als Mixture of Experts-Modelle verfügbar.

Das Mixture of Experts-Modell kann auch auf Laptops ausgeführt werden. Wir haben es entwickelt, weil die Expert-Architektur eine geringere Latenz bietet.

Im weiteren Verlauf des Vortrags konzentriere ich mich auf die mobilen Modelle E2B und E4B und darauf, was wir getan haben, damit sie auf Smartphones wirklich gut funktionieren.

Hier kommt das „E“ her: Per-Layer Embeddings.

Das ist eine interessante, innovative Technik, die wir den Modellen hinzugefügt haben.

Wenn Sie darüber nachdenken, wie Modelle funktionieren, benötigen sie mehr Parameter, um intelligenter zu werden.

Wir werden immer besser bei der Parametereffizienz, aber im Allgemeinen gilt: Wenn Sie ein besseres Modell wollen, brauchen Sie mehr Parameter.

Bei PLE wird gesagt: „Okay, wir brauchen mehr Parameter.“

Anstatt dem Modell jedoch direkt weitere Parameter hinzuzufügen, verwenden wir eine zusätzliche Einbettungstabelle.

Diese Einbettungstabelle wird für jede Ebene eingelesen.

Sobald Sie die Tokens haben, die das Modell benötigt, können Sie die pro Ebene erforderlichen Einbettungen für eine bestimmte Eingabesequenz abrufen und dann nur diese Einbettungen in das Modell laden.

Sie erhalten also ein effektives Modell mit 2 Milliarden Parametern, obwohl die Anzahl der Parameter selbst etwas größer ist.

Deshalb sprechen wir von 2 Milliarden Parametern, weil nur diese 2 Milliarden in den Arbeitsspeicher geladen werden.

Die Einbettungstabelle wird in der Regel im Flash-Speicher und nicht im RAM gespeichert.

Sie sparen also Bandbreite, weil Sie nicht so viele Parameter übertragen müssen, erhalten aber trotzdem die volle Modellkapazität eines viel größeren Modells.

Außerdem wird weniger RAM auf dem Gerät belegt.

Als Nächstes haben wir ein Drafter-Modell hinzugefügt.

Das für Gemma verwendete Drafter-Modell ist ein Multi-Token-Vorhersagemodell.

Das ist eine Form der spekulativen Decodierung.

Dadurch werden pro Durchlauf mehr Tokens vorhergesagt als bei einem allgemeinen autoregressiven Modell.

Typische autoregressive Modelle generieren nur ein Token nach dem anderen. Sie müssen das gesamte Modell für jedes Token durchlaufen.

MTP sagt drei oder vier Tokens gleichzeitig vorher und dann wird das Hauptmodell verwendet, um diese Tokens zu validieren.

Wenn diese Tokens akzeptiert werden, werden sie verwendet. In der Regel können wir dann zwei, drei oder vier Tokens pro Durchlauf erhalten, anstatt nur ein einzelnes Token auf einmal.

Das ist eine gängige Technik.

Drafter-Modelle sind bereits verfügbar.

Was wir bei Gemma anders und besonders gemacht haben, ist, dass wir den KV-Cache des Basismodells teilen.

Für E2B führen wir also die vollständige Vorfüllung durch, erstellen den Cache und dann verwendet unser Drafter-Modell diesen KV-Cache.

Sie sparen also etwa 130 Millisekunden bei einem Prompt mit 100 Tokens und 1.000 Tokens, weil Sie keinen Prefill für Ihr Drafter-Modell neu generieren müssen.

Unser Drafter-Modell ist etwa 30- bis 40-mal schneller als andere Drafter-Modelle.

Wenn Sie sich die Zahlen ansehen, können Sie die Beschleunigung erkennen, die sich durch die Verwendung des Drafter-Modells ergibt.

Wir erzielen eine um 40 bis 60 % höhere Akzeptanzrate als die meisten Drafter-Modelle.

Durch die Verwendung des Drafter-Modells haben wir eine um 40 % niedrigere Decodierungslatenz und verbrauchen außerdem 30 bis 40 % weniger Energie.

So erhalten Sie schnellere Antworten, eine längere Akkulaufzeit und müssen keine Codeänderungen vornehmen.

Es ist ein ziemlich einfaches und gut unterstütztes Tool.

Sara Smoot

Unsere nächste Innovation betrifft die Quantisierung.

Die Quantisierung ist keine neue Technik, aber wir achten bei unseren mobilen Modellen besonders darauf, dass die Quantisierung gut mit der mobilen Hardware funktioniert.

Bei unseren QAT-Modellen gibt es einige Dinge, die wir berücksichtigen.

Erstens führen wir ein QAT durch, also ein Quantisierungs-bewusstes Training.

Das bedeutet, dass wir beim Training berücksichtigen und erkennen, dass wir quantisieren werden.

So kann das Modell besser verstehen, dass die Parameter in Buckets aufgeteilt werden, und die Qualität bleibt erhalten.

Außerdem bleibt die Qualität erhalten und wir können die Größe des Modells in der Regel auf einen Bruchteil reduzieren.

Wenn Sie also von einem 16-Bit-Modell zu einem 4-Bit-Modell wechseln und die Qualität beibehalten, sparen Sie sehr viel Speicherplatz.

Das E2B ist also in zwei verschiedenen Quantisierungen verfügbar.

Wir haben ein Q4_0-Format.

Dies ist eine Quantisierung für allgemeine Zwecke.

Diese kann angepasst werden.

Das funktioniert sehr gut mit anderen Quantisierungsbibliotheken.

Sie können damit experimentieren und eine Quantisierung finden, die für Ihren Anwendungsfall gut funktioniert.

Wir haben auch eine ganz besondere Quantisierung, die wir „Mobile Quant“ nennen. Sie ist sehr aggressiv und wir haben viel geforscht, um sie zu optimieren.

In den meisten Laufzeiten wird es nicht so gut unterstützt, aber mit ML Kit und in Android Studio ist es verfügbar.

Sie können es dort verwenden.

Einige der Innovationen, die wir eingebaut haben: Wir verwenden statische Aktivierungsquanten.

Wenn Sie also eine Quantisierung durchführen, müssen Sie bei der Aktivierung des dynamischen Bereichs die Bereiche im laufenden Betrieb berechnen und dann für die Quantisierung verwenden.

Die Quantisierung mit statischem Bereich haben wir für Sie übernommen. Sie müssen die Bereiche also nicht vorab berechnen.

Außerdem haben wir eine kanalweise Quantisierung vorgenommen.

Wir haben das Modell kanalweise strukturiert und komprimiert, was mit den meisten mobilen Geräten sehr gut funktioniert.

Wir haben eine 2-Bit-Quantisierung angestrebt.

Die 2-Bit-Quantisierung ist also im Allgemeinen recht verlustbehaftet.

PTQ ist sehr schwierig.

Wir haben unsere Modelle so gut erforscht und verstanden, dass wir wissen, wo die Parameter auf 2 Bit komprimiert werden können, und haben mit quantisierungsbewusstem Training gute Ergebnisse erzielt.

Das spart viel Speicherplatz und die Qualität bleibt fast vollständig erhalten.

Unser spezielles Quant-Modell ist also kleiner als ein Gigabyte, was deutlich kleiner ist als die 4-Bit-Quants, die wir sonst haben.

Außerdem haben wir in unsere benutzerdefinierte Quantisierung die Quantisierung von Einbettungen und KV-Caches integriert.

Es gibt viele Techniken, um beides zu tun.

Wir haben die Recherche durchgeführt und das ist es, was mit unserem Modell wirklich gut funktioniert.

Und wir haben das in diesen Prüfpunkten zusammengefasst.

All das reduziert den aktiven Speicher drastisch.

Sie sparen viel Bandbreite, weil Sie keine Parameter hin- und herschieben müssen.

Außerdem können Sie lange Chats und andere Dinge verwalten und speichern, ohne dass Ihnen der Speicherplatz ausgeht.

Sara Smoot

Okay, wir binden also AICore ein.

Mit AICore erhalten Sie das Gemini Nano 4-Modell.

Gemini Nano 4 ist ein Gemma-Modell, das über AICore ausgeführt wird.

AICore bietet einige nützliche Funktionen.

Das ist die einfachste Methode. Ich möchte aber auch kurz auf die andere Methode eingehen.

Der andere Weg führt über LiteRT, einen individuelleren, praxisorientierteren Ansatz.

Wenn Sie sich für diesen Weg entscheiden, wird das Modell mit Ihrer App gebündelt.

Es wird nicht das gemeinsam genutzte Modell verwendet, das auf dem Gerät gehostet wird.

Sie müssen also auf Ihren Arbeitsspeicher achten.

Du musst deinen Energieverbrauch im Auge behalten.

Sie müssen sich viel intensiver mit den Ressourcen auf dem Smartphone und deren Verwaltung auseinandersetzen.

Aber Sie haben die volle Kontrolle.

Sie können Feinabstimmungen mit LiteRT verwenden, um mehr Anpassungsoptionen zu erhalten.

Wenn Sie AICore verwenden, können Sie die ML Toolkit APIs nutzen. Das ist der einfachste Weg.

Und wenn Sie diese verwenden, erhalten Sie alle Funktionen, über die ich gesprochen habe. Die Einbettungen pro Ebene werden entsprechend verarbeitet und die Laufzeit unterstützt, dass Parameter nicht im RAM vorhanden sind, also die Einbettungsparameter nicht im RAM vorhanden sind.

MTP ist bereits integriert, sodass es automatisch funktioniert.

Außerdem wird unser mobiles Quant verwendet.

Und es wird in einer Laufzeitumgebung ausgeführt, die für das Hosten und die Zusammenarbeit mit dieser Quantisierung konzipiert ist.

Es kann also tatsächlich mit 2-Bit-Präzision ausgeführt werden und Dinge tun, wo wir es brauchen, was es wirklich sehr effizient macht.

Wenn Sie mehr erfahren möchten, gibt es zwei weitere Vorträge, die entweder bereits stattgefunden haben oder noch stattfinden werden.

In der ML Kit-Session von David geht es um den Gemini Nano 4-Pfad und darum, wie das Modell über das ML Kit verwendet wird. In der LiteRT-Session von Chintan und Fergus wird dann erläutert, wie LiteRT verwendet und wie damit entwickelt wird.

So sieht der Anfrageablauf für Gemma aus.

Es gibt eine API-Oberfläche, die eine Eingabeverarbeitung durchläuft. All das ist bereits integriert.

Ein Teil der Eingabeverarbeitung sind Sicherheitssignale.

AICore bietet integrierte Sicherheitsfunktionen.

Es wird geprüft, ob wir viele Sicherheitsfunktionen in das Modell einbauen.

Dies ist eine zusätzliche Sicherheitsebene für mobile Apps.

Sie wird über die Feature-Konfiguration und dann über die On-Device-Laufzeit verarbeitet.

Bei der Ausgabe wird auch die Sicherheit noch einmal überprüft.

Es prüft die Ausgabesignale, um sicherzustellen, dass die Ausgabe sicher ist.

Dies ist eine zusätzliche Sicherheitsebene, die über die im Modell integrierten Sicherheitsmaßnahmen hinausgeht.

Außerdem werden Updates durchgeführt und die Informationen werden in allen Apps geteilt.

Wenn Sie also mehrere Apps erstellen oder kein gebündeltes Modell verwalten möchten, ist dies eine gute Wahl. Sie erhalten sofort viele integrierte Funktionen.

Sara Smoot

Okay, ich fange jetzt mit der Demo an.

Dies ist ein Sprachassistent.

Ich zeige es auf einem Laptop.

Einige Dinge, die Sie beachten sollten: Es ist vollständig lokal und wird auf dem Gerät ausgeführt.

Sie wird mithilfe von VAD kaskadiert.

Die Spracheingabe wird in Text umgewandelt, dann an Gemma weitergeleitet und schließlich über ein Text-zu-Sprache-Modell wieder in Sprache umgewandelt.

Es wird gestreamt und auch im E2B-Modell ausgeführt.

Das ist genau das Modell, das auf einem Laptop läuft, aber es ist genau dasselbe Modell, das auf einem Smartphone läuft.

All das konnte auf dem Smartphone erledigt werden.

Diese Demo wurde mit LiteRT erstellt.

Sollte auch mit ML Kit erstellt werden können.

Achten Sie auf die Latenz, es gibt keinen Server-Roundtrip, und sehen Sie sich an, wie Unterbrechungen verarbeitet werden.

Hey Gemma, erzähl mir ein bisschen über dich.

Ich bin Gemma 4, ein Large Language Model, das von Google DeepMind entwickelt wurde.

Ich verarbeite Text und Bilder, um Informationen bereitzustellen und Aufgaben zu erledigen.

Cool.

Kannst du mir ein bisschen über Shakespeare erzählen?

William Shakespeare war ein englischer Dramatiker und Dichter, der weithin als der größte Schriftsteller der englischen Sprache gilt.

Moment mal.

Und weißt du was?

Ich möchte mehr über das Sonnensystem erfahren.

Kannst du mir mehr darüber erzählen?

Das Sonnensystem besteht aus der Sonne und allem, was durch die Schwerkraft an sie gebunden ist, einschließlich acht Planeten, Zwergplaneten, Monden, Asteroiden und Kometen.

Das ist cool.

Kannst du mir erklären, wie ein schwarzes Loch funktioniert?

Ein Schwarzes Loch entsteht, wenn ein massereicher Stern unter seiner eigenen Schwerkraft kollabiert. Dadurch entsteht ein Bereich der Raumzeit mit einer so starken Schwerkraft, dass nichts, nicht einmal Licht, entkommen kann.

Richtig cool.

Vielen Dank.

Gern geschehen!

Haben Sie noch weitere Fragen, die ich Ihnen beantworten kann?

Okay.

Es gibt den Audio-Assistenten.

Okay, weiter gehts.

Dies wird ein lokaler Assistent sein, der die Videofunktionen nutzt.

Es ist vollständig offline und um das zu verdeutlichen, wird die Demo beim Camping, angeblich in der Wildnis, durchgeführt.

Das Modell basiert auf dem E4B-Modell.

Gemini spricht ganz natürlich.

Wir zeigen ihm, wie es Dinge tun soll.

Dabei werden im Hintergrund Toolaufrufe verwendet und es kann auf verschiedene Dinge auf dem Smartphone zugegriffen werden.

Und es ist ziemlich verspielt.

Hey Gemma, haben wir jetzt Internet?

Nein, wir haben gerade keine Internetverbindung.

Worum geht es bei dieser Warnung?

Das ist auf Spanisch.

Das Schild ist eine Warnung vor dem Lebensraum von Pumas.

Darin wird darauf hingewiesen, dass Pumas Teil der lokalen Umwelt sind und dass Sie vorsichtig sein sollten, wenn Sie einem begegnen.

Was ist die Ableitung dieser Funktion?

Die Ableitung von x Quadrat plus 7x plus 10 ist 2x plus 7.

Das ist lustig.

Oh, hallo.

Hallo Cindy.

Gemma, wann ist heute Abend unsere Gruppenwanderung?

Ihre Gruppenwanderung ist für 18:00 Uhr geplant.

Heute.

Ist das ein Puma?

Nein, das ist ein Hund.

Braver Junge.

Sara Smoot

Dann legen wir mal los.

Das sind die Links hier oben. Sie führen zu den Prüfpunkten.

Wenn Sie sich die Prüfpunkte und den Modellcode direkt ansehen möchten, ist das alles verfügbar.

Sie können ML verwenden – es gibt Gemma, Gemini Nano 4 und ML Kit.

Die Prüfpunkte befinden sich auf Hugging Face, unser Code in der Transformers-Codebasis.

Sie können sich ansehen, was wir getan haben.

Sie können die Prüfpunkte auch von Kaggle abrufen.

Ich möchte Sie noch einmal daran erinnern, sich Davids ML Kit-Präsentation anzusehen, wenn Sie mehr über ML Kit erfahren möchten.

Und später haben wir auch noch die LiteRT-Präsentation von Chintan und Fergus.

Wenn Sie wissen möchten, wie Sie über LiteRT auf das Modell in Ihren Apps zugreifen und es verwenden können.

Vielen Dank.

Ich bin schon sehr gespannt, was Sie alle entwickeln werden.