Gemma 4 zapewnia dostęp do zaawansowanej, multimodalnej AI bezpośrednio na urządzeniach z Androidem. Podczas tej sesji prześledzimy, jak Gemma ewoluowała w rodzinę modeli stworzonych z myślą o wydajności, i przyjrzymy się, co zoptymalizowane pod kątem urządzeń brzegowych modele E2B i E4B mogą robić na urządzeniu – od rozpoznawania obrazów i dźwięków po wywoływanie funkcji agentowych. Omówimy architekturę, która zapewnia tę wydajność, w tym wektory dystrybucyjne dla poszczególnych warstw (PLE), i pokażemy, jak Gemma i Gemini Nano współpracują ze sobą za pomocą AICore. Dowiesz się, jak trenowanie z uwzględnieniem kwantyzacji (QAT) zachowuje możliwości modelu w pamięci RAM o rozmiarze 1,1–3,5 GB, a predykcja wielotokenowa (MTP) przyspiesza dekodowanie 1,5–3 razy, zapewniając szybkie działanie w czasie rzeczywistym.
Transkrypcja
Sara Smoot
Cześć, witam na prezentacji.
Nazywam się Sara i jestem kierowniczką zespołu inżynierów zajmujących się modelowaniem w projekcie Gemma.
Dziś chciałbym opowiedzieć o naszych modelach.
Omówię możliwości i nasze podejście do projektowania na urządzenia mobilne.
Omówię techniki, które wbudowujemy w model, aby działał wydajnie na urządzeniach mobilnych.
Omówię, jak uzyskać do niej dostęp i jak integrujemy się z AICore.
Na koniec pokażę kilka wersji demonstracyjnych, aby zaprezentować model i jego możliwości.
Aby zrozumieć, dokąd zmierzamy, warto wiedzieć, skąd przychodzimy.
W 2024 r. wprowadziliśmy model Gemma 1.
Wprowadziliśmy model z 2 miliardami i 7 miliardami parametrów, tylko tekstowy, o bardzo małych rozmiarach w porównaniu z tym, co działo się w tym czasie.
Po modelu Gemma 1 wprowadziliśmy model Gemma 2, który oferuje dodatkowe możliwości.
Wprowadziliśmy kodowanie.
Wprowadziliśmy też duży model 27B, który znacznie rozszerzył możliwości serii Gemma.
Niedługo później wprowadziliśmy model Gemma 3.
Dodaliśmy więcej funkcji, multimodalność, a potem mniejszy model z 270 milionami parametrów, ponieważ zdaliśmy sobie sprawę, że mniejsze modele mają wiele zastosowań i naprawdę staramy się umożliwić jak najwięcej zastosowań mobilnych online.
Dlatego z każdą wersją nasze możliwości rosną i jest to celowe.
Projektujemy pod kątem sprzętu z jednym urządzeniem, czyli telefonów, laptopów, GPU. Naszym celem nie jest stworzenie większego modelu, chociaż zwiększyliśmy liczbę parametrów do 12–27 mld. Chcemy, aby każda iteracja miała więcej możliwości przy tym samym rozmiarze, ponieważ chcemy pozostać na urządzeniu, chcemy pozostać lokalnie.
Zrobiliśmy to, zwiększając wydajność.
Opowiem o tym, co zrobiliśmy w przypadku modelu Gemma 4 i jak to osiągnęliśmy.
Wprowadziliśmy model E2B (za chwilę wyjaśnię, co oznacza „E”), E4B, ujednolicony model 12B (wyjaśnię, dlaczego to zrobiliśmy) oraz model MoE.
Wszystko po to, aby zwiększyć wydajność i zapewnić deweloperom większą elastyczność w tworzeniu aplikacji i innych rozwiązań.
Przyjrzyjmy się bliżej funkcjom, które dodaliśmy na przestrzeni czasu.
Chcę zwrócić uwagę na kilka rzeczy, m.in. na długość kontekstu.
Dodaliśmy znacznie dłuższą długość kontekstu niż w poprzednich wersjach Gemmy.
Gemma 4 ma kontekst do 128 K.
Większe modele mają do 256 rdzeni.
Zwrócę uwagę, że ML Kit ogranicza długość kontekstu, więc sprawdź swój budżet, zanim zaczniesz oczekiwać, że możesz uruchomić model z długością 128.
Powinno to jednak wystarczyć do czytania długich dokumentów, rozszerzonego rozumowania, wywoływania funkcji, a także do korzystania z multimodalności, czyli obrazu i dźwięku.
Wideo to nowa funkcja, którą dodaliśmy, zaczynając od modelu Gemma 3n, a w przypadku modelu Gemma 4 jeszcze bardziej ją rozwinęliśmy.
Teraz mamy obsługę wielu języków.
Nadal trenujemy modele w wielu językach, więc masz do dyspozycji zarówno wbudowaną, jak i wstępnie wytrenowaną obsługę języków.
Wszystko to jest teraz dostępne na nowej licencji Apache 2, co bardzo nas cieszy, ponieważ daje to znacznie większą elastyczność w zakresie tego, co można tworzyć, i znacznie zmniejsza trudności.
Tworzenie i pobieranie modelu jest znacznie prostsze.
Sara Smoot
OK, a co z wizją?
W przypadku modelu Gemma 4 wizja obejmuje zmienny format obrazu.
Dzięki temu zamiast ściskać obraz, aby zmieścił się w kwadracie, zachowujemy rzeczywisty format obrazu modelu.
Oznacza to, że tekst i obiekty nie są zniekształcane.
To znacznie zwiększa możliwości modelu.
Kształty pozostają niezmienione, a OCR jest znacznie ulepszony dzięki zmiennemu formatowi obrazu.
Może też odczytywać wykresy i arkusze kalkulacyjne.
Może też tłumaczyć na podstawie wskazówek wizualnych, więc możesz robić zdjęcia słów, a on je przetłumaczy.
Potrafi też wnioskować o świecie fizycznym.
Może spojrzeć na zdjęcie, zrozumieć, gdzie znajdują się obiekty i co jest na obrazie.
Może zrobić całkiem sporo.
Inną mało znaną funkcją naszych modeli Gemma jest możliwość ustawienia budżetu tokenów wizualnych.
W tej chwili możesz sprawdzić, co jest w ML Toolkit, ale masz duży zakres.
Jeśli chcesz przeznaczyć więcej mocy i energii na rozpoznawanie obrazów w wyższej rozdzielczości, możesz to ustawić.
Jeśli nie jest to przypadek użycia, który chcesz wykorzystać, możesz znacznie zmniejszyć budżet tokenów obrazu i odzyskać dużą część tej mocy oraz cykli obliczeniowych modelu na potrzeby aplikacji tekstowych.
Dźwięk to dla nas stosunkowo nowy tryb.
Po raz pierwszy wprowadziliśmy go w modelu Gemma 3n.
Teraz w pełni wykorzystujemy tę technologię w Gemma 4.
Dźwięk jest dostępny tylko w naszych najmniejszych modelach: E2B, E4B i 12B.
Transkrypcja zostanie utworzona w całości na podstawie pliku audio.
Tłumaczy mowę.
Obsługuje ponad 35 języków.
Wstępnie wytrenowaliśmy go też na ponad 140 językach, więc jeśli chcesz używać języka, który nie jest jednym z tych 35, możesz go dostroić i uzyskać naprawdę dobrą obsługę języka, który nie jest obsługiwany od razu.
Dodaliśmy rozumowanie agentowe.
To również nowość w Gemmie 4.
Planuje.
Wykonuje zadania wieloetapowe.
Używa narzędzi.
Dokładnie wykonuje instrukcje.
Zwraca uporządkowany kod JSON.
Może wykonywać wszystkie czynności, których można oczekiwać od modelu agentowego.
Jeśli nie używasz ML Toolkit, tylko robisz wszystko samodzielnie, zwróć uwagę na szablony czatu.
Szablony czatu są skomplikowane.
Należy obchodzić się z nimi ostrożnie.
Jeśli używasz ML Toolkit, wszystko to jest wykonywane automatycznie.
Gemma nadal zapewnia też doskonałe rozumienie tekstu.
Dzięki dłuższemu kontekstowi możemy teraz analizować kod i długie dokumenty oraz tłumaczyć.
Dzięki funkcji kodowania Android Studio obsługuje teraz model Gemma 4 w trybie offline.
Jeśli więc chcesz korzystać z Android Studio offline, zadania związane z kodowaniem będą wykonywane przez Gemmę 4.
Ważna uwaga: modele E2B i E4B są na tyle małe, że zmieszczą się i będą działać na telefonie.
To naprawdę wiele możliwości w bardzo małym urządzeniu.
To bardzo trudne wyzwanie inżynieryjne, dlatego zespół Gemma jest bardzo dumny z tego osiągnięcia.
Oto kilka przykładów pokazujących możliwości.
Po lewej stronie widać, że model jest w stanie znaleźć laptopa i podać jego współrzędne.
Aplikacja może narysować wskaźnik i pokazać, gdzie znajduje się laptop.
W środku model może identyfikować obiekty, a następnie rysować wokół nich ramki ograniczające.
Można to wykorzystać w ciekawy sposób, np. do wykrywania obiektów i omijania obiektów.
To bardzo przydatna funkcja.
Po prawej stronie widać, jak model może odczytywać tekst.
Oznacza to: „Uwaga, kot”.
Rozumie też, co dzieje się na obrazie, i widzi tego kota w bardzo zabawnej pozycji. Może przetłumaczyć i wskazać, że puentą jest tekst pod spodem: „Coś może się wydarzyć”.
Myślę, że to całkiem urocze.
Wskazywanie, wykrywanie obiektów, OCR i tłumaczenie – wszystko to bez specjalnego potoku wizyjnego.
OK, przejdźmy do liczb związanych z oceną.
Wiesz, prezentowanie możliwości jest zawsze ważne, ale wiele osób patrzy na te modele i myślę, że tutaj można zobaczyć ich siłę.
Jeśli spojrzysz na 2 ostatnie kolumny, E2B przewyższa model Gemma 3 27B, który jest znacznie większy, pod względem rozumowania, kodowania i zadań agentowych.
Spójrzmy na LiveCodeBench.
W przypadku modelu Gemma 4 jest to 44, a w przypadku modelu Gemma 3 27B – 29.
AIME jest też znacznie wyższy.
Tau2, który jest testem agentowym, również jest znacznie wyższy, co pokazuje dużą siłę.
Jeśli zwiększymy liczbę parametrów, nasz model E4B zdecydowanie pokona model 27B we wszystkich testach porównawczych.
Dlatego w modelu Gemma 4 udało nam się zmieścić znacznie więcej możliwości przy tej samej liczbie parametrów co w modelu Gemma 3.
Sara Smoot
Jak to zrobić?
Zwiększenie możliwości modelu bez zwiększania jego rozmiaru jest trudnym zadaniem.
Jeśli weźmiesz pod uwagę tylko sprzęt, telefony mają znacznie mniej pamięci.
Mówimy o 12–16 GB w porównaniu z 80 GB, które można uzyskać na serwerze.
Przepustowość jest również znacznie mniejsza: 50–80 GB w porównaniu z terabajtami, które można uzyskać na serwerze.
Kolejnym problemem są poważne ograniczenia zasilania.
Musimy o tym pamiętać podczas korzystania z modelu.
Każda technika, którą pokażę, jest ukierunkowana na jedno z tych ograniczeń i pomaga zoptymalizować model pod kątem działania na urządzeniach mobilnych.
Po pierwsze, nie mamy jednej architektury dla każdego rozmiaru.
Każdy rozmiar modelu ma własną, oddzielną architekturę.
Nasze modele E2B i E4B mają pewne specjalne elementy, na których skupię się w dalszej części prezentacji, ale warto wiedzieć, że nasz model 12B nie ma kodera wizyjnego.
W tym modelu usunęliśmy koder wizyjny, aby uprościć wdrażanie i zminimalizować liczbę parametrów, których potrzebuje model.
Ten jest zwykle przeznaczony do sprzętu laptopów.
Nasze duże modele mają pokazać największe możliwości.
Są one dostępne zarówno w modelu pełnym, jak i w modelu mieszanki ekspertów.
Model mieszanki ekspertów może też działać na laptopach. Opracowaliśmy go ze względu na mniejsze opóźnienia, które zapewnia architektura ekspertów.
W dalszej części prezentacji skupię się na modelach mobilnych, czyli E2B i E4B, i opowiem o tym, co zrobiliśmy, aby działały naprawdę dobrze na telefonach.
OK, stąd pochodzi „E” – wektory dystrybucyjne na warstwę.
To interesująca, innowacyjna technika, którą dodaliśmy do modeli.
Jeśli pomyślisz o tym, jak działają modele, to aby były mądrzejsze, potrzebują więcej parametrów.
Staramy się zwiększać wydajność parametrów, ale ogólnie rzecz biorąc, jeśli chcesz, żeby model był lepszy, potrzebujesz więcej parametrów.
PLE mówi: „OK, potrzebujemy więcej parametrów”.
Zamiast jednak dodawać więcej parametrów bezpośrednio do modelu, mamy dodatkową tabelę wektorów dystrybucyjnych.
Ta tabela wektorów dystrybucyjnych jest odczytywana dla każdej warstwy.
Gdy masz już tokeny, których model będzie potrzebować, możesz pobrać wektory dystrybucyjne dla poszczególnych warstw, które są potrzebne dla danej sekwencji wejściowej, a następnie wczytać do modelu tylko te wektory dystrybucyjne.
Dzięki temu otrzymujesz efektywne modele z 2 miliardami parametrów, chociaż liczba parametrów jest nieco większa.
Dlatego mówimy, że ma 2 miliardy parametrów, bo tylko tyle jest ładowane do pamięci.
Tabela wektorów dystrybucyjnych jest zwykle zapisywana w pamięci flash, a nie w pamięci RAM.
Dzięki temu można ograniczyć wykorzystanie przepustowości, ponieważ nie trzeba przesyłać tylu parametrów, a jednocześnie zachować pełne możliwości znacznie większego modelu.
Zajmuje też mniej pamięci RAM na urządzeniu.
Kolejnym elementem, który dodaliśmy, jest model generujący wersje robocze.
Model generujący wersje robocze, którego używamy w przypadku Gemmy, to model predykcyjny wielotokenowy.
Jest to forma dekodowania spekulatywnego.
Dzięki temu przewiduje więcej tokenów na przebieg niż ogólny model autoregresyjny.
Zamiast tego typowe modele autoregresyjne będą przetwarzać po jednym tokenie naraz, co oznacza, że każdy token musi przejść przez cały model.
Te modele pomocnicze MTP przewidują 3 lub 4 tokeny naraz, a następnie używamy modelu głównego do ich weryfikacji.
Jeśli te tokeny zostaną zaakceptowane, zostaną użyte, a następnie możemy zwykle uzyskać 2, 3 lub 4 tokeny na jedno przejście, a nie tylko 1 token naraz.
To powszechna technika.
Modele Drafter są już dostępne.
W przypadku Gemmy zrobiliśmy coś innego i wyjątkowego – udostępniamy pamięć podręczną KV z modelu podstawowego.
W przypadku E2B wykonujemy pełne wstępne wypełnienie, tworzymy pamięć podręczną, a następnie nasz model generujący wersje robocze korzysta z tej pamięci podręcznej KV.
Dzięki temu oszczędzasz około 130 milisekund na prompt o długości 1000 tokenów, ponieważ nie musisz ponownie generować wstępnego wypełnienia dla modelu roboczego.
Dzięki temu nasz model jest około 30–40 razy szybszy niż inne modele tego typu.
Jeśli spojrzysz na liczby, zobaczysz, że użycie modelu pomocniczego przyspiesza działanie.
Uzyskujemy o 40–60% wyższy współczynnik akceptacji niż większość modeli generujących wersje robocze.
Dzięki modelowi generującemu wersje robocze uzyskujemy o 40% mniejsze opóźnienie dekodowania i zużywamy o 30–40% mniej energii.
Dzięki temu uzyskasz szybsze odpowiedzi, dłuższą żywotność baterii i nie musisz wprowadzać żadnych zmian w kodzie.
Jest to dość proste i dobrze obsługiwane narzędzie.
Sara Smoot
Nasza kolejna innowacja dotyczy kwantyzacji.
Kwantyzacja też nie jest nową techniką, ale w przypadku modeli mobilnych dokładamy wszelkich starań, aby działała ona naprawdę dobrze na sprzęcie mobilnym.
W przypadku modeli QAT bierzemy pod uwagę kilka kwestii.
Po pierwsze, stosujemy QAT, czyli trenowanie z uwzględnieniem kwantyzacji.
Oznacza to, że podczas trenowania bierzemy pod uwagę fakt, że będziemy kwantyzować.
Dzięki temu model wie, że parametry będą grupowane, co pomaga zachować jakość.
Pomaga też zachować jakość, a zwykle możemy zmniejszyć rozmiar modelu do ułamka pierwotnego rozmiaru.
Jeśli więc przejdziesz z modelu 16-bitowego na 4-bitowy i zachowasz całą jakość, zaoszczędzisz naprawdę dużo pamięci.
E2B jest dostępny w 2 różnych kwantyzacjach.
Mamy format Q4_0.
Jest to kwantyzacja do zwykłych obciążeń.
Można go dostosować.
To rozwiązanie bardzo dobrze współpracuje z innymi bibliotekami kwantyzacji.
Pozwala to na odtwarzanie i kwantyzację, która może dobrze sprawdzić się w Twoim przypadku.
Mamy też bardzo specjalną kwantyzację, którą nazywamy kwantyzacją mobilną. Jest ona bardzo agresywna i przeprowadziliśmy wiele badań, aby ją zoptymalizować.
Nie jest on obsługiwany w większości środowisk wykonawczych, ale jest dostępny w ML Kit i Android Studio, więc możesz go używać.
Możesz go tam użyć.
Niektóre z wprowadzonych przez nas innowacji: używamy statycznych kwantów aktywacji.
Podczas kwantyzacji, jeśli używasz aktywacji zakresu dynamicznego, musisz na bieżąco obliczać zakresy, a następnie używać ich do kwantyzacji.
Zrobiliśmy to za Ciebie, więc nie musisz wstępnie obliczać zakresów.
Inną rzeczą, którą zrobiliśmy, jest kwantyzacja kanałowa.
Uporządkowaliśmy i skompresowaliśmy model w sposób kanałowy, który bardzo dobrze sprawdza się na większości urządzeń mobilnych.
Zastosowaliśmy kwantyzację 2-bitową.
Kwantyzacja 2-bitowa jest więc zwykle dość stratna.
Kwantyzacja po trenowaniu jest bardzo trudna.
Przeprowadziliśmy badania i dobrze rozumiemy nasze modele, dzięki czemu wiemy, gdzie parametry można skompresować do 2 bitów, i dobrze sobie radzimy z trenowaniem z uwzględnieniem kwantyzacji.
Pozwala to zaoszczędzić dużo miejsca na dane, a jednocześnie zachować niemal całą jakość.
Nasz specjalny model skwantyzowany ma rozmiar poniżej 1 GB, czyli jest znacznie mniejszy nawet od naszych 4-bitowych modeli skwantyzowanych.
Inną rzeczą, którą wbudowaliśmy w naszą niestandardową kwantyzację, jest kwantyzacja wektorów dystrybucyjnych i pamięci podręcznej KV.
Istnieje wiele technik, które pozwalają to osiągnąć.
Przeprowadziliśmy badania i to właśnie sprawdzi się najlepiej w naszym modelu.
Zebraliśmy je w tych punktach kontrolnych.
Wszystko to znacznie zmniejsza ilość pamięci aktywnej.
Pozwala to zaoszczędzić sporo przepustowości, ponieważ nie trzeba przesyłać parametrów tam i z powrotem.
Możesz też zarządzać długimi czatami i innymi treściami oraz je przechowywać bez obaw o brak miejsca.
Sara Smoot
Integracja odbywa się przez AICore.
AICore zapewnia dostęp do modelu Gemini Nano 4.
Gemini Nano 4 to model Gemma utworzony i uruchamiany za pomocą AICore.
AICore wykonuje za Ciebie pewne czynności.
To najprostsza metoda. Teraz szybko omówię drugą.
Druga ścieżka prowadzi przez LiteRT, który jest bardziej niestandardowym, praktycznym rozwiązaniem.
Jeśli wybierzesz tę opcję, model zostanie dołączony do aplikacji.
Nie będzie używać udostępnionego modelu hostowanego na urządzeniu.
Musisz więc pamiętać o pamięci.
Musisz zwracać uwagę na zużycie energii.
Musisz znacznie bardziej zaangażować się w zarządzanie zasobami na telefonie.
Zapewnia jednak pełną kontrolę.
Możesz używać dostrajania z LiteRT, co daje więcej opcji dostosowywania.
Jeśli używasz AICore, możesz korzystać z interfejsów API ML Toolkit. Jest to najprostsza metoda.
Gdy go używasz, otrzymujesz wiele funkcji, o których mówiłem. Wektory dystrybucyjne na warstwę są odpowiednio obsługiwane, a środowisko wykonawcze obsługuje parametry, które nie są w pamięci RAM, i parametry wektorów dystrybucyjnych, które nie są w pamięci RAM.
Ma już wbudowany protokół MTP, więc będzie działać automatycznie.
Korzysta też z naszych danych ilościowych dotyczących urządzeń mobilnych.
Działa w środowisku wykonawczym, które jest zaprojektowane do hostowania i współpracy z tą kwantyzacją.
Może więc działać i wykonywać zadania z dokładnością 2-bitową, gdy jest to potrzebne, co pozwala oszczędzać zasoby i zapewnia dużą wydajność.
Jeśli chcesz dowiedzieć się więcej, możesz obejrzeć 2 inne prezentacje, które już się odbyły lub dopiero się odbędą.
Sesja Davida dotycząca ML Kit obejmuje ścieżkę Gemini Nano 4, sposób korzystania z modelu za pomocą ML Kit, a sesja Chintana i Fergusa dotycząca LiteRT obejmuje sposób korzystania z LiteRT i tworzenia aplikacji za pomocą LiteRT.
Tak wygląda proces obsługi żądania w przypadku Gemmy.
Interfejs API przetwarza dane wejściowe, a wszystko to jest wbudowane.
Częścią przetwarzania danych wejściowych są sygnały dotyczące bezpieczeństwa.
AICore ma wbudowane zabezpieczenia.
Sprawdza, czy… Wprowadzamy do modelu wiele zabezpieczeń.
To dodatkowa warstwa zabezpieczeń aplikacji mobilnych.
Przejdzie przez konfigurację funkcji, a następnie przez środowisko wykonawcze na urządzeniu.
Sprawdza też bezpieczeństwo danych wyjściowych.
Sprawdza sygnały wyjściowe, aby upewnić się, że generuje bezpieczne dane wyjściowe.
To dodatkowa warstwa zabezpieczeń, która wykracza poza to, co wbudowaliśmy w model.
Aktualizuje też dane i udostępnia je w aplikacjach.
Jeśli więc tworzysz wiele aplikacji lub nie chcesz zarządzać modelem pakietowym, jest to naprawdę świetne rozwiązanie, które zapewnia wiele wbudowanych funkcji od razu po zainstalowaniu.
Sara Smoot
OK, przejdźmy do prezentacji.
To jest asystent głosowy.
Pokażę to na laptopie.
Zwróć uwagę, że jest to w pełni lokalne rozwiązanie, które działa na urządzeniu.
Jest kaskadowy i wykorzystuje VAD.
Najpierw jest przetwarzany przez STT, potem przez Gemmę, a następnie przez TTS, czyli model zamiany tekstu na mowę.
Jest to strumieniowanie, które również działa na modelu E2B.
Ten model działa na laptopie, ale dokładnie ten sam model działa na telefonie.
Wszystko to można zrobić na telefonie.
Ta wersja demonstracyjna została utworzona za pomocą LiteRT.
Powinno być możliwe utworzenie go również za pomocą ML Kit.
Zwróć uwagę na czas oczekiwania, brak komunikacji z serwerem i sposób obsługi przerw.
Cześć Gemma, opowiedz mi trochę o sobie.
Jestem Gemma 4, dużym modelem językowym opracowanym przez Google DeepMind.
Przetwarzam tekst i obrazy, aby dostarczać informacje i wykonywać zadania.
Świetnie.
Can you tell me a little bit about Shakespeare?
William Szekspir był angielskim dramaturgiem i poetą, powszechnie uważanym za najwybitniejszego pisarza tworzącego w języku angielskim.
Poczekaj.
I wiesz, co?
Chcę dowiedzieć się czegoś o Układzie Słonecznym.
Czy możesz mi o tym opowiedzieć?
Układ Słoneczny składa się ze Słońca i wszystkich obiektów powiązanych z nim grawitacyjnie, w tym 8 planet, planet karłowatych, księżyców, asteroid i komet.
To brzmi super.
Czy możesz wyjaśnić, jak działa czarna dziura?
Czarna dziura powstaje, gdy masywna gwiazda zapada się pod wpływem własnej grawitacji, tworząc obszar czasoprzestrzeni o tak silnej grawitacji, że nic, nawet światło, nie może się z niego wydostać.
To świetnie.
Dziękujemy.
Nie ma za co.
Czy masz jeszcze jakieś pytania?
OK.
Asystent audio.
OK, przejdźmy dalej.
Będzie to lokalny asystent korzystający z funkcji wideo.
Działa całkowicie offline, a żeby to udowodnić, wersja demonstracyjna jest nagrywana podczas biwakowania, rzekomo na odludziu.
Warto zwrócić uwagę na to, że jest on oparty na modelu E4B.
Mówi naturalnie.
Pokażemy mu, jak wykonywać zadania.
W tle używa wywołań narzędzi i ma dostęp do różnych funkcji telefonu.
Jest też dość zabawny.
Cześć Gemma, czy mamy teraz internet?
Nie, nie mamy teraz połączenia z internetem.
Czego dotyczy to ostrzeżenie?
To jest po hiszpańsku.
Ten znak ostrzega o siedlisku pum.
Informuje, że pumy są częścią lokalnego środowiska i że należy zachować ostrożność, jeśli się je spotka.
Jaka jest pochodna tej funkcji?
Pochodna x do kwadratu plus 7x plus 10 to 2x plus 7.
To zabawne.
O, witam.
Cześć, Cindy.
Gemma, o której jest dzisiaj nasza grupowa wędrówka?
Wędrówka grupowa jest zaplanowana na godzinę 18:00.
Dzisiaj.
Czy to jest puma?
Nie, to jest pies.
Dobry piesek.
Sara Smoot
Dobrze, zacznij tworzyć.
Te linki tutaj to linki do punktów kontrolnych.
Jeśli chcesz sprawdzić punkty kontrolne i kod modelu, są one dostępne.
Możesz używać systemów uczących się – masz do dyspozycji modele Gemma, Gemini Nano 4 i ML Kit.
Punkty kontrolne są na Hugging Face, a nasz kod znajduje się w bazie kodu Transformers.
Możesz zobaczyć, co zrobiliśmy.
Punkty kontrolne możesz też pobrać z Kaggle.
Przypominam, że jeśli chcesz dowiedzieć się więcej o ML Kit, możesz obejrzeć prezentację Davida na ten temat.
Później odbędzie się też prezentacja Chintana i Fergusa dotycząca LiteRT.
Jeśli chcesz dowiedzieć się, jak uzyskać dostęp do modelu i używać go w aplikacjach za pomocą LiteRT.
Dziękujemy.
Nie mogę się doczekać, aby zobaczyć, co uda Wam się stworzyć.