Google hat aus der Aufgabe, „Dinge lokal zu finden“, ein kleines Modell gemacht, das ins Smartphone passt. Das gerade vorgestellte EmbeddingGemma2 ist das erste nativ multimodale Open-Source-Embedding-Modell des Unternehmens; mit 740M Parametern kann es Text, Code, Bilder, Video und Audio in denselben semantischen Raum abbilden – Cross-Modal-Retrieval läuft damit zum ersten Mal so leichtgewichtig auf dem Endgerät.
Das anschaulichste Verkaufsargument sind die geringe Größe und die Offline-Fähigkeit. Dass das vollständige multimodale Modell weniger als 600 MB Speicher benötigt, bedeutet, dass es direkt auf dem Smartphone, dem Laptop oder im Browser laufen kann, ohne dass irgendetwas in die Cloud hochgeladen werden muss – Ihre Fotoalben, Aufnahmen und Videos bleiben bei der Suche auf Ihrem eigenen Gerät, wodurch der Schutz der Privatsphäre automatisch gewahrt bleibt. Das Kontextfenster beträgt 8K, das Vierfache des Vorgängers, sodass längere Materialien verarbeitet werden können, bevor die Zuordnung erfolgt; die Sprachabdeckung erstreckt sich auf über 100 Sprachen, sodass die Suche über Sprachgrenzen hinweg kein Hindernis mehr darstellt.
Hinsichtlich der Leistung gibt Google an, dass es bei Suchaufgaben mit Bildern, Videos und Code deutlich vor Open-Source-Konkurrenten gleicher Größenordnung liegt. Besonders durchdacht ist das modulare Design: ungenutzte Teile können bei Bedarf nachgeladen werden, und auch der Index lässt sich verkleinern – das spart sowohl Speicherplatz als auch Rechenleistung. In realen Szenarien kann es ganz konkret etwas: im lokalen Fotoalbum semantisch ein bestimmtes Foto oder ein bestimmtes Medium heraussuchen, in langen Videos direkt zu einer bestimmten Stelle springen, verstreute Dateien offline durchsuchen oder in einer lokalen Codebasis Funktionen und Snippets nach Absicht durchsuchen – ohne das Repository zuerst an einen entfernten Dienst senden zu müssen.
Wenn ein multimodales Embedding-Modell klein genug ist, um ins Smartphone zu passen, und offen genug, um von jedem verändert werden zu können, verlagert sich der Schwerpunkt der KI-Suche still von „Daten an die Cloud übergeben“ zurück zu „Fähigkeiten auf dem Gerät behalten“. Mit diesem Schritt hat Google eine Bresche für die Privatsphäre schützende Suche auf Endgeräten geschlagen.