- Wer ein iPhone nutzt, sollte das unbedingt ausprobieren. Das ist eine von Google veröffentlichte, optimierte App, mit der sich gemma4 direkt auf dem Gerät ausführen lässt.
- Einfach gesagt: Selbst im Flugmodus kann man ein LLM verwenden. (Multimodale Eingaben sind möglich)
- Die Optimierung ist wirklich hervorragend, und dass man ein so flüssiges LLM in nur 3 bis 4 GB unterbringen kann, lässt einen denken, dass das On-Device-Zeitalter bereits angekommen ist.
- Zur Leistung muss man kaum noch etwas sagen. Laut Benchmark liegt sie etwa auf dem Niveau von Gemini 3, und auch in der Praxis fühlt es sich genauso an. Das ist keine Übertreibung.
4 Kommentare
Ist zwar gut, aber mein iPad hält das nicht aus, haha.
Ich habe es ausprobiert, aber es ist wohl noch ein Prototyp? Daher ist es noch nicht so weit, dass ich es unbedingt empfehlen würde; in etwa einem Monat kann man es dann nutzen.
Google AI Edge Gallery - Open-Source-Galerie-App für vollständig offline nutzbare LLMs
Gibt es auch bei Google Play
https://play.google.com/store/apps/…
Auf der Modellseite von Hugging Face gibt es wohl auch eigene Benchmarks ...
https://huggingface.co/litert-community/gemma-4-E4B-it-litert-lm