Revolutionäre Möglichkeiten für On-Device KI-Entwicklung mit Gemma 4
Google DeepMind hat Gemma 4 veröffentlicht, eine Familie von modernen Modellen, die Entwicklern leistungsstarke Werkzeuge für die Entwicklung von On-Device KI bieten. Gemma 4 ermöglicht unter anderem mehrstufige Planung, autonome Aktionen und Audio-Visuelle Verarbeitung ohne spezielle Feinabstimmung.
Bild generiert mit DALL·E
Gemma 4: Revolutionäre On-Device KI-Entwicklung
Google DeepMind hat Gemma 4 vorgestellt, eine Familie von modernen Modellen, die Entwicklern leistungsstarke Werkzeuge für die Entwicklung von On-Device KI bieten. Diese Modelle sind unter der Apache 2.0 Lizenz verfügbar und ermöglichen es Entwicklern, Agenten und autonome KI-Anwendungen direkt auf dem Gerät zu erstellen. Gemma 4 erlaubt mehrstufige Planung, autonome Aktionen, Offline-Codegenerierung und sogar Audio-Visuelle Verarbeitung, alles ohne spezielle Feinabstimmung. Zudem bietet es Unterstützung für über 140 Sprachen.
Google AI Edge und LiteRT-LM
Entwickler können die umfangreichen Fähigkeiten von Gemma 4 ab sofort auf dem Edge erleben. Durch den Zugriff auf das eingebaute Gemma 4-Modell von Android über die neue AICore Developer Preview oder die Nutzung von Google AI Edge können Entwickler Agentenfähigkeiten in App-Erlebnissen auf mobilen, Desktop- und Edge-Geräten umsetzen. Die Google AI Edge Gallery und LiteRT-LM bieten Möglichkeiten, um mit Agent Skills und anderen Anwendungen, die auf Gemma 4 basieren, zu experimentieren und eigene Fähigkeiten zu entwickeln.
LiteRT-LM für IoT & Edge-Geräte
LiteRT-LM ermöglicht die Nutzung von kleineren Gemma 4-Modellen auf IoT- und Edge-Geräten mit beeindruckender Leistung. Auf einem Raspberry Pi 5 beispielsweise erreicht es eine Durchsatzleistung von 133 Token pro Sekunde und eine Dekodierdurchsatzleistung von 7,6 Token pro Sekunde mit Gemma 4 E2B. Dadurch können Smart-Home-Steuerungen, Sprachassistenten und Robotik vollständig offline auf eingeschränkter Hardware betrieben werden.
Ausblick
Die Ära der autonomen Erlebnisse auf dem Gerät hat begonnen, und Entwickler sind eingeladen, mit Agent Skills-Beispielen in der Google AI Edge Gallery und der LiteRT-LM-Startanleitung zu beginnen. Google hat außerdem ein neues Python-Paket und ein CLI-Tool veröffentlicht, um die Experimentation mit Gemma zu erleichtern und Python-Pipelines für IoT-Geräte zu unterstützen. Die Unterstützung für eine Vielzahl von Plattformen macht Gemma 4 für Entwickler auf der ganzen Welt zugänglich.