Ollama v0.23.1 erweitert die Unterstützung für Gemma 4 MTP speculative decoding im MLX-Runner auf Mac-Systemen. Diese Optimierung kann die Inferenz-Geschwindigkeit bei entsprechenden Modellen verbessern. Für Betreiber auf anderen Plattformen ändert sich nichts. Das Update ist unkritisch und kann routinemäßig eingespielt werden.
Neue Features
- Gemma 4 MTP speculative decoding support for MLX runner on Macs
Betroffene Abhängigkeiten
- MLX
- MLX-C
- Go