LocalAI

LocalAI v4.3.6 erweitert die Spracherkennungsfähigkeiten um ein NVIDIA NeMo Parakeet ASR-Backend über parakeet.cpp. Das Update bringt außerdem Aktualisierungen der Abhängigkeiten llama.cpp, ds4 und parakeet.cpp mit sich. Für Betreiber bedeutet dies erweiterte ASR-Optionen ohne Breaking Changes, ein empfohlenes Update mit mittlerer Priorität.

LocalAI v4.3.5 bringt eine neue Funktion für Chat Completions: Der Parameter reasoning_effort wird nun pro Anfrage berücksichtigt, was granularere Kontrolle über die Verarbeitungsintensität ermöglicht. Das Update aktualisiert mehrere KI-Backends wie llama.cpp, whisper.cpp und stable-diffusion.cpp. Für Betreiber ist dies ein routinemäßiges Update ohne Breaking Changes oder erforderliche Migrationen.

LocalAI v4.3.2 erweitert die Plattform um Model-Routing- und PII-Filtering-Middleware sowie Cloud-Model-Proxies. Neu hinzu kommen LTX-2-Unterstützung für Stable Diffusion, ein nativer Object-Detection-Backend (rfdetr-cpp) und GPU-Memory-Filter in der UI. Die Aktualisierung erfolgt routinemäßig ohne Breaking Changes, betrifft aber mehrere Dependencies wie NATS, AWS SDK und verschiedene ML-Bibliotheken.