Entscheidungsmodelle im CLI
Kommunikationsmodelle können jetzt direkt vom Terminal verwendet werden ollama run – Stellen Sie Ja/Nein-Fragen, klassifizieren Sie den Text in Labeln oder bewerten Sie ihn anhand eines Rückblickskriteriums:
ollama run nimble --ask "Is a refund being requested?" < ticket.txt
## Was verändert wurde
* Die Kev-Entscheidungsmodelle werden jetzt vom MLX Runner auf Apple-Silicon unterstützt
* ollama launch kann nun mit Nutzungskrediten verwendet werden, ohne auf einen Pay-Paket zu wechseln
* ollama launch codex enthält jetzt lokally installierte Ollama-Modelle im Model-Picker. Verwenden Sie /model innerhalb der Codex-CLI, um Modelle zu wechseln
* Die Inferenzleistung wurde verbessert, indem verifizierte Manifeste und bereits geladene Modelle wieder verwendet werden
* Unterstützung für multimodale Embeddings über llama-server hinzugefügt
* Das Laden von multimodalen Embedding-Modellen mit kleinen Kontextfenstern korrigiert
* Die Gemma 4-Prefill-Leistung auf NVIDIA-GPUs mit dem MLX Runner verbessert
* Der MLX Runner klipt jetzt lange Laya-Status, anstatt sie abzulehnen
* Die Zuverlässigkeit der spekulativen Decodierung im MLX Runner verbessert, einschließlich des Umgangs mit dem Rekurrenten Zustand nach einem Rückrollen
* llama.cpp aktualisiert mit Unterstützung für native Entscheidungsmodelle
* README und Dokumentation aktualisiert, mit klareren Formulierungen zu Privatsphäre und Cloud-Diensten
Vollständiger Changelog: https://github.com/ollama/ollama/compare/v0.40.3...v0.40.4