Ollama har uppdaterats för Apple Silicon och använder nu MLX för att förbättra hastigheten vid behandling av stora språkmodeller. Den nya versionen förhandsvisades den 30 mars.
•
Ollama har implementerat MLX för att förbättra AI-prestanda på Mac-datorer med Apple-silicon, vilket gör det enklare att köra AI-modeller lokalt.
•
Ollama har introducerat stöd för Apples MLX-ramverk, vilket förbättrar prestandan för lokala språkmodeller på Macs med Apple Silicon. Förbättrad cacheprestanda och stöd för NVFP4-formatet gör minnesanvändningen mer effektiv.
•
Ollama har uppdaterat sin app för att utnyttja Apples MLX-ramverk, vilket ger en hastighetsökning på 1,6 gånger för kommandon och nästan dubblerar svarsgenereringen på Macs med Apple-silikon. Uppdateringen, Ollama 0.19, kräver över 32 GB enhetligt minne och stödjer för närvarande Alibabas Qwen3.5.
•
Apples MLX ramverk får nu stöd för NVIDIA GPU:er genom en ny CUDA-backend, vilket möjliggör körning av MLX-modeller på dessa grafikkort.
© 2008 – 2026 Aapl.se - Byggt med Rails och en kärlek för RSS. Allt innehåll tillhör respektive ägare
