Ollama antar MLX för snabbare AI-prestanda på Mac-datorer med Apple-silicon
Ollama har implementerat MLX för att förbättra AI-prestanda på Mac-datorer med Apple-silicon, vilket gör det enklare att köra AI-modeller lokalt.
Relaterade artiklar
•
Att köra lokala modeller på Macs blir snabbare med Ollamas MLX-stöd
Ollama har introducerat stöd för Apples MLX-ramverk, vilket förbättrar prestandan för lokala språkmodeller på Macs med Apple Silicon. Förbättrad cacheprestanda och stöd för NVFP4-formatet gör minnesanvändningen mer effektiv.
•
Ollama får en kraftboost av MLX:s enhetliga minnesanvändning på Apple Silicon
Ollama har uppdaterats för Apple Silicon och använder nu MLX för att förbättra hastigheten vid behandling av stora språkmodeller. Den nya versionen förhandsvisades den 30 mars.
•
Ollama Kör Nu Snabbare på Macs Tack vare Apples MLX-ramverk
Ollama har uppdaterat sin app för att utnyttja Apples MLX-ramverk, vilket ger en hastighetsökning på 1,6 gånger för kommandon och nästan dubblerar svarsgenereringen på Macs med Apple-silikon. Uppdateringen, Ollama 0.19, kräver över 32 GB enhetligt minne och stödjer för närvarande Alibabas Qwen3.5.
•
Apple MLX får stöd för NVIDIA GPU:er med ny CUDA-backend
Apples MLX ramverk får nu stöd för NVIDIA GPU:er genom en ny CUDA-backend, vilket möjliggör körning av MLX-modeller på dessa grafikkort.