Du kan köra AI-modeller på den där Intel Mac Pro
ToshLLM-projektet möjliggör körning av AI-modeller på Intel Mac Pro med AMD-grafikkort, utan kostnad per token och utan molntjänster, även om prestandan är lägre än M5 Ultra Mac Studio.
Relaterade artiklar
Potentialen hos M6 och M5 Ultra för lokal AI på macOS
Apple har presenterat Mac mini med M6-chip och Mac Studio med M5 Ultra, som båda fokuserar på lokal AI-prestanda. M6 använder 2 nm-teknologi och har en Dual 16-kärnig Neural Engine för upp till dubbelt så snabb AI-beräkning.
Ollama antar MLX för snabbare AI-prestanda på Mac-datorer med Apple-silicon
Ollama har implementerat MLX för att förbättra AI-prestanda på Mac-datorer med Apple-silicon, vilket gör det enklare att köra AI-modeller lokalt.
Intel Mac Pro från 2019 överträffar M3 Max MacBook Pro i specifik videouppgift
En Intel Mac Pro från 2019 kan överträffa en M3 Max MacBook Pro i vissa videouppgifter med rätt uppgraderingar, men det rekommenderas inte som en optimal lösning.
M5 Ultra Mac Studio Recension: Dröm-Mac för lokala AI-agenter
M5 Ultra Mac Studio med 256 GB RAM erbjuder överlägsen prestanda för lokala AI-agenter, vilket förändrar synen på lokala modeller. Jämfört med föregångaren M3 Ultra och en RTX 5090, föredras den för sin storlek och användarvänlighet.