Del av bevakningen: Apple utvecklar Harbor för lokal AI på flera Mac-datorer
Apple utvecklar enligt läckaren Aaron Perris Mac-appen Harbor, som ska förenkla körning av lokala AI-modeller på en eller flera Mac-datorer.
Apple utvecklar Harbor, en app som låter flera Mac-datorer köra öppna AI-modeller lokalt som en privat inferensserver, så att data stannar på enheterna.
Apple Silicon Mac mini är svåra att få tag på på grund av hög efterfrågan, särskilt från användare som kör lokala AI-modeller. Det finns potential för Apple att utveckla nya affärsmodeller inom detta segment.
Apple har valt att satsa på lokal AI-bearbetning med hjälp av Neural Engine istället för att förlita sig på molnet, vilket bedöms som ett viktigt beslut för framtiden.
Ollama har implementerat MLX för att förbättra AI-prestanda på Mac-datorer med Apple-silicon, vilket gör det enklare att köra AI-modeller lokalt.