Come eseguire DeepSeek LLM localmente su Mac

Se segui le notizie di AI, o anche le notizie tecnologiche, potresti aver sentito parlare di DeepSeek ormai, il potente modello di lingua grande cinese che ha capacità che rivaleggia con CHATGPT pur avendo costi di formazione notevolmente più bassi. DeepSeek è progettato per il ragionamento avanzato, con le capacità di linguaggio naturale e chatbot, competenza delle attività, ricerca, pur essendo eccellente per la codifica, la generazione di codice e la logica, rendendolo un potente strumento di intelligenza artificiale in generale e potenzialmente per il tuo flusso di lavoro. Mentre puoi eseguire DeepSeek ovunque attraverso il Web e puoi anche scaricare ed eseguire DeepSeek tramite un’app sul tuo iPhone o iPad utilizzando DeepSeek Cloud, un’altra opzione è disponibile per gli utenti Mac; Esegui Deepseek LLM localmente sul tuo Mac.

DeepSeek che viene eseguito localmente può essere utile per molti utenti di Mac, che tu sia uno sviluppatore, un ricercatore o qualcuno semplicemente curioso di esplorare le utility AI e LLM. Uno dei vantaggi più significativi dell’utilizzo e della gestione di DeepSeek a livello locale è che è offline, dandoti i vantaggi di DeepSeek LLM senza fare affidamento sui servizi cloud (che sono collegati alla Cina, qualunque cosa tu ne faccia) e offrendo più privacy e potenziale libertà di personalizzare e perfezionare il modello per i tuoi casi di utilizzo particolari.

Devi avere un Mac di silicio Apple per poter correre a livello locale. In questo caso useremo uno strumento gratuito per Mac chiamato LM Studio per poter configurare e utilizzare rapidamente DeepSeek su un Mac. Mentre tutto ciò sembra complicato e la tecnologia AI e LLM può essere schiacciante per i nuovi arrivati, questo processo di configurazione è davvero abbastanza facile, poiché ti guideremo attraverso di essa.

Come eseguire DeepSeek localmente su Mac

Ancora una volta devi avere un Mac di silicio di Apple con un chip della serie M o meglio per poter correre a livello locale. Sebbene questo requisito software sia severo, è anche standard con l’esecuzione di qualsiasi altro modello locale, anche tra cui Apple Intelligence, Chatgpt, Llama o qualsiasi altro strumento LLM sempre più comuni. Vorrete anche almeno 10 GB di spazio su disco disponibile. Se non si dispone di un Mac Apple Silicon, puoi comunque utilizzare strumenti AI tramite il tuo iPhone o iPad utilizzando varie app o qualsiasi Mac tramite il Web. Per i nostri scopi qui, supponiamo che tu abbia un MAC SILICO di Apple, nel qual caso ecco come far funzionare Deekseek a livello locale:

1. Ottieni lmstudio libero da lmstudio.ai
2. Montare l’immagine del disco per LMStudio e copiare l’app “LM Studio” dall’immagine disco nella cartella delle applicazioni per installarla, quindi avvia LM Studio direttamente dalla cartella delle applicazioni
3. Al primo lancio, ti verrà presentato una schermata di splash di onboarding, fai clic sul pulsante verde che dice “Ottieni il tuo primo LLM”



4. Al download il tuo primo schermo LLM locale, fai clic sul pulsante Green “Download” (facoltativamente, deseleziona la casella per “Abilita il servizio LLM locale durante l’accesso” se non si desidera che un demone sia eseguito per Deekseek ogni volta che avvia il tuo Mac)



5. Let Deekseek LLM Download, sono diversi GB e potrebbe richiedere un po ‘di tempo, una volta che Deekseek ha scaricato localmente sarai pronto per interagire con esso direttamente sul tuo Mac

Ora sei libero di usare e interagire con Deekseek localmente sul tuo Mac.

Se desideri confermare che la tua esperienza è del tutto locale, disattiva il tuo Wi-Fi o disconnettiti da Internet e vedrai che puoi ancora interagire con LM Studio e Deekseek come desideri.

Qualcosa che probabilmente noterai è che l’esecuzione di qualsiasi LLM a livello locale sarà probabilmente più lento rispetto all’utilizzo di un LLM basato su cloud, e questo perché gli LLM di Cloud hanno enormi quantità di potenti risorse dedicate esclusivamente all’esecuzione dei modelli, mentre quando esegui un LLM a livello locale sarà limitato dalle risorse locali del tuo Mac, incluso il tuo processore, memoria e quale altro è in esecuzione sul tuo Mac. Se sei interessato esclusivamente a velocità e prestazioni, probabilmente vorrai utilizzare un provider cloud, anche se anche gli ultimi Mac più potenti sono piuttosto veloci.

Puoi anche usare LM Studio sul Mac per eseguire altri LLM a livello locale, oltre a Deekseek, questo include Llama, Mistral e Phi, ma ci stiamo ovviamente concentrando su DeepSeek qui. Abbiamo discusso di altre opzioni sulla falsariga dei modelli locali in passato, tra cui l’esecuzione di Llama LLM a livello locale sul Mac (incluso un modello senza censure!), Ma questo approccio alla gestione di DeepEek (e altri LLM se sei curioso) a livello locale è davvero abbastanza facile e anche la performance è buona. Grazie a Cultofmac per l’ispirazione.

Personalmente sono un grande fan del client Mac per Chatgpt, che uso frequentemente, ma c’è anche perplessità e molti altri clienti interessanti e strumenti di intelligenza artificiale. Questo è a parte le dozzine di opzioni basate sul web o basate su app, tra cui Bing con Chatgpt, Google Gemini, X Grok, il lama di Facebook e molti altri.

Cosa ne pensi di correre in profondità localmente sul tuo Mac? Cosa ne pensi degli strumenti LLM e AI in generale? Hai un LLM locale preferito o un client LLM preferito? Condividi i tuoi pensieri ed esperienze con Deekseek, LLM e AI in generale nei commenti!

Imparentato