Come
Come eseguire Llama 3 di Meta AI localmente
Cosa sapere
- Il grande modello linguistico di Meta Llama 3 è disponibile per il download e l’esecuzione locale sul tuo sistema.
- Scarica Meta Llama 3 da Llama.meta.com e utilizzare un framework LLM come Studio LM per caricare il modello.
- Puoi anche cercare e scaricare Meta Llama 3 dallo stesso LM Studio. Fare riferimento alla guida di seguito per ottenere istruzioni dettagliate per lo stesso.
L’ultimo modello linguistico di Meta, Llama 3, è qui ed è disponibile gratuitamente. Anche se puoi usare MetaIA, che esegue lo stesso LLM, c’è anche la possibilità di scaricare il modello ed eseguirlo localmente sul tuo sistema. Ecco tutto ciò che devi sapere per eseguire Llama 3 di Meta AI localmente.
Come eseguire Llama 3 di Meta AI localmente
Sebbene Meta AI sia disponibile solo in paesi selezionati, puoi scaricare ed eseguire Llama 3 localmente sul tuo PC indipendentemente dalla tua regione. Segui i passaggi seguenti per eseguire Llama 3 di Meta AI localmente.
Passaggio 1: installa LM Studio
Per prima cosa installiamo un framework su cui eseguire Llama 3. Se hai già un’altra applicazione simile sul tuo sistema, puoi passare al passaggio successivo. Per tutti gli altri, ecco come ottenere lo studio LM:
- Utilizza il collegamento qui sopra e fai clic su LM Studio per Windows per scaricarlo.
- Una volta scaricato, esegui il programma di installazione e lascia che LM Studio venga installato.
Passaggio 2: scarica Meta’s Llama 3 localmente
Una volta ottenuto il framework LLM, è il momento di scaricare Meta’s Llama 3 sul tuo PC. Ci sono un paio di modi per procedere.
- Aprire Llama.Meta.com e fare clic su Scarica i modelli.
- Inserisci i tuoi dati e richiedi di scaricare LLM.
Se quanto sopra non funziona, non preoccuparti. Puoi anche utilizzare il tuo framework LLM per scaricare LLM.
- Cerca semplicemente Meta Llama nel campo di ricerca di LM Studio.
- Qui troverai vari LLM quantizzati. Selezionane uno.
- A destra seleziona la versione che preferisci. Clicca su Scaricamento Vicino a esso.
- Attendi il completamento del download.
- Una volta terminato, fare clic su I miei modelli sulla sinistra.
- E controlla se il download è completo.
Passaggio 3: caricare il modello scaricato
- Una volta completato il download, clicca su Chiacchierata sull’intelligenza artificiale sulla sinistra.
- Clicca su Seleziona un modello da caricare.
- E scegli Meta Llama 3 scaricato.
- Attendi il caricamento del modello.
- Una volta caricato, puoi scaricare l’intero modello sulla GPU. Per fare ciò, fare clic su Configurazione avanzata in “Impostazioni”.
- Clicca su Massimo per scaricare l’intero modello sulla GPU.
- Clicca su Ricarica il modello per applicare la configurazione.
Passaggio 4: esegui Llama 3 (e testalo con le istruzioni)
Una volta caricato il modello, puoi iniziare a chattare con Llama 3 localmente. E no, poiché il LLM è archiviato localmente sul tuo computer, non è necessaria la connettività Internet per farlo. Quindi mettiamo alla prova Llama 3 e vediamo di cosa è capace.
Testare la resistenza alla censura
Testare la comprensione di argomenti complessi
Test per le allucinazioni
Test di creatività e comprensione
Secondo molti, Llama 3 è un modello linguistico di grandi dimensioni piuttosto solido. A parte i suggerimenti di test menzionati sopra, ha ottenuto risultati brillanti anche su argomenti e suggerimenti più complessi.
Ci auguriamo che tu abbia eseguito Meta’s Llama 3 sul tuo PC Windows 11 localmente tanto quanto abbiamo fatto noi. Fino alla prossima volta!
