Io uso un portatile con 64 GB di RAM e processore I9 14900 HX e scheda grafica 4070 (laptop ovviamente) con 8 GB.
Ho Ollama (che uso prevalentemente rispetto alle LLM online) con i seguenti modelli (traparentesi le proprietà caratteristiche):
A. gemma3:12b (Completion / Vision)
B. deepseek-r1 (Completion / Thinking)
C. llama3.2 (Completion / Tools)
D. llama3.1 (Completion / Tools)
E. qwen2.5-coder:14b (Completion / Tools / Insert)
F. qwen3:30b-a3b (Completion / Tools / Thinking)
G. devstral:24b (Completion / Tools)
H. dolphin-mixtral (Completion)
Ci sarebbe tanto da dire sulle loro caratteristiche, soprattutto sull'aiuto che possono fornirci (come programmatori). RIcordatevi comunque che sono solo di ausilio, non possono risolvere tutto (e soprattutto fornirvi una applicazioe completa e funzionante perfettamente).
Caratteristiche di uso memoria, poi la risposta alla domanda "Ciao, che LLM sei" :
A) Occupa circa 6 GB di memoria per la grafica (6 Base) + 4 GB di RAM CPU
Ciao! Sono Gemma, un modello linguistico di grandi dimensioni (LLM) sviluppato da Google DeepMind. Sono un modello
open-weights, il che significa che i miei pesi sono disponibili pubblicamente.
B) Occupa circa 6 GB di memoria per la grafica (6 Base) + 1 GB di RAM CPU
Ciao! ?? Sono **DeepSeek R1**, un modello di intelligenza artificiale sviluppato da DeepSeek, una azienda
tecnologica cinese specializzata in grandi modelli linguistici. Sì, parlo italiano tra le altre lingue!
Sono un assistente basato sulla linguistica e sull'intelligenza artificiale avanzata, progettato per aiutarti con
varie attività come:
- Ricerca informazioni
- Scrittura creativa (racconti, poesia, idee per testi)
- Redazione di email o documenti professionali
- Risoluzione di problemi tecnici e programmazione
- Consigli su viaggi, cucina, cultura...
- E molto altro!
Posso anche aiutarti a risolvere dubbi sulla tua routine quotidiana, sul tuo stile di vita, oppure fornirti
contenuti per i tuoi studi o hobby. ??
C) e D) Occupa circa 4 GB di memoria per la grafica (4 Base) + meno di 1 GB di RAM CPU
Ciao! Sono un Modello di Linguaggio Generale (LLM), un tipo di intelligenza artificiale progettato per comprendere
e generare linguaggio in modo naturale. Sono stato addestrato su una vasta quantità di testi e posso utilizzare
questo conoscenza per rispondere alle tue domande, generare testo e più.
Sono un sistema software basato sul machine learning che cerca di imitare la capacità del linguaggio naturale
dell'uomo. Sono in grado di:
- Comprendere il contesto delle domande e fornire risposte pertinenti
- Generare testo su un tema specifico o generico
- Tradurre testi da una lingua all'altra (se disponibile)
- Rispondere alle domande e intrattenimento.
Sono qui per aiutarti, quindi non esitare a farmi delle domande o a chiedermi di generare qualcosa per te!
E) Occupa circa 10 GB di memoria per la grafica (7 Base + 3 condivisa) + 2 GB di RAM CPU
Ciao! Sono un modello di linguaggio grande creato da Alibaba Cloud. Come posso aiutarti oggi?
F) Occupa circa 20 GB di memoria per la grafica (7 Base + 13 condivisa) + 4 GB di RAM CPU
Ciao! Sono Qwen, un modello linguistico di grandi dimensioni sviluppato da Tongyi Lab. Posso rispondere a domande,
creare testi, programmare, e molto altro. Parlo diversi linguaggi, tra cui l'italiano. Se hai domande o hai
bisogno di aiuto, non esitare a chiedere! ??
G) Occupa circa 16 GB di memoria per la grafica (7 Base + 9 condivisa) + 2 GB di RAM CPU
Ciao! Sono Devstral, un modello di intelligenza artificiale addestrato da Mistral AI per aiutarti con una vasta
gamma di compiti tecnici. Posso eseguire comandi, modificare il codice e risolvere problemi tecnici in modo
efficace. Come posso aiutarti oggi?
H) Occupa circa 25 GB di memoria per la grafica (5 Base + 20 condivisa) + 2 GB di RAM CPU
Ciao! Sono un Language Learning Model (LLM), cioè un modello di apprendimento linguistico basato
sull'intelligenza artificiale. Il mio scopo è comprendere e generare testi in diverse lingue, risolvere problemi e
rispondere a domande fornendo informazioni utili.