Maestro Roberto - Tecnologie e didattica

Usi Gemini e ti sei chiesto se sia possibile usare qualcosa di simile sul tuo computer, senza mandare dati in giro per il mondo? La risposta è sì, ma con una piccola precisazione che vale la pena capire subito.

Gemini, quello che usi dal browser su gemini.google.com, è un modello proprietario di Google. Vive sui server di Mountain View, non puoi scaricarlo e non può girare sul tuo PC. 

Gemma, invece, è una storia diversa. Google l'ha rilasciato come modello open-weight, il che significa che i pesi del modello sono pubblici e chiunque può scaricarlo e usarlo. È costruito sulla stessa ricerca e tecnologia di Gemini, con capacità simili per molti compiti pratici: risponde a domande, riassume testi, spiega concetti, supporta oltre 140 lingue e con le versioni più recenti capisce anche le immagini. Per noi insegnanti, nella pratica quotidiana, è una differenza quasi impercettibile.

Gemma 3, l'ultima versione disponibile, esiste in tre taglie: 4 miliardi, 12 miliardi e 27 miliardi di parametri. La taglia da 4B gira tranquillamente su un computer normale. Quella da 12B richiede un po' più di RAM. Quella da 27B è per chi ha hardware più generoso.

Il tuo computer deve avere almeno 8 GB di RAM per i modelli più piccoli. Con 16 GB sei a posto per quasi tutto. La connessione internet ti serve solo per il download iniziale: una volta scaricato il modello, lavori completamente offline. I Mac con chip Apple Silicon (M1, M2, M3, M4) sono particolarmente indicati perché LM Studio li sfrutta in modo eccellente.

1 step: scarica e installa Lm studio

Vai su lmstudio.ai e scarica la versione per il tuo sistema operativo (Windows, macOS o Linux). L'installazione è semplice come qualsiasi altra app: scarichi, apri il pacchetto e segui le istruzioni. Non c'è nulla di complicato.

Una volta aperto, ti trovi davanti a un'interfaccia pulita e intuitiva. Sulla sinistra trovi la barra di navigazione con le sezioni principali: la home, il catalogo dei modelli, la chat e le impostazioni.

2 step: scarica il modello Gemma

Clicca sull'icona che assomiglia a una lente di ingrandimento oppure usa la scorciatoia da tastiera (Cmd+Shift+M su Mac, Ctrl+Shift+M su Windows). Si apre il catalogo dei modelli.

Nel campo di ricerca digita semplicemente "gemma". Appariranno diversi risultati. Cerca "Gemma 3" e scegli la variante più adatta al tuo computer:

se hai 8 GB di RAM vai sul modello da 4B, che è la versione più leggera e già molto capace. Se ne hai 16 GB puoi puntare al 12B per risposte più articolate. Il 27B è per i computer con hardware dedicato.

Per ciascun modello vedrai diverse versioni con sigle come Q4, Q5, Q8. Queste indicano il livello di compressione: Q4 è più leggero (occupa meno spazio e RAM), Q8 è più preciso ma pesante. Per uso didattico quotidiano, Q4 o Q5 sono più che sufficienti.

Clicca su "Download" e aspetta. Dipendendo dalla tua connessione e dalla dimensione del modello, ci vorranno dai 5 ai 20 minuti. Il modello da 4B pesa circa 3 GB.

3 step: carica il modello e inizia a chattare

Una volta completato il download, clicca sull'icona della chat (il fumetto). In alto troverai un menu a tendina per selezionare il modello: scegli Gemma 3 che hai appena scaricato.

Il modello impiegherà qualche secondo a caricarsi in memoria, poi puoi iniziare a scrivere. Da questo momento in poi non hai più bisogno di internet. Puoi staccare il cavo, mettere il telefono in modalità aereo, portare il computer in montagna: Gemma risponde lo stesso.

La libertà di lavorare offline apre scenari interessanti per noi insegnanti. Puoi portare il notebook in classe senza dipendere dalla rete scolastica, che come sappiamo non è sempre affidabile. Puoi far interagire gli studenti con un modello di intelligenza artificiale senza preoccuparti della privacy, perché nessun dato lascia il dispositivo. Puoi usarlo per preparare materiali, generare esercizi, chiedere spiegazioni, riassumere documenti PDF caricandoli direttamente nell'interfaccia.

LM Studio ha anche una funzione molto utile per noi: la possibilità di caricare documenti e fare domande su quelli. Trovi questa opzione nella sezione "Chat with Documents". Carichi una circolare, un testo di studio, un articolo, e puoi interrogare direttamente il modello su quel contenuto.

Gemma in locale è molto utile, ma è onesto aspettarsi qualcosa di diverso rispetto al Gemini online o a ChatGPT. I modelli più grandi danno risposte migliori, ma richiedono più risorse. I modelli piccoli sono veloci ma a volte meno precisi su argomenti complessi. La risposta può essere un po' più lenta rispetto al cloud, soprattutto con modelli grandi su computer non recenti.

Detto questo, per la stragrande maggioranza delle attività didattiche — spiegare un concetto, aiutare nella correzione di un testo, rispondere a domande su un argomento — anche il modello da 4B fa un lavoro eccellente.

Avere un modello di intelligenza artificiale sul proprio computer significa avere uno strumento sempre disponibile, senza abbonamenti, senza connessione, senza preoccupazioni su dove finiscono i dati degli studenti. Per chi lavora con documenti sensibili o semplicemente non vuole dipendere dai server di grandi aziende, è una scelta che ha senso esplorare.

E poi c'è la soddisfazione di capire davvero come funziona la tecnologia che usiamo, invece di affidarsi ciecamente a una scatola nera. Un buon motivo in più per farlo, no?