|
L'intelligenza artificiale è una tecnologia che già oggi prende decisioni che riguardano tutti noi, inclusi i nostri studenti. Un algoritmo stabilisce quali contenuti vediamo sui social, se una richiesta di mutuo viene approvata, se un curriculum supera il primo filtro in una selezione.
Come insegnanti, abbiamo una responsabilità in più: non solo capire questi meccanismi, ma aiutare i ragazzi a sviluppare uno sguardo critico nei confronti di una tecnologia che già oggi modella la loro vita. E per farlo, dobbiamo prima capirla noi.
I tre problemi etici più urgenti dell'IA in questo momento sono il Bias algoritmico (i sistemi che discriminano per genere, etnia o provenienza sociale), la opacità delle decisioni automatizzate (il famigerato problema della "scatola nera") e la concentrazione di potere nelle mani di poche aziende private. L'AI Act europeo è il primo tentativo serio di mettere ordine, ma quanto funzionerà davvero è ancora tutto da vedere.
Il bias algoritmico: quando la macchina discrimina
I modelli di IA imparano dai dati storici. E i dati storici riflettono le disuguaglianze del mondo reale. Se un sistema di selezione del personale viene addestrato sui dati di un'azienda che per decenni ha assunto prevalentemente uomini, l'algoritmo imparerà che "essere uomo" è un predittore di successo e penalizzerà le candidate. Non è fantascienza: Amazon lo ha scoperto nel 2018 con il proprio strumento di screening dei curricula e ha dovuto dismettere tutto.
In ambito finanziario, uno studio Berkeley-Stanford del 2023 ha dimostrato che gli algoritmi per l'approvazione dei mutui negli USA applicavano tassi di interesse più alti, tra lo 0,5 e lo 0,8% in più, ai richiedenti latinos e afroamericani rispetto a bianchi con lo stesso profilo creditizio. L'IA non "sceglieva" di discriminare: replicava i modelli storici presenti nei dati su cui era stata addestrata.
Per noi insegnanti questo è un tema potentissimo da portare in classe. Far analizzare agli studenti come funziona un dataset, da dove vengono i dati, chi li ha raccolti e con quali criteri, è uno degli esercizi di pensiero critico più concreti e attuali che possiamo proporre.
La scatola nera: decisioni che non si spiegano
I modelli di intelligenza artificiale più potenti hanno miliardi di parametri e le loro interazioni interne sono matematicamente impossibili da tracciare per intero. Quando un sistema dice "questa radiografia mostra un tumore con il 95% di probabilità", non riesce a spiegare quali caratteristiche specifiche dell'immagine lo hanno portato a quella conclusione, almeno non nel modo in cui lo farebbe un radiologo.
Questo problema è critico in medicina, in giustizia, in finanza, in qualsiasi ambito dove le decisioni devono essere motivabili. Un giudice non può condannare qualcuno sulla base di "lo dice l'IA" senza poter spiegare il perché.
La ricerca ha sviluppato tecniche che generano spiegazioni a posteriori delle decisioni del modello, ma si tratta di approssimazioni, non del ragionamento reale. È un po' come chiederti di spiegare perché hai scelto una parola piuttosto di un'altra mentre parli: puoi trovare una giustificazione, ma non è detto che corrisponda davvero al processo mentale reale.
Per chi insegna, questo concetto è prezioso: l'IA può sbagliare, e non sempre è in grado di dirti perché ha sbagliato. Abituare gli studenti a non accettare passivamente i risultati di un sistema automatizzato è una competenza fondamentale.
Chi controlla l'IA controlla molto
Addestrare un modello linguistico di ultima generazione costa tra i 50 e i 500 milioni di dollari. Possono permetterselo solo pochissime aziende: OpenAI (finanziata da Microsoft con oltre 13 miliardi di dollari), Google DeepMind, Anthropic, Meta e xAI di Elon Musk. Cinque o sei aziende private che decidono come si comporta l'IA che usiamo tutti.
Chi stabilisce i "valori" che vengono incorporati nei modelli? Cosa succede quando gli interessi commerciali di queste aziende entrano in conflitto con l'interesse pubblico? I modelli open source come Llama di Meta o Mistral democratizzano parzialmente l'accesso, ma non risolvono il problema di fondo: addestrare un modello competitivo richiede risorse che solo le grandi corporation possiedono.
Come comunità educativa, è il momento di chiederci quali strumenti usiamo in classe, chi li produce, con quali dati e con quale visione del mondo.
L'AI Act: l'Europa ci prova
Il Regolamento europeo sull'intelligenza artificiale, pienamente applicabile tra il 2025 e il 2026, classifica i sistemi di IA in quattro categorie di rischio. I sistemi a Rischio inaccettabile sono direttamente vietati: sorveglianza biometrica di massa in tempo reale, classificazione sociale in stile cinese, manipolazione subliminale. Quelli ad Alto rischio come l'IA in sanità, giustizia, istruzione, credito e selezione del personale, devono rispettare requisiti stringenti di trasparenza e supervisione umana. I chatbot e i deepfake rientrano nel Rischio limitato e devono semplicemente dichiarare di essere IA. Il resto è Rischio minimo, senza obblighi specifici.
Le multe per chi non rispetta le regole arrivano a 35 milioni di euro o al 7% del fatturato globale. L'Italia, come gli altri paesi europei, è tenuta ad applicare il regolamento, anche se i meccanismi di supervisione nazionali sono ancora in costruzione.
Per la scuola questo è rilevante in modo diretto: i sistemi di IA usati in ambito educativo rientrano nella categoria ad alto rischio. Questo significa che i fornitori di strumenti di IA per la didattica dovranno garantire trasparenza, documentazione e supervisione umana. Buono a sapersi quando valutiamo quali piattaforme adottare.
Cosa possiamo fare noi
La prima cosa è informarci. Capire quali decisioni vengono prese da sistemi automatizzati nella nostra vita e in quella dei nostri studenti è il punto di partenza. La seconda è esercitare i diritti che già abbiamo: il GDPR (articolo 22) dà a tutti il diritto di non essere soggetti a decisioni esclusivamente automatizzate con effetti legali significativi, e di ricevere una spiegazione del ragionamento. Se una decisione automatizzata ti penalizza, puoi chiedere una revisione umana.
La terza, forse la più importante per noi, è portare questi temi in classe. Non servono ore di informatica o corsi specialistici: basta partire da esempi concreti, magari da notizie reali come quelle del caso Amazon o dei mutui americani, e chiedere agli studenti cosa ne pensano, come funziona, chi ci guadagna. Il pensiero critico sull'IA si costruisce esattamente come il pensiero critico su qualsiasi altra cosa: con domande, dubbi e discussione.
L'IA etica non è una questione accademica lontana da noi. È una questione pratica che riguarda le decisioni concrete sulla vita delle persone reali, inclusi i nostri ragazzi. E la scuola, come sempre, è uno dei luoghi migliori dove imparare ad usarla.
|
