Maestro Roberto - Tecnologie e didattica

Ogni settimana esce un nuovo strumento AI pensato per la scuola: uno per generare verifiche, uno per correggere temi, uno per personalizzare i piani di lavoro. Il problema non è trovarli, è capire quale di questi tratta i dati dei nostri studenti in modo corretto e quale invece raccoglie tutto senza dirlo chiaramente. Con l'AI Act ormai pienamente applicabile, questa valutazione non è più solo buon senso: è un passaggio che le scuole devono poter documentare.

Qui entra in gioco LetsAI (letsai.io), una directory di strumenti AI che ha costruito un sistema chiamato Trust Index per misurare in modo oggettivo quanto sia trasparente la privacy policy di ogni tool. Vale la pena capire bene cosa fa, perché è uno strumento utile, ma va inserito nel posto giusto del processo di valutazione, non usato come sostituto della classificazione del rischio prevista dalla normativa.

Due valutazioni diverse, non intercambiabili

L'AI Act classifica i sistemi AI in quattro categorie di rischio: inaccettabile (vietati), alto rischio, rischio limitato e rischio minimo. Nell'ambito educativo la classificazione dipende dall'uso concreto dello strumento: un sistema che valuta gli studenti per decidere l'accesso a un percorso formativo, o che ne monitora il comportamento durante un esame, rientra tra i sistemi ad alto rischio secondo l'Allegato III. Un chatbot che aiuta a riformulare una consegna, nella maggior parte dei casi, resta a rischio minimo o limitato. È una valutazione che riguarda la funzione dello strumento, non i suoi dati.

Il Trust Index di LetsAI misura tutt'altro: quanto è solida e trasparente la privacy policy del tool. Nella versione attuale (v5.0), il punteggio parte da 100 e scende in base a criteri fissi e verificabili: assenza delle informative richieste dal GDPR (meno 8 punti), mancanza dei diritti CCPA per gli utenti californiani, assenza di indicazioni chiare su conservazione e cancellazione dei dati, mancanza di un contatto per il responsabile privacy, e così via. Il punteggio finale colloca il tool in una fascia: stabile sopra i 70 punti, da tenere sotto osservazione tra 50 e 69, rischioso sotto i 50.

Mi sembra uno strumento ben centrato: le regole di deduzione sono pubbliche, identiche condizioni producono sempre lo stesso punteggio, e ogni segnale estratto dall'intelligenza artificiale passa comunque da una revisione umana prima di incidere sul punteggio. Non è un'opinione, è un controllo documentale ripetibile.

Dove si inserisce nel lavoro reale di valutazione

La governance dei dati è uno dei requisiti che l'AI Act impone esplicitamente ai sistemi ad alto rischio, e resta comunque un principio di buona pratica per qualsiasi strumento usato con minori. Prima ancora di chiedersi in quale fascia di rischio normativo ricada un tool, un docente o un istituto deve poter rispondere a domande molto concrete: questo strumento dice cosa fa dei dati dei ragazzi? Li conserva per sempre? Li condivide con terzi? Ha un referente identificabile per la privacy?

Il Trust Index risponde proprio a queste domande, in modo veloce e comparabile tra strumenti diversi. Nella pratica, può funzionare come primo filtro: prima di valutare l'uso specifico che se ne farà in classe (e quindi la categoria di rischio AI Act), si controlla se lo strumento supera anche il controllo più elementare, quello della trasparenza sui dati. Uno strumento con un punteggio basso, che magari non dichiara nemmeno come tratta i dati raccolti, non merita nemmeno di arrivare al secondo passaggio della valutazione, indipendentemente da quanto sia utile didatticamente.

Cosa manca ancora

Va detto con altrettanta chiarezza: LetsAI, allo stato attuale, non classifica gli strumenti secondo i livelli di rischio dell'AI Act, e lo dichiara apertamente nella sua metodologia. Il Trust Index copre solo la dimensione privacy. Sicurezza informatica, stabilità del fornitore, trasparenza sui prezzi e maturità operativa sono dimensioni previste per una versione futura (v6.0), non ancora attive. Significa che un punteggio alto su LetsAI dice che la privacy policy è solida, non che il tool sia adatto a un uso didattico specifico, né che sia conforme a tutti gli obblighi che l'istituto deve rispettare.

La classificazione del rischio secondo l'AI Act resta un passaggio che il docente o la scuola devono fare comunque, guardando a come lo strumento viene effettivamente usato: se entra nella valutazione degli studenti, se prende decisioni automatizzate che li riguardano, se raccoglie dati biometrici o comportamentali. Il Trust Index non sostituisce questa analisi, la precede.

Un modo pratico di usarlo

Nella scelta di un nuovo strumento AI per la classe, ha senso costruire un percorso in due tempi. Prima si consulta il Trust Index per scartare rapidamente i tool con una privacy policy debole o assente. Poi, solo per gli strumenti che superano questo primo controllo, si passa alla domanda più impegnativa: che uso ne farò, e questo uso mi fa rientrare in una categoria di rischio che richiede documentazione aggiuntiva, informativa ai genitori, o addirittura l'esclusione dello strumento dall'uso in aula? Tenere separati questi due passaggi evita l'errore più comune, cioè scambiare un buon punteggio sulla privacy per un via libera normativo completo.

https://www.letsai.io/