L’Intelligenza Artificiale sta entrando progressivamente nel mondo dell’istruzione, influenzando la didattica, l’organizzazione scolastica e i processi decisionali. Si tratta di un cambiamento profondo, che può offrire opportunità importanti ma che, se non governato, rischia di produrre nuove disuguaglianze e di snaturare il ruolo educativo della scuola...
Per questo motivo, l’uso dell’IA nei contesti educativi deve basarsi su principi chiari e non negoziabili, capaci di mettere al centro la persona, il lavoro e il diritto allo studio:
1. Il principio del "human-in-the-loop" (intervento umano);
2. Il principio di equità e non discriminazione;
3. Il principio di trasparenza;
4. Il principio di responsabilità.
1. Il principio del "human-in-the-loop" (intervento umano)
Il primo principio fondamentale è che l’essere umano deve restare sempre al centro delle decisioni educative.
I sistemi di Intelligenza Artificiale possono supportare il lavoro di docenti e dirigenti, ma non possono sostituirli.
Il principio del human-in-the-loop significa che:
ogni decisione rilevante (valutazioni, orientamento, percorsi di apprendimento) deve essere supervisionata da una persona;
l’IA non può operare in modo automatico e incontrollato;
la responsabilità finale resta sempre umana.
La scuola è relazione, dialogo, comprensione del contesto: elementi che nessun algoritmo può replicare.
Un esempio di trasgressione del principio del human-in-the-loop che l'IA può commettere:
Immaginate un software anti-plagio che analizza un compito eseguito da uno studente e segnala al 98% che il lavoro dello studente è copiato.
Senza "Human-in-the-loop": Il sistema invia in automatico una mail di provvedimento disciplinare alla famiglia e annulla il compito.
Con "Human-in-the-loop": Il sistema invia un alert al docente: "Attenzione, rilevata anomalia nel testo". Il docente legge, parla con lo studente e scopre che lo stile è strano perché lo studente ha tradotto male delle fonti, non perché ha copiato. Il docente decide di non punire, ma di correggere.
Il principio: L’IA è un segnalatore, non un giudice. Non deve mai scattare una sanzione o un voto senza che un essere umano abbia premuto il tasto di conferma.
2. Il principio di equità e non discriminazione
L’IA utilizza dati per funzionare. Se i dati sono incompleti, distorti o dati storici che contengano pregiudizi basati su genere, etnia, religione (i cosiddetti bias), il rischio è quello di riprodurre o amplificare disuguaglianze già esistenti.
In ambito educativo questo è particolarmente delicato, perché può incidere su:
Per questo l’IA deve essere progettata e utilizzata nel rispetto del principio di equità, evitando qualsiasi forma di discriminazione legata al contesto sociale, culturale, territoriale o alle condizioni personali degli studenti.
La tecnologia non deve diventare uno strumento di selezione o esclusione, ma un mezzo per garantire pari opportunità.
Un esempio di trasgressione del principio di equità e non discriminazione che l'IA può commettere:
Un liceo adotta un software di IA per l'orientamento in uscita che suggerisce le facoltà universitarie basandosi sui voti e sullo storico degli ex alunni degli ultimi 20 anni.
la discriminazione: L'IA nota che, statisticamente, negli ultimi 20 anni gli studenti maschi con voti alti in matematica sono diventati ingegneri, mentre le studentesse con gli stessi voti sono diventate insegnanti. L'IA suggerisce: "Ingegneria" a Marco e "Scienze della Formazione" a Giulia, anche se hanno la stessa media, perpetuando uno stereotipo di genere vecchio di decenni.
Il principio di equità: Dobbiamo chiederci su quali dati è stata addestrata l'IA?.
Se i dati sono vecchi o viziati, l'IA sarà "razzista" o "sessista".
3. Il principio di trasparenza
Un altro principio essenziale è la trasparenza. Studenti, famiglie, docenti e lavoratori della scuola hanno il diritto di sapere:
se e quando viene utilizzata l’Intelligenza Artificiale;
quali dati vengono raccolti;
con quali criteri vengono elaborate le informazioni.
Gli algoritmi che incidono sui processi educativi non possono essere “scatole nere”. La trasparenza è una condizione indispensabile per costruire fiducia e per consentire un controllo democratico sull’uso delle tecnologie.
Un esempio di trasgressione del principio di trasparenza che l'IA può commettere:
Una piattaforma di IA relativa al recupero dei debiti di matematica decide autonomamente quali esercizi far fare agli studenti: Luigi si ritrova esercizi difficili, mentre Anna ne riceve di facili.
Opacità dell'algoritmo: Luigi e la sua famiglia contestano la valutazione, sostenendo che ci sia un accanimento del software nei confronti del ragazzo:
La Soluzione Trasparente: Il docente deve poter accedere a una funzione di "Spiegabilità" (Explainability) dove il sistema chiarisce la logica didattica: "Livello di difficoltà incrementato automaticamente perché lo studente ha risolto i primi 3 quesiti correttamente in meno di 10 secondi. Adattamento necessario per stimolare l'apprendimento."
Il Principio: Rifiuto della logica "Black Box" (Scatola Nera). Se la scuola non è in grado di giustificare pedagogicamente a una famiglia il motivo di una decisione algoritmica, quello strumento non è idoneo all'uso educativo.
4. Il principio di responsabilità
Infine, ogni utilizzo dell’IA deve essere accompagnato da una chiara attribuzione delle responsabilità. Quando un sistema intelligente commette un errore, produce una decisione sbagliata o causa un danno, è necessario sapere:
L’IA non può diventare un alibi per scaricare responsabilità o per giustificare decisioni automatizzate. La responsabilità resta sempre in capo alle istituzioni e alle persone che scelgono di utilizzare questi strumenti.
Un esempio di trasgressione del principio di responsabilità che l'IA può commettere:
Problema: a causa di un bug nel software, l’algoritmo del registro elettronico calcola erroneamente la media ponderata, causando l'esclusione indebita di uno studente dalla graduatoria per una borsa di studio. Il fornitore dell'IA declina ogni responsabilità appellandosi alle clausole contrattuali ("errore di sistema").
Il Principio di responsabilità: la responsabilità giuridica nei confronti della famiglia ricade interamente sull'Istituto Scolastico. Il Dirigente deve disporre di una procedura chiara per l'intervento immediato, la rettifica dell'errore e la documentazione dell'incidente.
L'algoritmo non è un soggetto imputabile. Non esiste la "colpa del computer": la responsabilità finale è sempre della persona fisica che valida l'utilizzo dello strumento.
È fondamentale disporre di un piano di contingenza che garantisca la correttezza procedurale e la tempestiva rettifica dell'errore.
L’Intelligenza Artificiale può rappresentare una risorsa importante per la scuola, ma solo se governata da principi etici, sociali e professionali chiari.
Intervento umano, equità, trasparenza e responsabilità non sono ostacoli all’innovazione, ma le condizioni necessarie affinché l’innovazione sia davvero al servizio dell’educazione.
LE LINNE GUIDA DEL MIM SULL'INTELLIGENZA ARTIFICIALE NELLE SCUOLE (con commento)
Concludiamo con un esempio di lettera aperta che il Dirigente scolastico scrive alla sua comunità scolastica per l'adozione di una Intelligenza artificiale:
Ai Docenti
Al Personale ATA
Al DSGA
Alle Famiglie e agli Studenti
OGGETTO: L’Intelligenza Artificiale nella nostra scuola: innovazione, etica e centralità della persona.
Carissimi membri della Comunità Scolastica,
Viviamo in un’epoca di grandi trasformazioni. L’Intelligenza Artificiale (IA) sta entrando progressivamente nelle nostre vite e, inevitabilmente, anche nel mondo della scuola. Nuovi strumenti digitali ci offrono oggi opportunità straordinarie per personalizzare l’apprendimento, supportare gli studenti con difficoltà e snellire le procedure amministrative.
Tuttavia, come Istituzione Educativa, abbiamo il dovere non solo di accogliere l’innovazione, ma di governarla. La nostra priorità resta, e resterà sempre, la crescita umana e culturale dei nostri studenti.
Con questa comunicazione, desidero condividere con voi i 4 Principi Etici che guideranno l'adozione di qualsiasi tecnologia "intelligente" all'interno del nostro Istituto, affinché la tecnica rimanga sempre uno strumento al servizio della persona.
1. Il principio del "human-in-the-loop" (intervento umano): L’ultima parola è del docente Nessun algoritmo sostituirà mai il giudizio sensibile di un insegnante. L’IA potrà suggerire percorsi di recupero, analizzare dati o segnalare errori, ma la valutazione finale, le decisioni disciplinari e l’orientamento saranno sempre frutto della mente e del cuore dei nostri docenti. La tecnologia assiste; l’uomo decide.
2. Il principio di equità e inclusione: Nessuno viene lasciato indietro Siamo consapevoli che i sistemi automatici possono talvolta riflettere pregiudizi o non comprendere le specificità (es. Bisogni Educativi Speciali). Ci impegniamo a verificare che ogni software adottato sia inclusivo e non penalizzi nessuno studente sulla base di bias di genere, etnici e religiosi. L’unicità di ogni ragazzo è un valore che nessun calcolo può semplificare.
3. Il principio di trasparenza: Niente "scatole nere" Le famiglie e gli studenti hanno il diritto di capire. Se un sistema digitale suggerisce un esercizio o elabora un dato, dobbiamo essere in grado di spiegarvi il "perché" in modo semplice e chiaro. Non adotteremo strumenti il cui funzionamento risulti opaco o incomprensibile.
4. Il principio di responsabilità: L'adozione di nuove tecnologie avviene nel pieno rispetto della normativa sulla privacy (GDPR). La Scuola vigila affinché i dati dei minori non vengano utilizzati per scopi commerciali da terze parti. Per qualsiasi dubbio o malfunzionamento, l'interlocutore responsabile rimane l'Istituto, che si impegna a intervenire prontamente.
Non dobbiamo aver paura del futuro, ma costruirlo con consapevolezza. L’IA sarà un nostro alleato per liberare tempo prezioso da dedicare a ciò che un computer non potrà mai fare: ascoltare, incoraggiare e guardare negli occhi i nostri ragazzi.
Confido nella collaborazione di tutti per affrontare questa sfida con curiosità e senso di responsabilità.
Il Dirigente Scolastico
