Limiti e prospettive di utilizzo dei sistemi di IA nell’istruzione in Italia

Abstract [It]: Nonostante una serie di divieti formali, il Regolamento europeo sull’IA ne proibisce l’utilizzo nell’istruzione solo quando vengano violate la dignità e l’integrità della persona della CDFUE (e della CEDU). La normativa italiana, invece, pone vincoli ulteriori che limitano le potenzialità delle nuove tecnologie in ambito pedagogico. Per ritrovare la conformità alle fonti europee e valorizzare le nuove tecnologie, si impongono nuovi modelli di utilizzo della IA nelle attività amministrative dell’istruzione, caratterizzati da nuovi parametri di legittimità e da nuovi contenuti del principio della “supervisione umana”.

Title: Limitations and prospects for the use of AI systems in education in Italy

Abstract [En]: Despite a series of formal prohibitions, the European Regulation on AI prohibits its use in education only when it violates dignity and integrity of the CDFUE (and of the ECHR). Italian legislation, however, imposes additional constraints that limit the positive potential of new technologies in the educational field. To achieve compliance with European legislation and leverage new technologies, new models for the use of AI systems in administrative activities in education are needed, characterized by new parameters of legitimacy and new content to be attributed to the principle of "human supervision."

Parole chiave: intelligenza artificiale, sfruttamento delle emozioni, istituzioni scolastiche, dignità della persona, supervisione umana

Keywords: artificial intelligence, exploitation of emotions, educational institutions, human dignity, human supervision

Sommario: 1. Le disposizioni dell’AI act più rilevanti per l’istruzione. 2. Il divieto di sfruttamento delle emozioni con sistemi di IA nell’ambito dell’istruzione. 3. L’ambito del divieto di utilizzo di sistemi di IA per derivare emozioni da dati biometrici nell’istruzione. 4. Il divieto di utilizzare sistemi di intelligenza artificiale di riconoscimento delle emozioni nelle istituzioni scolastiche intese come luoghi di lavoro. 5. Il divieto di utilizzare sistemi di intelligenza artificiale che sfruttino la vulnerabilità delle persone nelle istituzioni scolastiche. 6. La normativa italiana sui sistemi di intelligenza artificiale e nelle istituzioni scolastiche. 7. Alcune considerazioni finali.