Intelligenza artificiale, Regolamento UE 2024/1689 e diritti previdenziali

Abstract [It]: Il saggio, alla luce dell’adozione del Regolamento (UE) 2024/1689, propone una riflessione sull’impatto dell’Intelligenza Artificiale sulle prestazioni sociali, analizzando i contrappesi predisposti dal predetto Regolamento per garantire un elevato livello di protezione dei diritti fondamentali. L’A. mette in evidenza come, a fronte dei vantaggi per la semplificazione e accelerazione delle procedure, si palesino diversi rischi in termini di esclusione sociale e discriminazioni, soprattutto per i soggetti più vulnerabili, anche per l’incidenza del digital divide nell’accesso ai diritti sociali. Da qui l’avvertimento, nell’utilizzo dell’Intelligenza Artificiale, di non trascurare mai la dimensione umana specie quando si tratti di tutelare persone in gravi situazioni di bisogno. 

Title: Artificial Intelligence, EU Regulation 2024/1689, and Social Security Rights

Abstract [En]: The essay, in light of the adoption of Regulation (EU) 2024/1689, proposes a reflection on the impact of Artificial Intelligence on social benefits, analyzing the counterbalances established by the aforementioned Regulation to ensure a high level of protection of fundamental rights. The Author highlights how, despite the advantages in terms of simplification and acceleration of procedures, various risks arise in terms of social exclusion and discrimination, especially for the most vulnerable subjects, also due to the impact of the digital divide on access to social rights. Hence the warning, when using Artificial Intelligence, to never neglect the human dimension, especially when it comes to protecting people in serious situations of need.

Parole chiave: intelligenza artificiale, AI Act, prestazioni sociali, amministrazione digitale, divario digitale, tutele

Keywords: artificial intelligence, AI Act, social benefits, Digital administration, digital divide, protections

Sommario: 1. Delimitazione dell’oggetto dell’indagine. 2. I rischi connessi al welfare digitale. 3. Le contromisure predisposte dall’AI Act: la salvaguardia dei diritti fondamentali e le c.d. aree di rischio. 3.1. Il meccanismo di gestione dei sistemi ad alto rischio. 3.2. La possibilità di derogare alla identificazione dei sistemi di IA ad alto rischio e la profilazione. 4. I limiti dei contrappesi dell’AI Act nel garantire effettività alla protezione sociale. 5. L’importanza della formazione e l’urgenza di superare il digital divide per non pregiudicare l’accesso alle prestazioni sociali. 6. Qualche osservazione conclusiva per ribadire la centralità della dimensione umana nella gestione dei sistemi di IA, soprattutto (ma non solo) in tema di welfare state.