La black box: l'esplicabilità delle scelte algoritmiche quale garanzia di buona amministrazione

Abstract [It]: L’esame della questione giuridica della esplicabilità delle decisioni amministrative, che si avvalgono di modelli di Intelligenza Artificiale connotati dalla black box, presuppone che sia, in primo luogo, indagato il fenomeno nella sua dimensione reale. La black box, con la quale si intende l’impossibilità di “guardare dentro” il meccanismo di funzionamento del sistema da parte degli stessi programmatori, è peraltro la massima espressione della opacità che caratterizza, con gradi diversi, tutti i modelli algoritmici e connota, in particolare, i sistemi di cd. Deep Learning. Allo stato attuale dello sviluppo tecnologico, pertanto, tali sistemi sembrano essere incompatibili con il principio della trasparenza “rafforzata” che la giurisprudenza amministrativa ha indicato come garanzia minima di legittimità per l’utilizzo di algoritmi nell’attività amministrativa decisionale, anche se privi di “autonomia”. Tale principio, inteso come comprensibilità del risultato, è ora espressamente contenuto anche nella proposta di Regolamento della Commissione europea del 21 aprile 2021 come standard di progettazione dei sistemi di I.A.

Abstract [En]: The examination of the legal issue of the explicability of administrative decisions, which make use of Artificial Intelligence models characterized by the Black Box, presupposes that, first of all, the phenomenon in its real dimension is investigated. By Black Box we mean the impossibility of "looking inside" the operating mechanism of the system by the programmers themselves, a typical feature, in particular, of the “Deep Learning”. At the current state of technological development, therefore, such systems seem to be incompatible with the principle of "enhanced" transparency that administrative jurisprudence has indicated as a minimum guarantee of legitimacy for the use of algorithms in administrative decision-making, even if without "autonomy". This principle, understood as the comprehensibility of the result, is now expressly contained also in the proposal for a Regulation of the European Commission of 21 April 2021 as the design standard for I.A.

Parole chiave: Intelligenza artificiale; Black box; algoritmi; amministrazione; tecnologia; deep learning; trasparenza

Keywords: Artificial intelligence; Black box; algorithms; administration; technology; deep learning; transparency

Sommario: 1. Intelligenza artificiale, black box e le sfide giuridiche delle “tecnologie dirompenti”. 2. La black box, ovvero l’impossibilità di “guardare dentro” il meccanismo di funzionamento di alcuni, ma non di tutti, i sistemi di I.A. 3. La black box nell’ambito della più generale opacità dei sistemi algoritmici e il baluardo della “trasparenza rafforzata”. 4. Trasparenza ed esplicabilità by design secondo la proposta del Regolamento del 21 aprile 2021: un nuovo approccio culturale.