Profilazione e decisione algoritmica: dal mercato alla sfera pubblica

Abstract [It]: Il contributo esamina il ruolo e l’impatto della profilazione degli individui, e in particolare degli utenti delle piattaforme digitali, sui meccanismi sociali, economici e politici che regolano il funzionamento della Rete, del mercato e più in generale della sfera pubblica, con attenzione al fenomeno delle c.d. fake news. La profilazione e i meccanismi di sorveglianza sempre più persistenti e pervasivi, messi in campo grazie alle più recenti tecniche dell’intelligenza artificiale, sono analizzati con particolare rifermento alle capacità di classificazione, valutazione, influenza e manipolazione degli individui. Il contributo propone quindi un’analisi delle nuove frontiere dell’ecosistema della sorveglianza nella sfera pubblica, con particolare riferimento all’opinione pubblica e alle preferenze di voto, fino a ricomprendere fenomeni quali ad esempio il c.d. Sistema di credito Sociale Cinese. Infine si esamina il nesso tra la regolazione dell’intelligenza artificiale e le principali sfide tecnologiche dei prossimi anni. 

Abstract [En]: The paper aims at analysing the role and the impact of user profiling (particularly on the Internet platforms) on the social, economical and political mechanisms of functioning of the Internet, the market, and, more broadly, the public sphere. In this paper, particular attention to the issue of the so-called fake news is paid.

In this sense, the increasingly persistent and pervasive user profiling and surveillance mechanisms developed due to the more recent artificial intelligence techniques are analysed by looking at the issues of the scope of classification, evaluation, influence, and manipulation of individuals. As a consequence, the paper explores the new frontiers of the surveillance ecosystem in the public sphere, with particular reference to public opinion and voting preferences, including phenomena such as the so-called Chinese Social Credit System.

Finally, the link between the regulation of artificial intelligence and the main technological challenges of the upcoming years is analysed.

Sommario: 1. Introduzione. 2. L’intelligenza artificiale e i dati personali. 3. La psicometria e le macchine: dalla profilazione all’influenza e alla manipolazione. 4. Le decisioni algoritmiche tra equità e discriminazione. 5. L’ecosistema della sorveglianza. 6. Il business model della pubblicità online e la formazione dell’opinione pubblica. 7. Profilazione e intelligenza artificiale nella comunicazione politica. 8. Nuove dimensioni della sorveglianza: il caso del Sistema di credito Sociale Cinese. 9. Conclusioni