Prima delle regole, i principi: da dove viene l’etica dell’intelligenza artificiale

Trilogia “AI Act ed Etica dei Dati e dell’AI” · Articolo I di III

Un percorso in tre tappe, dal perché al come. Questo primo articolo ricostruisce le radici etiche da cui nasce la regolamentazione europea dell’AI. Il secondo mostrerà come l’AI Act prova a tradurle in norma. Il terzo, come diventano pratica quotidiana.

Quando è entrato in vigore l’AI Act, gran parte del dibattito pubblico si è concentrato sulle scadenze, sulle sanzioni, sugli adempimenti. Comprensibile, perché sono gli aspetti che toccano immediatamente chi lavora. Ma questa attenzione al come conformarsi rischia di far dimenticare una domanda che viene prima, e che è la vera chiave di lettura dell’intero Regolamento: perché queste regole esistono, e da dove vengono i principi che intendono proteggere.

L’AI Act non è nato dal nulla. È il punto di arrivo, negoziato e imperfetto, di quasi due decenni di riflessione etica sull’intelligenza artificiale. Prima ancora che diventasse una questione giuridica, l’AI è stata una questione filosofica: cosa significa delegare decisioni a un sistema automatico, quali valori vogliamo che quei sistemi rispettino, chi risponde di ciò che fanno. Le risposte che la comunità internazionale ha elaborato a queste domande sono la materia prima da cui il legislatore europeo ha ricavato la norma.

Capire quella riflessione non è un esercizio accademico ma è la premessa per leggere l’AI Act come qualcosa di più di una checklist di conformità, ed è il modo per riconoscere, quando la norma tace o resta vaga, quali principi restano comunque in gioco.

Il vocabolario di base: tre etiche, non una

Prima di entrare nei principi, conviene sgombrare il campo da un equivoco frequente. Si parla spesso di “etica dell’AI” come se fosse un blocco unico. In realtà, la letteratura distingue con precisione almeno tre ambiti, e la distinzione è utile perché ciascuno solleva problemi diversi.

Il primo è l’etica dei dati. Riguarda la raccolta, la conservazione, l’uso e la circolazione dei dati, inclusi i dati personali ma non solo. Qui si collocano temi come il consenso, la privacy, la proprietà dei dati, la loro qualità e rappresentatività. È l’ambito che il GDPR presidia da anni, e che l’AI Act eredita e amplia quando parla di data governance.

Il secondo è l’etica degli algoritmi. Riguarda il modo in cui i dati vengono elaborati e trasformati in decisioni. Qui vivono i problemi di bias algoritmico, di opacità dei modelli, di correttezza delle decisioni automatizzate, di responsabilità per gli output. Un dataset può essere raccolto in modo impeccabile e produrre comunque un algoritmo discriminatorio, se le correlazioni che apprende riflettono disuguaglianze preesistenti.

Il terzo è l’etica delle pratiche. Riguarda le responsabilità di chi progetta, sviluppa e usa questi sistemi, cioè le persone e le organizzazioni. Qui si collocano i codici di condotta professionali, le procedure di governance, la formazione, la cultura organizzativa. È l’ambito più trascurato e forse il più decisivo, perché un principio etico senza una pratica che lo incarni resta una dichiarazione di intenti.

Questa tripartizione, proposta con chiarezza da Luciano Floridi e ripresa in gran parte della letteratura successiva, attraversa tutto il percorso che stiamo per fare. L’AI Act, come vedremo nel secondo articolo, tocca tutti e tre gli ambiti, ma con intensità e strumenti diversi.

I cinque principi che ricorrono ovunque

Se si mettono a confronto le decine di dichiarazioni, linee guida e framework etici sull’AI prodotti tra il 2016 e il 2021, emerge un fatto sorprendente: sotto una grande varietà di formulazioni, i principi ricorrenti sono quasi sempre gli stessi. Uno studio molto citato, condotto da Anna Jobin, Marcello Ienca ed Effy Vayena e pubblicato su Nature Machine Intelligence nel 2019, ha analizzato ottantaquattro documenti di etica dell’AI provenienti da tutto il mondo, individuando una convergenza attorno a un nucleo ristretto di principi.

Il lavoro forse più elegante di sistematizzazione è quello di Luciano Floridi e Josh Cowls, che nel 2019 hanno proposto un quadro unificato di cinque principi. I primi quattro sono presi in prestito dalla bioetica, la disciplina che più a lungo ha riflettuto su come governare eticamente una tecnologia potente e potenzialmente dannosa. Il quinto è specifico dell’AI.

Il primo principio è la beneficenza: i sistemi di AI dovrebbero promuovere il benessere delle persone, la dignità umana, la sostenibilità del pianeta. È il principio positivo, quello che indica una direzione.

Il secondo è la non maleficenza: i sistemi non dovrebbero causare danni, dalla violazione della privacy alla manipolazione, dai rischi per la sicurezza agli usi impropri. Non è un doppione del primo: promuovere il bene e prevenire il male sono obiettivi distinti, che possono anche entrare in tensione.

Il terzo è l’autonomia: le persone devono mantenere la capacità di decidere, di scegliere se e quanto delegare alle macchine, e di riprendersi la decisione quando serve. È il principio da cui discende, come vedremo, l’idea di sorveglianza umana.

Il quarto è la giustizia: i benefici dell’AI devono essere distribuiti equamente, i sistemi non devono creare o amplificare discriminazioni, e devono preservare la solidarietà sociale. È il principio più politico e, non a caso, quello che la regolazione fatica di più a rendere operativo.

Il quinto principio, l’aggiunta specifica per l’AI, è l’esplicabilità. Floridi e Cowls la presentano come il principio che abilita gli altri quattro: senza la capacità di capire come e perché un sistema è arrivato a una certa decisione, non possiamo verificare se stia facendo del bene, evitando il male, rispettando l’autonomia ed essendo giusto. L’esplicabilità unisce due dimensioni: l’intelligibilità, cioè capire come funziona il sistema, e l’accountability, cioè sapere chi ne risponde.

Questi cinque principi sono il codice genetico di quasi tutto ciò che è venuto dopo, comprese le linee guida europee da cui è nato l’AI Act.

Le tappe che hanno preparato il terreno

I principi non sono rimasti sulla carta. Tra il 2019 e il 2021 si sono consolidati in una serie di documenti che hanno progressivamente spostato il baricentro dall’etica volontaria alla regolazione vincolante. Vale la pena ripercorrere le tre tappe principali, perché ciascuna ha lasciato un’impronta diretta nell’AI Act.

La prima tappa sono le Ethics Guidelines for Trustworthy AI, pubblicate nell’aprile 2019 dal gruppo di esperti di alto livello sull’intelligenza artificiale, l’HLEG, istituito dalla Commissione europea. Il documento introduce il concetto che diventerà centrale in tutta la strategia europea: quello di AI affidabile, trustworthy AI. Un’AI affidabile, secondo le linee guida, deve essere legale, etica e robusta, e deve soddisfare sette requisiti concreti: azione e sorveglianza umana, robustezza tecnica e sicurezza, governance dei dati e privacy, trasparenza, diversità e non discriminazione, benessere sociale e ambientale, accountability. Chi conosce l’AI Act riconoscerà in questo elenco l’ossatura di molti obblighi che il Regolamento imporrà anni dopo.

La seconda tappa ha una portata globale: la Raccomandazione sull’etica dell’intelligenza artificiale adottata dall’UNESCO nel novembre 2021, il primo strumento normativo di respiro mondiale sul tema, approvato da tutti i centonovantatré Stati membri. La Raccomandazione va oltre i principi e propone aree di intervento concrete, dalla governance dei dati all’ambiente, dall’uguaglianza di genere all’educazione. Il suo valore è soprattutto politico e culturale: sancisce che l’etica dell’AI non è una preoccupazione occidentale ma una questione universale, e introduce con forza il tema della sostenibilità ambientale, che come vedremo l’AI Act tratterà solo in modo marginale.

La terza tappa sono i Principi dell’OCSE sull’intelligenza artificiale, adottati nel maggio 2019 e aggiornati nel 2024. Sono i primi principi intergovernativi sull’AI, sottoscritti da decine di Paesi, e hanno il merito di aver tradotto i valori etici in raccomandazioni rivolte esplicitamente ai governi, anticipando la stagione della regolazione. I principi OCSE hanno influenzato direttamente sia l’AI Act europeo sia altre iniziative normative nel mondo, funzionando da linguaggio comune.

Nel giro di pochi anni, dunque, l’etica dell’AI ha compiuto un tragitto preciso: dai principi filosofici alle linee guida tecniche, dalle linee guida alle raccomandazioni intergovernative, dalle raccomandazioni alla soglia della legge vincolante. L’AI Act è l’approdo europeo di questo percorso.

Il problema che ha spinto verso la legge: l’ethics washing

Se i principi erano così condivisi, perché non ci si è fermati lì? Perché passare dall’etica volontaria alla regolazione vincolante, con tutto il peso di sanzioni, adempimenti e burocrazia che questo comporta?

La risposta sta in un problema che è diventato via via più evidente, e che ha un nome: ethics washing. Con questo termine si indica la pratica, da parte di aziende e organizzazioni, di adottare principi etici e dichiarazioni di intenti come strumento di immagine, senza tradurli in cambiamenti reali nei prodotti e nei processi. Comitati etici senza potere effettivo, codici di condotta mai applicati, dichiarazioni di principio smentite dalle pratiche concrete.

Il limite strutturale dei principi etici, per quanto ben formulati, è che sono per loro natura generali, non vincolanti e privi di meccanismi di applicazione. Dicono cosa è desiderabile, non cosa è obbligatorio, e non prevedono conseguenze per chi li ignora. Diversi studiosi, tra cui Brent Mittelstadt in un influente saggio pubblicato su Nature Machine Intelligence nel 2019, hanno mostrato i limiti di un approccio puramente principialista, sostenendo che i principi da soli non bastano a garantire un’AI etica, perché manca l’infrastruttura, fatta di procedure, verifiche, responsabilità e sanzioni, che li renda effettivi.

È da questa consapevolezza che nasce la spinta verso la regolazione. L’idea di fondo dell’AI Act è che l’etica, per essere efficace, debba in parte tradursi in diritto: alcuni principi vanno resi obbligatori, verificabili e sanzionabili. Non tutti, non allo stesso modo, e qui si apre il dibattito che affronteremo nel prossimo articolo. Ma la direzione è chiara: dalla dichiarazione di intenti all’obbligo giuridico.

Perché tutto questo riguarda anche chi non fa il filosofo

A questo punto una domanda legittima è: perché un professionista, un’impresa, chi lavora concretamente con l’AI dovrebbe interessarsi a questa genealogia?

Per una ragione molto pratica. L’AI Act è un testo lungo, complesso e in più punti volutamente aperto. Molti dei suoi obblighi rimandano a concetti, la trasparenza, la sorveglianza umana significativa, la qualità dei dati, la non discriminazione, che il Regolamento non definisce fino in fondo, perché presuppone la riflessione etica da cui provengono. Chi conosce quella riflessione legge la norma con una profondità che chi la affronta come pura checklist non può avere. Sa perché un certo obbligo esiste, quale valore intende proteggere, e quindi come applicarlo in modo sostanziale e non meramente formale.

C’è di più. I principi etici coprono un’area più ampia di quella regolata dalla norma. Quando l’AI Act tace, per esempio sulla sostenibilità ambientale dei modelli o sulla concentrazione di potere tecnologico, i principi restano comunque un riferimento. Un’organizzazione che voglia usare l’AI in modo davvero responsabile non può limitarsi a ciò che la legge impone: deve tenere presente l’orizzonte etico completo, di cui la norma è solo la parte codificata.

Questo è il senso del percorso che iniziamo qui. Non contrapporre etica e norma, ma capire come la seconda nasca dalla prima, dove la traduca fedelmente e dove invece la lasci indietro.

Dove andiamo adesso

Abbiamo ricostruito le radici: i tre ambiti dell’etica dell’AI, i cinque principi ricorrenti, le tappe che hanno portato dalla filosofia alla soglia della legge, e la ragione, l’ethics washing, per cui si è scelto di regolare.

Nel secondo articolo entreremo nell’AI Act vero e proprio, con una domanda precisa: come traduce, questa norma, i principi che abbiamo appena visto? La risposta passa per una scelta di fondo del legislatore europeo, l’approccio basato sul rischio, che ha una sua logica stringente e anche dei limiti significativi. È lì che si gioca la questione più discussa di tutte: se l’AI Act sia davvero una legge sull’etica, o piuttosto un sofisticato regolamento di sicurezza del prodotto.

Fonti

Sui tre ambiti dell’etica dell’AI e sui cinque principi: Floridi L., Cowls J., “A Unified Framework of Five Principles for AI in Society”, Harvard Data Science Review, 2019. Floridi L., “The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities”, Oxford University Press, 2023.

Sulla convergenza dei principi: Jobin A., Ienca M., Vayena E., “The global landscape of AI ethics guidelines”, Nature Machine Intelligence, vol. 1, 2019, pp. 389–399. DOI: 10.1038/s42256–019–0088–2.

Sulle linee guida europee: High-Level Expert Group on AI, “Ethics Guidelines for Trustworthy AI”, Commissione europea, aprile 2019.

Sulla Raccomandazione UNESCO: UNESCO, “Recommendation on the Ethics of Artificial Intelligence”, novembre 2021.

Sui principi OCSE: OECD, “Recommendation of the Council on Artificial Intelligence”, OECD/LEGAL/0449, 2019, aggiornati nel 2024.

Sui limiti dell’approccio principialista e l’ethics washing: Mittelstadt B., “Principles alone cannot guarantee ethical AI”, Nature Machine Intelligence, vol. 1, 2019, pp. 501–507. DOI: 10.1038/s42256–019–0114–4.

Questo articolo ha scopo divulgativo e non costituisce parere legale. Le informazioni si basano su documentazione pubblica disponibile alla data di pubblicazione.

A cura di Francesco Foglio, Compliance and AI Curious · linkedin.com/in/francescofoglio · francescofoglio@gmail.com