AIIA, lo strumento per una governance responsabile dell’Intelligenza Artificiale
Nel contesto attuale, caratterizzato dalla crescente pervasività dell’Intelligenza Artificiale, agli iniziali entusiasmi per il potenziale innovativo di questa tecnologia stanno seguendo importanti riflessioni circa i suoi potenziali rischi.
È noto come l’Artificial Intelligence Act dell’Unione Europea, approvato nel marzo 2024, abbia introdotto l’obbligo di condurre valutazioni d’impatto per i sistemi AI ritenuti “ad alto rischio”.
Tale scelta riflette la crescente consapevolezza che l’AI – pur offrendo enormi opportunità – può comportare, se non adeguatamente regolamentata e monitorata, pericoli significativi: fra questi le possibilità di errori o bias sottesi alle decisioni automatizzate, nonché l’impiego di strumenti basati sull’AI a fini di manipolazione o distorsione dei processi democratici.
La medesima consapevolezza è alla base della recente Convenzione Quadro del Consiglio d’Europa che stabilisce regole condivise circa l’impatto dell’Intelligenza Artificiale in campo di “Human Rights, Democracy and the Rule of Law”.
AI Impact Assessment: scopi, principi ed elementi chiave
Da simili considerazioni ha origine l’AI Impact Assessment (AIIA), finalizzato proprio a valutare gli impatti dei sistemi basati sull’Intelligenza Artificiale.
In concreto si tratta di un processo di valutazione ad ampio raggio teso a identificare, analizzare e mitigare i potenziali impatti negativi dell’AI sulla società, l’economia e i diritti individuali.
Considerata la costante evoluzione delle tecnologie interessate, esso dovrebbe essere concepito come un processo iterativo che accompagni i sistemi AI lungo tutto il loro ciclo di vita, partendo dalla progettazione per arrivare fino alle fasi di sviluppo e implementazione.
L’AI Impact Assessment si svolge alla luce dei principi condivisi a livello internazionale in tema di “safe and trustworthy AI”, in particolare:
- accountability and transparency;
- fairness, safety, security and resilience;
- explainability and interpretability;
- validity and reliability;
- privacy.
Allo scopo di valutare i potenziali impatti dei sistemi AI, vanno considerati diversi elementi chiave.
- Analisi del contesto: valutazione dell’ambiente in cui il sistema verrà utilizzato.
- Identificazione degli stakeholder: mappatura di tutti i soggetti potenzialmente influenzati dal sistema.
- Valutazione dei rischi: identificazione e quantificazione dei possibili impatti negativi.
- Misure di mitigazione: sviluppo di strategie per ridurre o eliminare i rischi identificati.
- Monitoraggio continuo: implementazione di meccanismi per valutare l’impatto del sistema nel tempo.
Il Joint Research Centre (JRC) della Commissione Europea sottolinea l’importanza di coinvolgere in tale processo esperti di diverse aree – dai profili più tecnici agli esperti di etica, diritto e scienze sociali – per garantire che la valutazione avvenga secondo un approccio sistemico e multidisciplinare.
La diffusione dell’AIIA in Italia e nel mondo
Nel documento “State of implementation of the OECD AI Principles”, l’OCSE evidenzia come diversi paesi stiano già adottando framework specifici per l’AIIA.
A titolo di esempio il Canada ha sviluppato uno strumento di valutazione dell’impatto algoritmico per le agenzie governative, mentre il Regno Unito ha introdotto delle linee guida per l’uso etico dell’AI nel settore pubblico.
Sempre rispetto al mondo dei pubblici servizi – ove il bilanciamento fra tecnologie emergenti e diritti dei cittadini appare particolarmente complesso – il rapporto “AI WATCH: Artificial Intelligence for the public sector” del già citato JRC richiama, quali esempi “virtuosi”, le strategie di AI Governance messe in atto da Spagna e Norvegia.
Anche in Italia il tema è oggetto di attenzione da parte degli organismi regolatori: sin dal 2020, il Comitato Nazionale per la Bioetica citava l’importanza di integrare le valutazioni d’impatto dell’AI con considerazioni etiche, in particolare rispetto alla possibilità di errori o alle sue potenziali ricadute discriminatorie verso i cittadini.
Nel parere “Intelligenza Artificiale e Medicina: aspetti etici” il Comitato raccomanda infatti che l’AIIA includa una valutazione approfondita delle implicazioni etiche, soprattutto in ambiti sensibili come la sanità, sottolineando “la rilevanza di strumenti che garantiscano l’affidabilità della IA, mediante validazione, e riducano, nei limiti del possibile, l’opacità, gli errori e le possibili discriminazioni dovute a cause tecnologiche e/o umane”.
Il futuro dell’AIIA tra compliance e innovazione
L’AI Impact Assessment si configura, quindi, come un elemento chiave nella governance responsabile dell’Intelligenza Artificiale: esso può rappresentare un ponte tra innovazione tecnologica e tutela dei diritti individuali, contribuendo a creare ecosistemi AI che siano non solo avanzati ma anche etici, sostenibili e rispettosi delle persone.
La sfida per il futuro sarà quella di standardizzare le metodologie di AIIA, garantendo al contempo la flessibilità necessaria per adattarsi ai rapidi progressi tecnologici e alle diverse esigenze di settore.
Sarà inoltre essenziale promuovere una cultura della valutazione d’impatto tra gli sviluppatori e gli implementatori di sistemi AI, affinché l’AIIA non si riduca a mero adempimento normativo ma diventi una prassi consolidata e condivisa, cruciale anche per garantirsi la piena fiducia degli utenti finali.
In conclusione, l’AI Impact Assessment si sta affermando come strumento indispensabile per guidare un’adozione responsabile dell’Intelligenza Artificiale, raccogliendo le preoccupazioni circa i suoi potenziali effetti nocivi e contribuendo a plasmare un futuro in cui l’innovazione tecnologica proceda di pari passo con il benessere sociale ed economico, nonché con la tutela dei diritti fondamentali.
