Data Strategy: il Data and Algo Ethical Score

All’interno della data strategy di Cerved abbiamo individuato la necessità sempre maggiore di misurare il livello etico degli algoritmi e dei dati da essi utilizzati. Questo aspetto diventa fondamentale alla luce dei nuovi adempimenti normativi come l’AI Act. La forza di questo approccio però non è solo il rispetto di una nuova normativa, ma va ben oltre: permette di gestire al meglio il rischio, stabilire una governance strutturata, migliorare la qualità dei dati e dei parametri degli algoritmi, ottenendo così risultati complessivamente migliori.

In Cerved abbiamo quindi creato un modello, il Cerved Data and Algo Ethical Score, per valutare il grado di rispetto di questa normativa (e non solo), attraverso una valutazione oggettiva, chiusa e codificata.

Il modello è strutturato su tre livelli:

– Componenti: al livello più alto ci sono tre parole chiave che guidano tutto il processo: legalità, eticità e robustezza.

– Principi: al livello intermedio ci sono i principi, che declinano il modo in cui intendiamo dare forma alle tre componenti (es. sicurezza informatica o qualità dei dati);

– Indicatori: al livello più basso ci sono un alto numero indicatori, che effettuano misurazioni il più possibile circoscritte (es. la qualità dei dati o la presenza di vulnerabilità note nelle librerie utilizzate).

Perché non limitarsi all’enunciazione delle tre componenti, che sono i valori fondamentali su cui basare lo sviluppo dell’AI? Le componenti infatti sono dei generici concetti etici, che dovrebbero guidare le nostre azioni: sono valori fortemente astratti, non misurabili e, in un certo senso, in costante tensione tra loro.

Lo stesso ragionamento è valido  per i principi,  interpretabili come criteri di valutazione per le componenti, i quali ci permettono di capire se abbiamo raggiunto l’obiettivo o stiamo superando qualche soglia. I principi sono anche il segnale dei punti di forza e di debolezza del progetto di AI.

Questo approccio valoriale ci permette di raggiungere tre obiettivi:

1. spiega cosa intendiamo per una particolare componente, che di per sé sarebbe altamente astratta e generica;

2. spiega in modo comprensibile come controlliamo e misuriamo l’aderenza a un determinato valore;

3. ammette la tensione e il conflitto tra alcuni valori e spiega il modo in cui questi conflitti siano stati bilanciati.

L’obiettivo finale è misurare in modo oggettivo, chiuso e codificato ogni aspetto che rientri nella sfera dell’AI Act o di altre normative (es. GDPR), e fornire alcuni spunti per il miglioramento delle aree più deboli. Tale risultato è possibile tramite uno score sintetico, ovvero un’etichetta del tutto simile a quella per l’efficienza energetica degli elettrodomestici. Allo score sintetico, si affiancano i singoli score per principi e componenti, in modo da avere un quadro visibile da tutte le prospettive possibili grazie a un modello flessibile per ogni use case.

La misurazione di ogni indicatore può essere fatta mediante due modalità:

– tramite gli assesment per gli indicatori qualitativi, che sono impostati in modo chiuso e codificato, cosicché sia sempre previsto un insieme di risposte chiuse, ciascuna con un valore definito e univoco. Ogni risposta, con un suo peso, viene trasformata in un valore numerico che compone lo score;

– tramite le procedure automatiche per gli indicatori quantitativi, che devono avere accesso diretto ai dati (o ai risultati degli algoritmi) e calcolano gli indicatori a partire da essi.

I tre componenti sono i tre pilastri del modello, le tre parole che ispirano il modo di creare algoritmi e trattare dati in Cerved:

– legalità, l’IA deve ottemperare a tutte le leggi e a tutti i regolamenti applicabili (es. direttive europee antidiscriminazione, diritti dei consumatori) così come l’utilizzo, l’accesso e la conservazione dei dati è sottoposto a normative sempre più specifiche e stringenti (es. GDPR, diritti dei consumatori, diritto d’autore e licenze).

– eticità, l’IA deve assicurare l’adesione a principi e valori etici indicati dalla società, secondo quanto esposto in un apposito manifesto. Il basilare rispetto delle leggi non è sufficiente a garantire affidabilità, eticità e sostenibilità. Bisogna inquadrare la ricerca di algoritmi equi, rispettosi dell’autonomia umana e sempre più spiegabili, in modo da prevenire eventuali danni. In questo senso, è utile una governance strutturata in grado di tracciare gli output e valutare responsabilità e impatti.

– robustezza, dal punto di vista tecnico e sociale poiché, anche con le migliori intenzioni, i sistemi di IA possono causare danni non intenzionali.

Questo modello di scoring etico condivide alcuni aspetti con il modello DDMI. In particolare, assumono grande rilevanza gli aspetti di monitoraggio della qualità dei dati e della sicurezza di dati e algoritmi, permettendoci così di fare sinergia tra i due modelli e trovare alcuni indicatori base pre-calcolati per i dataset standard di Cerved.