QUANDO A DECIDERE SONO LE MACCHINE. RISCHI E GOVERNANCE DEI BIG DATA E DELL’INTELLIGENZA ARTIFICIALE: CRO FORUM
“Machine Decisions’: Governance of AI and Big Data Analytics”
CRO FORUM
https://www.thecroforum.org/
Un recente paper del CRO Forum analizza le applicazioni dei Big Data e della intelligenza artificiale (IA) e le loro implicazioni in termini di governance per le imprese di assicurazione(1).
Il paper sottolinea che vi è una serie di rischi potenziali che possono derivare dall’utilizzo di strumenti complessi come Big Data e IA. Tra tali rischi, che devono essere adeguatamente gestiti, vi sono:
- il rischio di distorsioni negli algoritmi di calcolo;
- il rischio della mancanza di comprensibilità degli strumenti;
- il rischio di errori ripetuti e sistemici;
- il rischio di esclusione sociale, se l’assicurazione diventa inaccessibile per alcune categorie di soggetti;
- i rischi reputazionali, regolamentari e legali.
L’intervento umano – segnala il documento – è e sarà sempre indispensabile. Infatti, anche se ogni generazione di IA e di machine learning sembra raggiungere risultati sempre più precisi e selettivi, il loro funzionamento è non lineare e, quindi, può essere influenzato da complesse interdipendenze tra fattori non facilmente identificabili. Ne deriva la necessità di garantire un elevato grado di comprensione e accessibilità degli strumenti utilizzati. Il training del personale è fondamentale e dovrà essere effettuato a tutti i livelli dell’impresa.
Gli ultimi due capitoli del paper sono dedicati agli aspetti etici (ad esempio, come dati statisticamente poco significativi possano influenzare il corretto funzionamento della IA) e alla definizione di una check list relativa alla implementazione di una Big Data Analysis e della IA all’interno di una compagnia di assicurazione.
_______________________
(1) Su temi affini, si veda: “Tra Big Data e Privacy: Regolamento generale sulla protezione dei dati (GDPR) e nuove soluzioni assicurative”, in Panorama Assicurativo n. 172, febbraio 2018 (Sezione “FOCUS”).
http://www.panoramassicurativo.ania.it/admin/plugin/panorama/view.html?id=39386&est=1