ARTIFICIAL INTELLIGENCE (AI): DALLA COMMISSIONE UE UNA “CHECKLIST” PER VERIFICARNE L’AFFIDABILITA’
“Artificial intelligence: The Commission welcomes the opportunities offered by the final Assessment List for Trustworthy AI (ALTAI)” (17.07.2020)
EUROPEAN COMMISSION
https://ec.europa.eu/
EUROPEAN COMMISSION - WEBPAGE DI RIFERIMENTO e link correlati
La Commissione europea ha recentemente pubblicato la versione definitiva della checklist per un'Intelligenza Artificiale affidabile (“Assessment List for Trustworthy Artificial Intelligence”), sviluppata dall’apposito Gruppo di Esperti UE di alto livello.
La checklist svolge la funzione di “lista di controllo” pratica per l’autovalutazione (in versione perfezionata rispetto a quella dell’aprile 2019) e costituisce parte integrante delle linee guida etiche elaborate dal Gruppo in materia di “IA affidabile”(1).
La checklist delinea i quesiti destinati alle organizzazioni, in relazione a sette elementi considerati “chiave” per un'IA affidabile, ossia:
- fattore umano e vigilanza: i sistemi di intelligenza artificiale dovrebbero responsabilizzare gli esseri umani, consentendo loro di prendere decisioni “informate” e promuovendo i loro diritti fondamentali. Dovrebbero essere garantiti opportuni meccanismi di vigilanza, attraverso specifici approcci;
- robustezza tecnica e sicurezza: i sistemi di intelligenza artificiale devono essere resilienti e adeguatamente protetti, sicuri, precisi, affidabili e riproducibili. È necessario garantire la possibilità di applicare un “piano di ripiego” in caso di eventuali problemi o difficoltà;
- privacy e data governance: devono essere garantiti adeguati meccanismi di data governance e accesso ai dati;
- trasparenza: dati, sistemi e business models di intelligenza artificiale dovrebbero essere caratterizzati da trasparenza, ad esempio attraverso meccanismi di tracciabilità. I cittadini devono essere informati delle potenzialità e dei limiti di un sistema;
- diversità, non-discriminazione ed equità: occorre evitare parzialità e, al contrario, promuovere la diversità. I sistemi di IA dovrebbero essere accessibili a tutti, indipendentemente da qualsiasi disabilità o problema, e coinvolgere le parti interessate durante l'intero ciclo di vita;
- benessere sociale e ambientale: i sistemi IA dovrebbero essere sostenibili e rispettosi dell'ambiente; il loro impatto sociale dovrebbe essere attentamente considerato;
- responsabilità: è necessario garantire la responsabilità e l'affidabilità dei sistemi di IA, come pure i loro risultati. Ciò include la valutazione di algoritmi, dati e processi di progettazione (auditability), soprattutto nelle applicazioni considerate più “critiche”. Dovrebbe essere garantita la possibilità di ricorsi accessibili e adeguati.
_________________________
(1) Si veda anche: “La Commissione UE pubblica la Roadmap per una proposta legislativa in materia di Intelligenza Artificiale”, in Panorama Assicurativo n. 203, settembre 2020 (Sezione “UNIONE EUROPEA”).
http://www.panoramaassicurativo.ania.it/admin/plugin/panorama/view.html?id=41894&est=1