BIG DATA E INTELLIGENZA ARTIFICIALE: DA BAFIN UN PAPER SUI PRINCIPI DI VIGILANZA
“Big data and artificial intelligence: Principles for the use of algorithms in decision-making processes” (SUPERVISORY PRINCIPLES BD-AI) “Big data and artificial intelligence: New paper published by BaFin to outline principles” (NEWS RELEASE, 15.06.2021)
BAFIN – BUNDESANSTALT FÜR FINANZDIENSTLEISTUNGSAUFSICHT
https://www.bafin.de/
BAFIN – “Supervisory Principles” – NEWS RELEASE (15.06.2021)
BAFIN – “Supervisory Principles” - WEBPAGE DI PRESENTAZIONE (15.06.2021)
BAFIN – “Supervisory Principles” – LINK AL DOCUMENTO
Il 15 giugno, l’Autorità tedesca di vigilanza sui mercati assicurativi e finanziari (BAFIN) ha pubblicato un Paper contenente alcuni principi di vigilanza per l'uso degli algoritmi nei processi decisionali da parte degli istituti finanziari. Tali principi hanno lo scopo di promuovere l'uso responsabile dei Big Data e dell'Intelligenza Artificiale (BD-AI), facilitando – nel contempo – il controllo dei rischi ad essi associati. La vigilanza tedesca sottolinea l’utilizzo sempre più frequente delle tecnologie BD-AI da parte degli operatori del mercato finanziario e, già da tempo, ha sottolineato come le opportunità per le istituzioni e i consumatori siano controbilanciate dalla presenza di rischi da tenere sotto controllo(1).
Nel Paper, BAFIN ha preso in esame quali siano i principi (di carattere generale e di vigilanza) da considerare per garantire un uso controllato delle tecnologie BD-AI, al fine di offrire una guida alle istituzioni vigilate dall’Autorità stessa e di stimolare il dialogo e il confronto con tutte le parti interessate.
Allo scopo di formulare i principi nel modo più preciso possibile, BAFIN indica che il processo decisionale “algorithm-based” è stato suddiviso in due fasi molto semplificate: sviluppo e applicazione.
La fase di sviluppo esamina come l'algoritmo venga selezionato, calibrato e convalidato; nella fase applicativa, i risultati dell'algoritmo devono essere interpretati e inclusi nei processi decisionali (il tutto può avvenire in via automatica o coinvolgendo esperti). In ogni caso, per essere funzionante, il meccanismo stabilito dovrà comprendere sufficienti livelli di verifica e circuiti di feedback (“feedback loops”). Inoltre, in generale, è necessaria una chiara struttura di responsabilità e un'adeguata gestione del rischio e dell'eventuale outsourcing.
BAFIN sottolinea che, sul piano normativo, un problema fondamentale risiede nella difficoltà di tracciare la demarcazione/distinzione tra processi BD-AI e processi guidati dalle statistiche convenzionali. Dal punto di vista del rischio, invece, tre sono le indicazioni di particolare rilevanza per i moderni metodi BD-AI:
- gli algoritmi utilizzati sono spesso molto più complessi rispetto ai processi statistici convenzionali (il che tende a renderli “opachi”);
- i cicli di ricalibrazione stanno diventando sempre più brevi e, pertanto, i confini tra calibrazione e convalida tendono a diventare sempre più “sfumati”;
- l'uso dei metodi BD-AI sta conducendo a un aumento dell'automazione, il che rende sempre più facile il “process scaling”, amplificando l'impatto del singolo algoritmo.
__________________________
(1) Per una precedente posizione di BAFIN sulla materia, si veda:
“Big Data e Intelligenza Artificiale: sfide e opportunità per i mercati e la vigilanza”, in Panorama Assicurativo n. 178, agosto 2018 (Sezione “NEWS”).
https://www.panoramassicurativo.ania.it/newsletter/51073/articolo/70355