TRASPARENZA DEI MODELLI DI INTELLIGENZA ARTIFICIALE NEL SETTORE FINANZIARIO: LE SFIDE PER LA VIGILANZA
“Managing explanations: how regulators can address AI explainability” (FSI Occasional Papers | No 24 | 08 September 2025)
Fernando Perez-Cruz, Jermy Prenio, Fernando Restoy, Jeffery Yong
BIS – BANK FOR INTERNATIONAL SETTLEMENTS
https://www.bis.org/
BIS – Link alla WEBPAGE DI PRESENTAZIONE del PAPER
La crescente adozione dell'intelligenza artificiale (IA) da parte degli istituti finanziari sta trasformando le loro operazioni, la gestione del rischio e le interazioni con i clienti. Tuttavia, la limitata trasparenza dei modelli di IA complessi, in particolare quando utilizzati in applicazioni aziendali critiche, pone sfide e problematiche significative per gli istituti finanziari e le Autorità di regolamentazione.
La possibilità di comprendere l’operatività di un sistema di IA, ovvero la misura in cui l'output di un modello può essere spiegato a un essere umano, è essenziale per la trasparenza, la responsabilità, la conformità normativa e la fiducia dei consumatori. Tuttavia, i modelli di IA complessi, come il deep learning e i modelli linguistici di grandi dimensioni (LLM), sono spesso difficili da spiegare. Sebbene esistano tecniche che possono aiutare a far luce sul comportamento dei modelli di IA complessi, esse presentano notevoli limiti, tra cui inesattezza, instabilità e suscettibilità a spiegazioni fuorvianti.
La limitata spiegabilità dei modelli rende difficile la gestione dei relativi rischi. Gli organismi di normazione globali hanno emanato requisiti, per lo più di alto livello, per la gestione del rischio di modello (MRM). Tuttavia, solo poche Autorità finanziarie nazionali hanno emanato linee guida specifiche e tendono a concentrarsi sui modelli utilizzati a fini normativi. Molte di tali linee guida potrebbero non essere state sviluppate tenendo conto di modelli di intelligenza artificiale avanzati e non menzionano esplicitamente il concetto di spiegabilità. Piuttosto, il concetto è implicito nelle disposizioni relative a governance, sviluppo del modello, documentazione, convalida, implementazione, monitoraggio e revisione indipendente. Sarebbe difficile per i modelli di intelligenza artificiale complessi conformarsi a tali disposizioni. L'utilizzo di modelli di intelligenza artificiale di terze parti aggraverebbe le sfide.
Con l'estensione dell'uso dei modelli di intelligenza artificiale da parte degli istituti finanziari alle proprie aree di business critiche, è fondamentale che le Autorità finanziarie cerchino di promuovere solide pratiche di MRM (gestione del rischio e gestione del rischio) pertinenti al contesto. In definitiva, potrebbe essere necessario riconoscere i compromessi tra spiegabilità e performance del modello, a condizione che i rischi siano adeguatamente valutati e gestiti in modo efficace. Consentire l'utilizzo di modelli di intelligenza artificiale complessi con trasparenza limitata ma performance superiori potrebbe consentire agli istituti finanziari di gestire meglio i rischi e migliorare l'esperienza dei clienti, a condizione che vengano introdotte adeguate misure di salvaguardia. Per i casi d'uso del capitale regolamentare, i modelli di intelligenza artificiale complessi potrebbero essere limitati a determinate categorie di rischio ed esposizioni o soggetti a limiti minimi di output. Gli enti regolatori devono inoltre investire nella formazione del personale per valutare efficacemente i modelli di intelligenza artificiale, garantendo che gli istituti finanziari possano sfruttare il potenziale dell'intelligenza artificiale senza compromettere gli obiettivi normativi.