Normativa
I RISCHI ATTUALI E POTENZIALI DELL’IA NEL SETTORE FINANZIARIO E LE RELATIVE ESIGENZE REGOLAMENTARI: UN PAPER OCSE
“Generative Artificial Intelligence in Finance” (OECD Artificial Intelligence Papers, December 2023 No. 9)
OECD – ORGANISATION FOR ECONOMIC COOPERATION AND DEVELOPMENT
https://www.oecd-ilibrary.org/
Sono ormai anni che le applicazioni dell’Intelligenza Artificiale sono utilizzate anche nel settore finanziario. Lo scenario, peraltro, è completamente cambiato con l’introduzione recente della cosiddetta IA generativa, ossia degli strumenti, come ChatGpt 4, che permettono la creazione originale di testi e l’intervento nei diversi comparti del settore finanziario sulla base degli input ricevuti con interfaccia facilmente utilizzabile. A partire da questa premessa, un recente Paper dell’OCSE analizza i rischi attuali e potenziali dell’IA nei mercati finanziari e le conseguenti esigenze di regolamentazione(1).
Un più ampio utilizzo dell’IA in finanza può significare sia l’amplificazione di rischi già esistenti sia la nascita di nuove minacce. Tuttavia, le applicazioni dell’IA, fino ad oggi, si sono estese lentamente nel settore finanziario, probabilmente per il contesto altamente regolamentato, ad esempio per quanto riguarda i profili di governance e risk management.
Tra i rischi analizzati nel Paper, vi sono quelli legati alla gestione dei dati e alla loro governance e i rischi connessi alla qualità e affidabilità dei risultati della IA.
I responsabili politici dovrebbero considerare il rafforzamento delle difese contro i rischi emergenti o esacerbati dall'uso dell’IA generativa (e di altre classi di intelligenza artificiale) in finanza, concentrandosi su una serie di ambiti, tra cui il potenziamento della governance dei dati, comprese misure di salvaguardia per superare il rischio di pregiudizi/discriminazioni; il rafforzamento della trasparenza e dei requisiti di divulgazione a seconda dei casi; l’irrobustimento del modello di governance e la promozione di meccanismi di responsabilità; il favorire la sicurezza, la robustezza e la resilienza dei modelli (compresi quelli per il rischio informatico) e la mitigazione dei rischi di manipolazione del mercato.
I decisori politici potrebbero poi incoraggiare un approccio incentrato sull’uomo e porre l’accento sul primato umano nel processo decisionale, in particolare per i casi d’uso di maggior valore nella finanza (ad esempio, i prestiti). Investimenti in ricerca e sviluppo, competenze e capacità saranno necessari per stare al passo con i progressi, aumentare la consapevolezza dei potenziali pericoli e creare strumenti per mitigare i rischi associati.
Dovrebbe essere aumentata la consapevolezza sui limiti dei modelli di intelligenza generativa, come gli LLM (Large Language Models), a partire dal fatto che questi non hanno capacità di ragionamento o comprensione completa del mondo e attualmente hanno una capacità limitata di eseguire compiti quantitativi.
In linea con i principi OCSE sull’IA, è necessario promuovere la cooperazione internazionale multidisciplinare e multilaterale. Impegni promossi dall’industria, l’educazione pubblica e l’educazione finanziaria sono ulteriori modi per aumentare la consapevolezza dei benefici e dei rischi e infondere fiducia e sicurezza nell’adozione sicura di questa innovazione trasformativa nella finanza e non solo.
________________
(1) Per un precedente sul tema, si veda: “L’intelligenza artificiale nel settore finanziario: opportunità, sfide e implicazioni regolamentari in un Report OCSE”, in Panorama Assicurativo n. 216, ottobre 2021 (Sezione “FOCUS”).
https://www.panoramassicurativo.ania.it/newsletter/81098/articolo/81234