Intelligenza artificiale, Risk management

INCIDENTI DELL’INTELLIGENZA ARTIFICIALE: COME DEFINIRLI E COME PREVENIRLI. REPORT DELL’OCSE

“Stocktaking for the development of an AI incident definition” (OECD ARTIFICIAL INTELLIGENCE PAPERS, October 2023 No. 4)

OECD – ORGANISATION FOR ECONOMIC COOPERATION AND DEVELOPMENT
https://www.oecd-ilibrary.org/

OECD – Link alla WEBPAGE DI PRESENTAZIONE /di download del Report

L’Intelligenza Artificiale ha potenziali enormi e le sue applicazioni, ad esempio i ChatBot AI, raggiungono già adesso risultati difficilmente immaginabili fino a qualche anno fa. Tuttavia, parallelamente ai suoi sviluppi così rapidi, ci sono anche numerosi rischi, alcuni dei quali già materializzati. 

Il presente Report dell’OCSE, parte dello specifico progetto di ricerca dell’Organizzazione internazionale, analizza rischi attuali e potenziali dell’IA, individuando le modalità più adeguate per la loro gestione.

A partire da una definizione terminologica e metodologica dei rischi di IA, il Report cerca di definire un framework comune a livello internazionale (anche sulla base della normativa in via di definizione nell’Unione Europea) necessario per identificare e gestire le minacce. 

Tali minacce possono essere di diverso tipo - economico, sociale, culturale o psicologico - e con differenti livelli di gravità, che possono arrecare danni a sfere come quella delle infrastrutture o della salute umana.

La definizione adottata è la seguente: “un incidente di AI è un evento nel quale lo sviluppo o l’uso di un sistema di AI provoca danni alle persone, ai beni o all’ambiente, oppure viola i diritti umani, inclusa la privacy o la non-discriminazione”.

La definizione dei rischi/minacce è quindi il punto di partenza per andare a identificare (attraverso il monitoraggio) quali sono quelli che si attuano realmente.

Sulla base di tale definizione l’OCSE sta sviluppando un monitoraggio globale degli incidenti IA,  per consentirne una identificazione in tempo reale.