Privacy e spiegabilità. Sono due aspetti chiave per il futuro del machine learning nella valutazione delle richieste di credito e nel monitoraggio dei finanziamenti erogati.
Il tema è stato approfondito da un documento tecnico di CRIF e Intesa Sanpaolo, già discusso con l’EBA e al centro di un incontro a cui parteciperanno EBA, BCE e alcuni tra i maggiori player bancari italiani.
L’AI è già qui
Un primo e chiaro dato di fatto è che il machine learning è già entrato nei processi relativi al credito, almeno a livello globale.
Quasi 7 banche su 10 lo utilizzano già nella valutazione delle richieste di credito, mentre oltre la metà delle banche vi fa ricorso anche per monitorare i finanziamenti già erogati.
Il perché viene perfettamente spiegato da Daniele Vergari, Director - Risk Analytics lead - CRIF Management Consulting:
«L’elaboratore può reperire le informazioni salienti anche quando sono disperse o annegate in una congerie di dati irrilevanti, il classico ago nel pagliaio che i modelli tradizionali faticano a individuare. Automatizzando l’accesso ai dati e i processi decisionali, per le banche diventa possibile concedere credito in tempi ristrettissimi, presidiando nuovi canali come lo shopping online, che diversamente rischiano di diventare appannaggio di società di Fintech e di Big Data».
Quali effetti dall’utilizzo dell’intelligenza artificiale sui processi del credito?
L’importante investimento delle grandi banche mondiali in questa tecnologia si incontra con un atteggiamento delle Autorità di Vigilanza che sembra unire l’apertura all’innovazione con un’attenzione a prevenire i possibili aspetti negativi.
Se da un lato il machine learning permette di automatizzare i processi di erogazione e controllo dei prestiti, siamo sicuri che le decisioni e le valutazioni dell’intelligenza artificiale non possano presentare dei rischi?
Il documento tecnico ne individua almeno due.
Il primo è la privacy. E qui occorre una precisazione: le banche tradizionali per cultura di compliance si muovono con grande cautela su questo aspetto, mentre quelli emergenti non sempre hanno una pari sensibilità (ricordiamoci anche il taglio globale dello studio).
Il secondo è il classico effetto “black box”, cioè la difficoltà a spiegare perché il machine learning ha portato a un determinato esito. Abbiamo scelto di usare la parola spiegabilità, evitando anglicismi: il rischio è che i modelli siano la classica scatola nera, di cui conosciamo i dati in ingresso e in uscita, ma non cioè che avviene all’interno.
E invece necessario che sia chiaro e spiegabile perché il processo di valutazione automatizzato ha fornito una risposta, negativa o positiva che sia.
I dubbi della BCE
Anche la definizione di regole in materia non è agevole. Un po’ per il dinamismo dell’innovazione, che rischia di rendere obsolete le norme in poco tempo.
Un po’ perché regole troppo restrittive potrebbero danneggiare la competitività del sistema finanziario dell’Europa (apripista in temi di privacy) e di impedire alle banche di accedere a strumenti utili per l’inclusione finanziaria dei soggetti oggi meno affidabili, contenendo allo stesso tempo i costi delle insolvenze.
Il documento di CRIF e ISP segnala che l’accuracy ratio, cioè la misura di adeguatezza dei modelli per la gestione dei rischi, potrebbe aumentare di 10 punti percentuali grazie a dati e tecniche di elaborazione innovativi. Coi metodi attuali, la percentuale oscilla tra il 50% e l’80%.
La BCE, in particolare, non avrebbe nascosto qualche perplessità sul progetto di regolamento europeo sull’intelligenza artificiale, che potrebbe “ingessare” anche l’utilizzo di modelli semplici, utili e ormai comunemente accettati.
Da qui la mossa di EBA, che nei mesi scorsi ha anticipato agli operatori la possibile emanazione di un set di linee guida minime, per garantire che le nuove tecnologie entrino in banca senza criticità o contraccolpi.
«In fatto di Machine Learning, supervisori vogliano vederci chiaro e individuare soluzioni in grado da un lato di garantire adeguate tutele ai richiedenti credito, dall’altro di mettere gli istituti di credito nella condizione di gestire in modo efficace ed efficiente l’operatività nei processi di erogazione», conclude Giorgio Costantino, Executive Director – Head of CRIF Global Transformation Services.
