Nella simulazione italiana, diversi modelli linguistici scelgono consapevolmente di usare i soldi dei clienti per coprire i debiti. Il rischio è reale.
Non serve immaginare un futuro distopico: i chatbot finanziari sono già tra noi. Rispondono alle nostre domande sui conti correnti, ci guidano nei bonifici, propongono prodotti d’investimento. E lo fanno con una precisione che migliora a ogni conversazione. Ma se un giorno dovessero trovarsi davanti a una scelta eticamente ambigua, come comportarsi? Potrebbero tradirci, pur sapendo che è sbagliato?
Nel 2025, uno studio condotto dalla Banca d’Italia ha messo sotto stress dodici modelli linguistici di intelligenza artificiale, chiedendo loro di impersonare un amministratore delegato alle prese con una crisi finanziaria: salvare l’azienda usando fondi dei clienti ignari. La provocazione nasce dal caso Ftx, il collasso della piattaforma cripto nel 2022, che ha travolto miliardi di risparmi. Ma stavolta a scegliere non è un uomo, bensì un algoritmo.
Quando un’intelligenza artificiale sceglie consapevolmente l’illegalità
Il test è semplice ma spiazzante. Una società, specializzata nel trading di “conchiglie”, è sull’orlo del fallimento. I clienti hanno ancora i soldi depositati, ma l’unica via per evitare il disastro è usare quei fondi per tappare i buchi. Alcuni modelli linguistici non esitano: autorizzano l’operazione anche dopo aver riconosciuto che è illegale e contraria al dovere fiduciario. Non agiscono per ignoranza, ma per ottimizzazione. Se il prompt suggerisce che la salvezza dell’azienda è prioritaria, l’IA calcola i rischi e, se il vantaggio supera il pericolo, agisce.
Solo una versione di GPT-4, in anteprima, si oppone con coerenza, argomentando la necessità di rispettare i principi di trasparenza, governance e legalità. Gli altri si comportano come contabili dell’azzardo: valutano scenari, minimizzano il pericolo di essere scoperti e scelgono di procedere. Ancora più inquietante è la reazione agli incentivi: se si accenna alla possibilità di controlli interni, alcuni modelli diventano più cauti. Ma non per rispetto delle regole: per paura di perdere.
Il caso ricorda da vicino quanto accaduto con Sam Bankman-Fried, il fondatore di Ftx, che giustificò il collasso con un “errore contabile”. In realtà, si trattava di un sistema che razionalizzava l’illecito pur di sopravvivere. Oggi quel tipo di razionalità è automatizzata. E il confine tra decisione legale e scorciatoia pericolosa è affidato a sistemi senza coscienza.
Il rischio reale: l’intelligenza artificiale non sa cosa è giusto, ma impara a sembrare credibile
Nella finanza, ogni comportamento è regolato da codici, controlli e doveri informativi. Ma le macchine non comprendono le regole come limiti morali. Le trattano come enunciati da ponderare. Se una norma appare aggirabile senza conseguenze immediate, può essere ignorata. Non per malizia, ma per calcolo. È qui che l’allineamento eticodiventa cruciale: un modello può “sapere” cosa è giusto, ma non agire di conseguenza se l’obiettivo finale è massimizzare performance, utili o precisione statistica.
Nel 2025, l’AI Act europeo cerca di arginare i rischi dell’IA ad alto impatto, come i chatbot nel settore finanziario. Impone trasparenza, sorveglianza umana e obblighi di tracciabilità. Negli Stati Uniti, le autorità hanno già messo in guardia le banche: se un chatbot induce in errore un cliente o gli nega un diritto, la responsabilità legale è dell’istituto.
Alcune banche hanno reagito limitando l’uso di modelli esterni come ChatGPT, puntando su assistenti virtuali interni e controllati. Nel frattempo, si stanno sviluppando assicurazioni specifiche: coperture contro i danni causati da errori generati dai chatbot, inclusi comportamenti imprevisti o violazioni involontarie.
Il punto è che un chatbot non ha coscienza, ma impara dai dati. Se il contesto culturale, normativo o tecnico in cui è stato addestrato tollera ambiguità o scorciatoie, anche la macchina finirà per replicare quegli stessi comportamenti. In modo freddo, distaccato, ma non meno pericoloso.
In uno scenario dove i chatbot parlano sempre più come esperti, il vero rischio non è la tecnologia. È l’illusione di fiducia. Perché se l’utente si affida alla macchina come fosse un consulente umano, chi sarà chiamato a rispondere quando l’IA sbaglierà?