In Breve
- Qual è l'impatto dell'intelligenza artificiale sulle frodi finanziarie?
- L'intelligenza artificiale consente ai gruppi criminali di diventare più rapidi e sofisticati, facilitando la creazione di identità sintetiche e l'uso di deepfake.
- Come possono le istituzioni finanziarie difendersi?
- Le istituzioni devono investire in fornitori esterni e sviluppare competenze interne per migliorare la rilevazione delle frodi.
- Quali sono le principali sfide nella prevenzione delle frodi?
- Le sfide includono la manipolazione del cliente e l'uso di tecnologie che rendono difficile la rilevazione delle frodi.
Negli ultimi anni, il Regno Unito ha registrato perdite per frodi finanziarie che hanno raggiunto la cifra record di 1,3 miliardi di sterline. Questo fenomeno, in costante crescita, è alimentato dall’adozione sempre più diffusa di tecnologie avanzate, in particolare l’intelligenza artificiale, che si sono rivelate strumenti efficaci nelle mani di reti criminali.
I gruppi di frode stanno diventando sempre più rapidi e sofisticati. Tecnologie come la generative AI permettono di industrializzare l’ingegneria sociale, creando identità sintetiche composite capaci di superare i controlli KYC (Know Your Customer), costruendo storie creditizie credibili e rimanendo operative per mesi prima di eseguire la frode. L’uso di deepfake per frodi di autorizzazione produce voci e video abbastanza plausibili da indurre le vittime a autorizzare transazioni o a fornire credenziali sensibili. Queste tattiche mirano a minare la fiducia, il punto cruciale in cui un sistema o un operatore umano decide che un’operazione è legittima.
Le tecnologie odierne non vengono principalmente sconfitte dai sistemi delle banche, ma attaccano direttamente il cliente, manipolandolo attraverso chiamate più convincenti, impersonificazioni realistiche e campagne di social engineering personalizzate che erodono lo scetticismo protettivo. Di conseguenza, l’attacco si presenta ai sistemi bancari con caratteri tecnici di legittimità, rendendo più difficile la rilevazione. Inoltre, l’uso dell’intelligenza artificiale potrebbe evolvere verso attacchi diretti contro le infrastrutture istituzionali, con i criminali che mappano i controlli e si mantengono deliberatamente al di fuori dei confini di rilevamento.
I team di prevenzione frodi nelle istituzioni finanziarie sono spesso organizzati attorno alla gestione degli incidenti: rilevare, rispondere e chiudere il caso. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, alla ricerca di spostamenti comportamentali che possano indicare test o sondaggio degli asset. È fondamentale avere personale in grado di analizzare i sistemi piuttosto che limitarsi a operarli, con competenze sui principi sottostanti come ragionamento statistico, pensiero adversariale, progettazione dei sistemi, analisi dei feedback e comprensione degli effetti composti nel tempo.
Non tutte le organizzazioni dispongono di queste competenze specialistiche. Sebbene l’assunzione di nuovo personale possa sembrare una soluzione, l’avanzamento e la diffusione degli strumenti di intelligenza artificiale rendono disponibili soluzioni avanzate che possono essere facilmente integrate nelle infrastrutture esistenti. La strada suggerita è quella di investire in fornitori esterni che rendano questi strumenti accessibili, spiegabili e capaci di combinare analisi statistica con capacità di reasoning.
Tuttavia, l’implementazione di nuove tecnologie deve essere progettata in modo da non alimentare ulteriori rischi. Ogni modello ha ipotesi incorporate che gli attori avversari tenteranno di sondare sistematicamente. Pertanto, i sistemi devono essere considerati come superfici di attacco fin dalla fase di progettazione e sottoposti a test interni prima della produzione. Le difese basate su intelligenza artificiale devono operare in millisecondi per individuare il rischio senza compromettere l’esperienza del cliente, valutando ogni transazione in tempo reale attraverso centinaia di segnali confrontati con pattern storici per identificare anomalie.
