Il nuovo generatore di immagini di ChatGPT, basato sul modello 4o, ha migliorato la capacità di creare testi all’interno delle immagini, ma ha anche sollevato preoccupazioni sull’uso fraudolento di questa tecnologia, come la creazione di ricevute false.
Generazione di ricevute false con ChatGPT
Questo mese, ChatGPT ha introdotto il nuovo generatore di immagini come parte del modello 4o, che ha migliorato notevolmente la capacità di inserire testo in immagini. Le persone stanno già utilizzando questa funzionalità per generare ricevute false, in particolare per ristoranti. Il prolifico utente di social media e venture capitalist Deedy Das ha condiviso su X una foto di una ricevuta falsa di una steakhouse di San Francisco, creata con il modello 4o. Altri utenti sono riusciti a replicare risultati simili, alcuni aggiungendo dettagli come macchie di cibo o bevande per rendere le ricevute ancora più realistiche. Un esempio particolarmente convincente è stato condiviso su LinkedIn da un utente francese, che ha creato una ricevuta spiegazzata per una catena di ristoranti locali.
Le opportunità di frode e le risposte di OpenAI
TechCrunch ha testato il generatore di immagini di ChatGPT e ha generato una ricevuta falsa per un Applebee’s a San Francisco. Tuttavia, il tentativo mostrava segnali di falsità, come l’uso della virgola al posto del punto e errori nei calcoli, tipici degli LLM con la matematica di base. Nonostante questi errori, non sarebbe difficile per un truffatore correggere rapidamente i numeri con software di fotoritocco. La possibilità di generare facilmente ricevute false apre enormi opportunità per le frodi, come ottenere rimborsi per spese inesistenti. In risposta a queste preoccupazioni, Taya Christianson, portavoce di OpenAI, ha dichiarato che tutte le immagini generate contengono metadati che indicano l’origine come ChatGPT e che l’azienda prende provvedimenti quando gli utenti violano le sue politiche di utilizzo. Ha anche sottolineato che OpenAI mira a garantire la massima libertà creativa, riconoscendo che le ricevute false potrebbero avere usi educativi o creativi non fraudolenti.
Riflessioni finali sulla tecnologia e le sue implicazioni
Il nuovo generatore di immagini di ChatGPT ha certamente ampliato le possibilità creative, ma solleva anche importanti interrogativi riguardo all’uso improprio della tecnologia. Le sue capacità di generare ricevute false potrebbero essere sfruttate per scopi fraudolenti, ma OpenAI sta cercando di monitorare e regolare questi usi. Il dibattito tra libertà creativa e responsabilità continua a essere centrale nel mondo della tecnologia basata sull’intelligenza artificiale.
L’articolo ChatGPT 4o e il rischio di frodi proviene da Futuratech.
