Con la proliferazione di contenuti falsi e deepfake online, la necessità di strumenti per contrastare questi fenomeni è diventata urgente. Secondo i dati di Sumsub, i deepfake sono aumentati di quattro volte dal 2023 al 2024, arrivando a rappresentare il 7% di tutte le frodi globali, tra cui impersonificazioni, acquisizioni di account e campagne di ingegneria sociale sofisticate.
In risposta a questa crescente minaccia, Meta ha annunciato il lancio di Meta Video Seal, uno strumento open-source progettato per applicare filigrane impercettibili ai video generati dall’intelligenza artificiale. Questa tecnologia mira a migliorare la rilevabilità e la tracciabilità dei contenuti AI, proteggendo la loro autenticità.
Cos’è Meta-Video Seal?
Video Seal è un software innovativo pensato per integrarsi nelle piattaforme esistenti e fornire una soluzione efficace contro i deepfake. Si aggiunge agli altri strumenti di filigrana di Meta, come Watermark Anything e Audio Seal, e include:
- Filigrane invisibili e resistenti: Le filigrane applicate da Video Seal sono progettate per resistere a modifiche comuni come compressione, ritaglio e sfocatura.
- Messaggi nascosti: Oltre alla filigrana, è possibile incorporare nei video messaggi nascosti per identificarne successivamente l’origine.
- Open source: Disponibile pubblicamente per incoraggiare una più ampia adozione e integrazione da parte della comunità.
Un Passo Avanti rispetto alle Soluzioni Esistenti
Secondo Pierre Fernandez, ricercatore di intelligenza artificiale presso Meta, molte tecnologie attualmente disponibili, come SynthID di DeepMind o le soluzioni di Microsoft, presentano limiti significativi:
- Scarsa robustezza: Le filigrane tradizionali spesso non resistono alla compressione video, particolarmente comune sulle piattaforme social.
- Bassa scalabilità: Non sono ottimizzate per un uso su larga scala.
- Proprietà chiusa: Molti strumenti sono basati su tecnologie proprietarie, limitando la loro diffusione.
- Approcci non specifici per i video: Alcune soluzioni derivano dalla filigrana delle immagini, risultando meno efficaci per i contenuti video.
Video Seal punta a risolvere queste lacune, offrendo una tecnologia più robusta e versatile.
Le Sfide da Affrontare
Nonostante i progressi, Video Seal non è esente da limitazioni:
- Compromessi tecnici: C’è un delicato equilibrio tra la percettibilità della filigrana e la sua resistenza alle manipolazioni. Compressioni e modifiche estreme possono comprometterne l’efficacia.
- Adozione da parte del settore: Uno degli ostacoli principali è la mancanza di incentivi per gli sviluppatori e le aziende che utilizzano già soluzioni proprietarie.
Per favorire una maggiore adozione, Meta ha lanciato la Meta Omni Seal Bench, una classifica pubblica per confrontare le prestazioni dei metodi di watermarking, e ha organizzato un workshop dedicato al tema durante l’ICLR 2024, una delle principali conferenze sull’intelligenza artificiale.
Un Appello alla Collaborazione
“Ci auguriamo che sempre più ricercatori e sviluppatori integrino una forma di filigrana nei loro lavori”, ha dichiarato Fernandez. “Vogliamo collaborare con l’industria e la comunità accademica per progredire più rapidamente nel campo.”
Con strumenti come Video Seal, Meta dimostra il proprio impegno nella lotta contro i contenuti falsi e nell’adozione di soluzioni open-source per promuovere una maggiore trasparenza e sicurezza nell’ecosistema digitale.
L’articolo Meta Lancia Video Seal: Nuovo Strumento per la Filigrana nei Video AI proviene da Futuratech.
