Si chiama Hany Farid e è considerato uno dei maggiori esperti di video falsi (deepfake) del mondo. Questo esperto forense digitale è in grado di smascherare, ad esempio, video manipolati da governi o entità malintenzionate. Tuttavia, ha adottato una decisione drastica: abbandonare Silicon Valley, per un motivo molto semplice: non è più in grado di distinguere i contenuti reali da quelli generati da intelligenza artificiale.
Dal momento che i metodi tradizionali di identificazione non sono più validi a causa degli avanzamenti nell'AI, i deepfake indistinguibili sono reali e sono la norma. Da ben vent'anni Farid, 60 anni, si è specializzato nel svelare il falso da tecnologie che, con l'appoggio di intelligenze artificiali generative, hanno reso l'identificazione impossibile. Le sue conclusioni rafforzano un'insicurezza cresciuta sempre di più: con la capacità di IA di produrre contenuti così verosimili, non confiamo nemmeno più delle foto reali.
La reputazione di Farid è prestigiosa. Suo padre ha lavorato presso l'Eastman Kodak per mezzo secolo, e lui ha trascorso la sua infanzia osservando il nascere delle fotografie in stanze oscure. In seguito, diseñó un sistema per rilevare la pornografia infantile online, contribuendo a denunciare 30 milioni di casi di abusi potenzialmente gravi all’anno. Grazie alla sua tecnologia sono emersi centinaia di arresti e diversi interventi per prevenire l’abuso.
Farid, perduto di fronte ai deepfake perfetti generati da IA, ha scelto di ritirarsi, rifugiandosi su una fattoria in Vermont. La sua rinuncia sottolinea il problema: non possiamo più considerare attendibile ciò che osserviamo in rete. Ora dedica il suo tempo a lavori con il legno e ha smesso di usare la tecnologia. Questa situazione rappresenta una crisi di fiducia inimmaginabile.
L'attacco in Iran ha costituito un'epoca decisiva per Farid e per la ricerca digitale forense. Il video mostra un presunto colpo di una missilina in una scuola iraniana, che non ha potuto essere confermato o smentito dopo ore di analisi frame per frame, testando geometria degli ombri, la fisica del suono dell’esplosione, e lunghezze in pixel del missile. Nessun esperto ha potuto emettere un verdetto sull’autenticità del video.
Verificare questi contenuti è diventato estremamente difficile. Produrre video falsi con voci clonate sincronizzate perfettamente è facile, rapido ed economico, ma analizzarli richiede ore. Mentre un video fake può guadagnare popolarità estrema in pochi minuti, i metodi di identificazione non riescono mai a stare al passo con la velocità di diffusione.
Farid ha vissuto in prima persona questa minaccia: ha subito un attacco informatico con l’uso di IA per clonare la sua voce, falsificando chiaramente la sua identità per ottenere informazioni riservate. Per evitare ulteriori frodi, lui e sua moglie sono stati costretti a creare una password segreta da utilizzare all'inizio di ogni chiamata familiare. Situazioni come questa generano una forma di paranoia che si espande rapidamente.
“Sto perdendo la vista,” sottolinea Farid nel pezzo del New York Times. I suoi studi dimostrano che la maggior parte delle persone non riesce a discernere tra foto autentiche e quelle digitalmente generate. Secondo lui, l’uso della tecnologia IA sta oscurando il campo della verità e sta suscitando distorsioni nella realtà di conseguenza.
Una soluzione potenziale a questa crisi sono le acquaforti digitali invisibili, integrate nei metadati dei file. Queste tecnologie permetterebbero di tracciare e identificare facilmente contenuti video o immagini prodotti da AI.
Iniziativa C2PA e SynthID sono due tra le iniziative emergenti in questo settore. La C2PA, ad esempio, vede coinvolti nomi come Google ed OpenAI, e propone di integrare firme digitali nei contenuti IA, come un'identificazione automatica che chiarisce come sono stati generati. SynthID, invece, di Google, mira a etichettare chiaramente i contenuti sospetti con la creata in AI.
Come in altri ambiti, il problema non è risolvibile con tecniche semplici. La tecnologia continua a superare la nostra capacità di comprenderla e monitorarla. Le acque sono troppo torbide per poter distinguere facilmente il vero dal falso.
Fin dai tempi del laboratorio fotografico di suo padre, Farid ha costruito una carriera in nome dell’analisi e della verità. Oggi, però, il futuro sembra oscurato da strumenti potenti che non possiamo controllare.