Gli occhi ce l’hanno: gli scienziati possono individuare i deepfake con un nuovo strumento di intelligenza artificiale
Shu Hu/Yuezan Li/Siwei Lyu, Università di Buffalo
Grazie a un nuovo strumento di intelligenza artificiale creato da scienziati informatici dell’Università di Buffalo, ora possiamo individuare i deepfake in stile ritratto con una precisione del 94%. In che modo lo strumento fa questo? Analizzando i modelli di riflessione della luce visti su ciascuna delle cornee della persona fotografata, che dovrebbero apparire uguali, non diverse.
Le cornee hanno una superficie simile a uno specchio che dovrebbe avere una forma di riflessione simile su di esse causata dall’illuminazione della stanza o dell’area in cui si trovano. Nelle foto reali, gli occhi avranno sempre un modello di riflessione quasi identico. Tuttavia, le immagini deepfake, create da reti generative contraddittorio (GAN), di solito non riescono a sintetizzare accuratamente la somiglianza e generano invece riflessi unici e incoerenti su ciascuna cornea, a volte anche con posizioni non corrispondenti.
Lo strumento AI, quindi, mappa il viso, scansiona gli occhi e analizza il riflesso in ciascun occhio. Quindi genera un punteggio metrico di somiglianza che determina la probabilità che l’immagine sia un vero deepfake. Più basso è il punteggio, maggiore è la possibilità che un’immagine sia un deepfake. Lo strumento si è rivelato efficace durante la scansione di deepfake su This Person Does Not Exist, un sito Web pieno di immagini di persone false che utilizzano l’architettura StyleGAN2.
Tuttavia, gli scienziati che hanno creato lo strumento hanno notato che presenta alcune limitazioni, la principale delle quali è che si basa sulla presenza di una sorgente di luce riflessa visibile in entrambi gli occhi. Se qualcuno ammicca o sbatte le palpebre, probabilmente non funzionerà; né lo sarà se il soggetto è parzialmente girato e non guarda direttamente la fotocamera, poiché si è dimostrato efficace solo sulle immagini dei ritratti. Inoltre, chiunque sia sufficientemente esperto in Photoshop potrebbe essere in grado di eliminare queste incongruenze, il che renderebbe probabilmente inutile lo strumento AI.
Nonostante queste limitazioni, lo strumento segna ancora un grande passo avanti per questo tipo di tecnologia. Non eliminerà presto i deepfake sofisticati, ma può individuare quelli più semplici e gettare le basi per una tecnologia di rilevamento più potente in futuro da affiancare alle nostre attuali capacità di rilevare deepfake audio e video .
tramite Il prossimo Web