Die Augen haben es: Wissenschaftler können Deepfakes mit einem neuen KI-Tool erkennen
Shu Hu/Yuezan Li/Siwei Lyu, University of Buffalo
Dank eines neuen KI-Tools, das von Informatikern der University of Buffalo entwickelt wurde, können wir Deepfakes im Hochformat jetzt mit einer Genauigkeit von 94 % erkennen. Wie macht das Tool das? Durch die Analyse der Muster der Lichtreflexion, die auf jeder Hornhaut der fotografierten Person zu sehen sind, die gleich und nicht unterschiedlich aussehen sollte.
Hornhäute haben eine spiegelähnliche Oberfläche, die eine ähnliche Reflexionsform haben sollte, die durch die Beleuchtung des Raums oder Bereichs, in dem sie sich befinden, verursacht wird. Auf echten Fotos haben die Augen immer ein nahezu identisches Reflexionsmuster. Deepfake -Bilder, die von Generative Adversarial Networks ( GANs) erstellt werden, können die Ähnlichkeit jedoch normalerweise nicht genau synthetisieren und erzeugen stattdessen einzigartige und inkonsistente Reflexionen auf jeder Hornhaut, manchmal sogar mit nicht übereinstimmenden Stellen.
Das KI-Tool kartiert dann das Gesicht, scannt die Augen und analysiert die Reflexion in jedem Auge. Es generiert dann einen Ähnlichkeitsmetrikwert, der die Wahrscheinlichkeit bestimmt, dass das Bild tatsächlich ein Deepfake ist. Je niedriger die Punktzahl, desto höher ist die Wahrscheinlichkeit, dass es sich bei einem Bild um einen Deepfake handelt. Das Tool erwies sich als effektiv beim Scannen von Deepfakes auf This Person Does Not Exist, einer Website voller Bilder von gefälschten Personen, die die StyleGAN2-Architektur verwenden.
Die Wissenschaftler, die das Tool entwickelt haben, stellten jedoch fest, dass es einige Einschränkungen hat, von denen die wichtigste darin besteht, dass es darauf angewiesen ist, dass in beiden Augen eine reflektierte Lichtquelle sichtbar ist. Wenn jemand zwinkert oder blinzelt, wird es wahrscheinlich nicht funktionieren; auch nicht, wenn das Motiv teilweise gedreht ist und nicht direkt in die Kamera schaut, da es sich nur bei Porträtbildern bewährt hat. Darüber hinaus kann jeder, der sich mit Photoshop auskennt, diese Inkonsistenzen beseitigen, was das KI-Tool wahrscheinlich unbrauchbar machen würde.
Trotz dieser Einschränkungen markiert das Tool für diese Art von Technologie immer noch einen großen Schritt nach vorne. Es wird in absehbarer Zeit keine ausgeklügelten Deepfakes sprengen, aber es kann einfachere erkennen und den Grundstein für eine leistungsfähigere Erkennungstechnologie in der Zukunft legen, die unsere derzeitigen Fähigkeiten zur Erkennung von Audio- und Video- Deepfakes ergänzt.
über das nächste Web