Ögonen har det: Forskare kan upptäcka Deepfakes med ett nytt AI-verktyg
Shu Hu/Yuezan Li/Siwei Lyu, University of Buffalo
Tack vare ett nytt AI-verktyg skapat av datavetare vid University of Buffalo kan vi nu upptäcka djupförfalskningar i porträttstil med 94 % noggrannhet. Hur gör verktyget detta? Genom att analysera mönstren av ljusreflektion som ses på var och en av den fotograferade personens hornhinnor, som ska se likadana ut, inte olika.
Hornhinnor har en spegelliknande yta som bör ha en liknande reflektionsform på sig orsakad av ljuset i rummet eller området de befinner sig i. På riktiga bilder kommer ögonen alltid att ha ett nästan identiskt reflektionsmönster. Men djupfalska bilder – som skapas av generativa motstridiga nätverk (GAN) – misslyckas vanligtvis med att korrekt syntetisera likheten och genererar istället unika och inkonsekventa reflektioner på varje hornhinna, ibland till och med med felaktiga platser.
AI-verktyget kartlägger sedan ansiktet, skannar ögonen och analyserar reflektionen i varje öga. Den genererar sedan en likhetsmetrisk poäng som bestämmer sannolikheten för att bilden är en verklig deepfake. Ju lägre poäng, desto större är chansen att en bild är en deepfake. Verktyget visade sig vara effektivt när man skannade deepfakes på This Person Does Not Exist, en webbplats fylld med bilder av falska personer som använder StyleGAN2-arkitekturen.
Forskarna som skapade verktyget noterade dock att det har vissa begränsningar, varav den primära är att det förlitar sig på att det finns en reflekterad ljuskälla synlig i båda ögonen. Om någon blinkar eller blinkar kommer det troligen inte att fungera; inte heller om motivet är delvis vänt och inte tittar direkt mot kameran, eftersom det bara har visat sig vara framgångsrikt på porträttbilder. Dessutom kan alla som är tillräckligt skickliga i Photoshop kunna redigera bort dessa inkonsekvenser, vilket sannolikt skulle göra AI-verktyget värdelöst.
Trots dessa begränsningar markerar verktyget fortfarande ett stort steg framåt för denna typ av teknik. Den kommer inte att slå sönder sofistikerade djupförfalskningar inom kort, men den kan upptäcka enklare sådana och lägga grunden för en kraftfullare detekteringsteknik i framtiden för att gå parallellt med våra nuvarande möjligheter att upptäcka djupförfalskning av ljud och video.
via The Next Web