Silmillä on se: tutkijat voivat havaita syväväärennöksiä uudella tekoälytyökalulla

Shu Hu/Yuezan Li/Siwei Lyu, Buffalon yliopisto

Buffalon yliopiston tietotekniikan tutkijoiden luoman uuden tekoälytyökalun ansiosta voimme nyt havaita muotokuvatyylisiä syväväärennöksiä 94 %:n tarkkuudella. Miten työkalu tekee tämän? Analysoimalla kuvattavan henkilön jokaisessa sarveiskalvossa näkyviä valon heijastuskuvioita, joiden pitäisi näyttää samalta, ei erilaisilta.

Sarveiskalvoissa on peilimäinen pinta, jolla pitäisi olla samanlainen heijastusmuoto, joka johtuu huoneen tai alueen valaistuksesta, jossa ne ovat. Oikeissa kuvissa silmissä on aina lähes identtinen heijastuskuvio. Deepfake -kuvat – joita generatiiviset vastustajaverkostot (GAN) luovat – eivät kuitenkaan yleensä pysty syntetisoimaan täsmällisesti samankaltaisuutta, vaan luovat sen sijaan ainutlaatuisia ja epäjohdonmukaisia ​​heijastuksia jokaisesta sarveiskalvosta, joskus jopa yhteensopimattomilla paikoilla.

AI-työkalu kartoittaa sitten kasvot, skannaa silmät ja analysoi heijastuksen kummassakin silmässä. Sitten se luo samankaltaisuusmittarin pistemäärän, joka määrittää sen todennäköisyyden, että kuva on todellinen syväväärennös. Mitä pienempi pistemäärä, sitä suurempi on mahdollisuus, että kuva on syvä väärennös. Työkalu osoittautui tehokkaaksi skannattaessa syväväärennöksiä This Person Does Not Exist -sivustolla, joka on täynnä StyleGAN2-arkkitehtuuria käyttävien väärennettyjen ihmisten kuvia.

Työkalun luoneet tutkijat huomasivat kuitenkin, että sillä on joitain rajoituksia, joista tärkein on, että se luottaa siihen, että molemmissa silmissä näkyy heijastunut valonlähde. Jos joku räpäyttää tai räpäyttää, se ei todennäköisesti toimi; ei myöskään, jos kohde on osittain käännetty eikä katso suoraan kameraan, koska se on osoittautunut onnistuneeksi vain muotokuvissa. Lisäksi kuka tahansa tarpeeksi taitava Photoshopissa saattaa pystyä korjaamaan nämä epäjohdonmukaisuudet, mikä todennäköisesti tekisi tekoälytyökalusta hyödyttömän.

Näistä rajoituksista huolimatta työkalu on edelleen suuri askel eteenpäin tämän tyyppisessä tekniikassa. Se ei tuhoa kehittyneitä syväväärennöksiä lähiaikoina, mutta se voi havaita yksinkertaisempia ja luoda pohjan tehokkaammalle tunnistusteknologialle tulevaisuudessa, joka toimii rinnalla nykyisten kykyjemme havaita ääni- ja videodeepfake.

The Next Webin kautta