Los ojos lo tienen: los científicos pueden detectar deepfakes con una nueva herramienta de IA
Shu Hu/Yuezan Li/Siwei Lyu, Universidad de Buffalo
Gracias a una nueva herramienta de IA creada por informáticos de la Universidad de Buffalo, ahora podemos detectar falsificaciones profundas de estilo retrato con un 94 % de precisión. ¿Cómo hace esto la herramienta? Al analizar los patrones de reflexión de la luz que se ven en cada una de las córneas de la persona fotografiada, que deben verse iguales, no diferentes.
Las córneas tienen una superficie similar a un espejo que debe tener una forma de reflejo similar causada por la iluminación de la habitación o el área en la que se encuentran. En las fotos reales, los ojos siempre tendrán un patrón de reflejo casi idéntico. Sin embargo, las imágenes falsas profundas, que son creadas por redes adversarias generativas (GAN), generalmente no logran sintetizar con precisión la semejanza y, en cambio, generan reflejos únicos e inconsistentes en cada córnea, a veces incluso con ubicaciones que no coinciden.
La herramienta de IA, entonces, mapea la cara, escanea los ojos y analiza el reflejo en cada ojo. Luego genera una puntuación métrica de similitud que determina la probabilidad de que la imagen sea una falsificación profunda real. Cuanto menor sea el puntaje, mayor será la posibilidad de que una imagen sea una falsificación profunda. La herramienta demostró ser eficaz al escanear deepfakes en This Person Does Not Exist, un sitio web lleno de imágenes de personas falsas que utilizan la arquitectura StyleGAN2.
Sin embargo, los científicos que crearon la herramienta notaron que tiene algunas limitaciones, la principal de las cuales es que depende de que haya una fuente de luz reflejada visible en ambos ojos. Si alguien está guiñando o parpadeando, es probable que no funcione; tampoco lo hará si el sujeto está parcialmente girado y no mira directamente a la cámara, ya que solo ha tenido éxito en imágenes de retrato. Además, cualquiera que sea lo suficientemente competente en Photoshop puede editar estas inconsistencias, lo que probablemente inutilizaría la herramienta de IA.
A pesar de estas limitaciones, la herramienta todavía marca un gran paso adelante para este tipo de tecnología. No desmantelará las falsificaciones profundas sofisticadas en el corto plazo, pero puede detectar las más simples y sentar las bases para una tecnología de detección más potente en el futuro, junto con nuestras capacidades actuales para detectar falsificaciones profundas de audio y video.
a través de la próxima web