Шу Ху/Юезан Лі/Сівей Лю, Університет Буффало
Завдяки новому інструменту штучного інтелекту, створеному комп’ютерними вченими з Університету Буффало, тепер ми можемо виявляти глибокі підробки в портретному стилі з точністю до 94%. Як інструмент це робить? Аналізуючи візерунки відбиття світла на кожній з рогівок сфотографованої людини, які мають виглядати однаково, а не відрізнятися.
Рогівка має дзеркальну поверхню, яка повинна мати подібну форму відображення через освітлення кімнати або зони, в якій вони знаходяться. На реальних фотографіях очі завжди будуть мати майже ідентичний малюнок відображення. Однак глибокі підроблені зображення, які створюються генеративними змагальними мережами (GAN), зазвичай не вміють точно синтезувати подібність і натомість генерують унікальні та суперечливі відображення на кожній рогівці, іноді навіть з невідповідними місцями.
Потім інструмент AI накреслює обличчя, сканує очі та аналізує відображення в кожному оці. Потім він генерує показник подібності, який визначає ймовірність того, що зображення є фактичним дипфейком. Чим нижчий бал, тим вище ймовірність того, що зображення є дипфейком. Інструмент виявився ефективним під час сканування глибоких фейків на веб -сайті This Person Does Not Exist, наповненому зображеннями фальшивих людей, які використовують архітектуру StyleGAN2.
Однак вчені, які створили інструмент, відзначили, що він має деякі обмеження, головне з яких полягає в тому, що він залежить від джерела відбитого світла, видимого в обох очах. Якщо хтось підморгує або блимає, це, швидше за все, не спрацює; також не буде, якщо об’єкт частково повернутий і не дивиться прямо в камеру, оскільки це виявилося успішним лише на портретних зображеннях. Крім того, кожен, хто достатньо володіє Photoshop, може відредагувати ці невідповідності, що, ймовірно, зробить інструмент AI марним.
Незважаючи на ці обмеження, інструмент все ще знаменує собою великий крок вперед для цього типу технологій. Найскладніші дипфейки він не знищить найближчим часом, але він зможе виявити простіші й закласти основу для потужнішої технології виявлення в майбутньому, яка буде відповідати нашим поточним можливостям виявлення аудіо та відео.
через The Next Web