ИИ можно выявить настоящие лица людей с помощью генераторов фальшивых лиц


Многие лица, созданные сетью GAN, имеют поразительное сходство с реальными людьми и могут разоблачить их личности.

Специалисты из Университета Кан-Нормандии во Франции поставили под сомнение популярную идею о том, что модели глубокого обучения никогда не раскрывают информацию о своих внутренних механизмах работы. На сайте This Person Does Not Exist пользователям демонстрируется человеческое лицо, сгенерированное искусственным интеллектом. Бесконечная последовательность созданных ИИ лиц создается генеративно-состязательной сетью (Generative adversarial network, GAN) на основе реальных данных.

Но такие сгенерированные лица, используемые в фильмах и рекламе с компьютерной графикой, могут быть не такими уникальными, как кажутся. По словам экспертов, многие лица, созданные GAN, имеют поразительное сходство с реальными людьми и могут разоблачить их личности.

Для раскрытия подобных данных эксперты провели так называемую membership-атаку. Например, модель ИИ может точно идентифицировать ранее невидимое изображение. Атакующая модель может научиться обнаруживать такие элементы в поведении первой модели и использовать их для прогнозирования того, находятся ли определенные данные, такие как фотографии, в обучающем наборе или нет.

Читайте также:  Антон Долин обвинил Константина Эрнста в нападках на журнал «Искусство кино»

Подобные атаки могут привести к серьезным утечкам данных. Например, для выяснения, использовались ли чьи-то медицинские данные для обучения модели ИИ, связанной с определенным заболеванием.

Затем команда экспертов вместо определения точных фотографий, используемых для обучения GAN, определила фотографии в обучающем наборе ИИ, которые изображали одного и того же человека. Для этого исследователи сначала сгенерировали лица с помощью GAN, а затем использовали отдельный ИИ для распознавания лиц, сравнивая идентичность сгенерированных лиц с идентичностью любого из лиц, замеченных в данных обучения. Во многих случаях команда находила несколько фотографий реальных людей в данных обучения, которые соответствовали поддельным лицам.

Другая команда ученых обнаружила способ воссоздать входное изображение из внутренних данных модели. Они протестировали эту технику на множестве распространенных моделей распознавания изображений и GAN. В одном из тестов они показали, что могут точно воссоздавать изображения из ImageNet — одного из самых известных наборов данных для распознавания изображений.

 


 Курсы валют
Курс ЦБ
$  75.59
 84.95
 Новости партнеров
Loading...
Свежие записи
В Нидерландах неизвестные подожгли начальную школу в ходе протестов
В Кремле оценили подаренную Эрдогану карту тюркского мира с частью России
Группа Зла: почему в списке ФБР по киберпреступности так много русских фамилий
В Воронеже водитель без маски вытолкнул из автобуса пассажирку без маски
«Могут убить»: россиян предупредили об опасности кроверазжижающих препаратов
Новости дня России и мира 2021 · © ·Все права защищены Наверх