Нейросеть научили менять снимки так, чтобы обманывать системы распознавания лиц

По словам создателей, программа работает эффективно в 99,5% случаев.
#Новости
3193
0
5 июня 2018
По словам создателей, программа работает эффективно в 99,5% случаев.

Команда ученых из Университета Торонто разработала инструмент Privacy Filter («Фильтр приватности»), цель которого — помешать системам распознавания лиц успешно выполнять свою задачу. Подробное описание проекта опубликовано на сайте университета.

В основе программы лежит комбинация сразу двух нейросетей, которые состязаются друг с другом: одну из них ученые обучили распознавать лица на фотографиях, вторую — менять снимки так, чтобы обмануть первую. В результате система научилась мешать идентификации людей на фото почти в 100% случаев.

Такого эффекта удалось добиться благодаря изменению отдельных пикселей исходного изображения. Базовый принцип работы подобных программ состоит в том, что алгоритмы находят ключевые точки лица, например уголки глаз или губ, и вычисляют их расстояние друг от друга. Данные об этом помогают создать уникальный «отпечаток» лица человека. Чтобы обмануть программу, достаточно внести в ключевые точки лишь небольшие изменения.

В начале тестирования Privacy Filter система распознавания лиц идентифицировала людей на фото в 100% случаев. Сейчас, когда программа доработана, этот показатель упал на 0,5%.

Рассказать друзьям

0
Комментировать

avatar
  Подписаться  
Уведомление о
by the way

С сайта удаляются комментарии, содержащие: мат и бранную лексику; разжигание межнациональной розни; призывы к экстремистским действиям; возбуждение ненависти, вражды, унижение человеческого достоинства; оскорбления участников дискуссии и героев статей; рекламу; персональные данные, включая телефоны и адреса; спам и флуд. Аккаунты пользователей, нарушающих правила комментирования, блокируются. Мнения авторовов может не совпадать с мнением Редакции.


Отлично!
Каждную неделю мы будем отправлять Вам самые важные новости, оюзоры и самые креативные кейсы.