В университете Мэриленда создали плащ-невидимку

188
Атака работает путем размещения узорчатых
Атака работает путем размещения узорчатых "заплаток" над объектами, которые нужно игнорировать

В университете Мэриленда разработали плащ-невидимку.

Этот «плащ-невидимку» можно носить в реальной жизни и он сможет частично скрыть вас от систем машинного обучения, распознающих людей.

ИИ обучены распознавать объекты, а принт на свитере мешает это делать, используя AML-методы.

Разработанные для борьбы с устройствами обнаружения, эти носимые «универсальные свитеры» делают вас невидимыми в поле зрения алгоритмов, распознающих людей.

Группа исследователей из Мэрилендского университета в Колледж-Парке в сотрудничестве с Fb AI разработала «плащ-невидимку» в реальной жизни: свитер, который превращает вас в привидение для обычных моделей машинного обучения по обнаружению людей.

«В этой работе изучается искусство и наука создания состязательных атак на детекторы объектов», — объясняет свою работу команда. «Большинство работ по созданию атак противника в реальном мире было сосредоточено на классификаторах, которые присваивают целостную метку всему изображению, а не на детекторах, которые локализуют объекты внутри изображения. Детекторы работают, рассматривая тысячи «приор» (потенциальных границ) на изображении с различным расположением, размером и соотношением сторон. Чтобы обмануть детектор объектов, объект противника должен обмануть все приоры на изображении, что гораздо сложнее, чем обмануть единственный сигнал классификатора».

Сложно, конечно, но, как доказали исследователи, вполне возможно: в рамках более широкого исследования атак противника на системы обнаружения, команде удалось создать предмет одежды, который обладал необычным эффектом, делая своего владельца полностью невидимым для модели обнаружения человека.

«Этот стильный пуловер — отличный способ оставаться в тепле этой зимой, — пишет команда, — будь то в офисе или в дороге. Он имеет подкладку из микрофлиса, остающуюся сухой, современные узоры, позволяющие уклоняться от наиболее распространенных средств обнаружения объектов. В [нашей] демонстрации детектор YOLOv2 был обойден с помощью шаблона, обученного на наборе данных COCO с тщательно разработанной целью».

Изначально работа команды была сосредоточена на имитации атак: генерировании «враждебного паттерна», который можно было нанести на обнаруженные объекты на заданном изображении, чтобы помешать модели распознать их. Ключ был в создании «универсального враждебного паттерна»: один паттерн, который можно нанести на любой объект, чтобы скрыть его от модели. Если в моделировании легко поменять местами узоры, то в реальном мире это сделать сложнее — особенно если вы напечатали узор на свитере.

Атака работает путем размещения узорчатых "заплаток" над объектами, которые нужно игнорировать
Атака работает путем размещения узорчатых «заплаток» над объектами, которые нужно игнорировать

Тестер одет в плащ-невидимку на фоне других студентов

Студенты одеты в плащ-невидимку на фоне тестера в футболке

Хотя свитер команды является, пожалуй, самой впечатляющей демонстрацией атак, он не единственный: 10 патчей были напечатаны на плакатах и размещены в 15 местах, ухудшая работу детекторов, используемых на изображениях, где присутствовали плакаты. Проверив концепцию на «бумажных куклах», которых можно было наряжать в различные заплатки, команда затем придумала удобную одежду плащ-невидимку, обнаружив, что она «значительно ухудшает производительность детекторов» по сравнению с обычной одеждой.

Однако для тех, кто надеется стать по-настоящему невидимым, есть одна загвоздка: по сравнению с атаками на простые классификаторы, атаки детекторов оказались менее эффективными. В тесте с использованием носимых вещей, YOLOv2, нацеленные на противника толстовки, достигли примерно 50-процентного успеха.

#создали плащ-невидимку