В университете Мэриленда разработали плащ-невидимку.
Этот «плащ-невидимку» можно носить в реальной жизни и он сможет частично скрыть вас от систем машинного обучения, распознающих людей.
ИИ обучены распознавать объекты, а принт на свитере мешает это делать, используя AML-методы.
Разработанные для борьбы с устройствами обнаружения, эти носимые «универсальные свитеры» делают вас невидимыми в поле зрения алгоритмов, распознающих людей.
Группа исследователей из Мэрилендского университета в Колледж-Парке в сотрудничестве с Fb AI разработала «плащ-невидимку» в реальной жизни: свитер, который превращает вас в привидение для обычных моделей машинного обучения по обнаружению людей.
«В этой работе изучается искусство и наука создания состязательных атак на детекторы объектов», — объясняет свою работу команда. «Большинство работ по созданию атак противника в реальном мире было сосредоточено на классификаторах, которые присваивают целостную метку всему изображению, а не на детекторах, которые локализуют объекты внутри изображения. Детекторы работают, рассматривая тысячи «приор» (потенциальных границ) на изображении с различным расположением, размером и соотношением сторон. Чтобы обмануть детектор объектов, объект противника должен обмануть все приоры на изображении, что гораздо сложнее, чем обмануть единственный сигнал классификатора».
Сложно, конечно, но, как доказали исследователи, вполне возможно: в рамках более широкого исследования атак противника на системы обнаружения, команде удалось создать предмет одежды, который обладал необычным эффектом, делая своего владельца полностью невидимым для модели обнаружения человека.
«Этот стильный пуловер — отличный способ оставаться в тепле этой зимой, — пишет команда, — будь то в офисе или в дороге. Он имеет подкладку из микрофлиса, остающуюся сухой, современные узоры, позволяющие уклоняться от наиболее распространенных средств обнаружения объектов. В [нашей] демонстрации детектор YOLOv2 был обойден с помощью шаблона, обученного на наборе данных COCO с тщательно разработанной целью».
Изначально работа команды была сосредоточена на имитации атак: генерировании «враждебного паттерна», который можно было нанести на обнаруженные объекты на заданном изображении, чтобы помешать модели распознать их. Ключ был в создании «универсального враждебного паттерна»: один паттерн, который можно нанести на любой объект, чтобы скрыть его от модели. Если в моделировании легко поменять местами узоры, то в реальном мире это сделать сложнее — особенно если вы напечатали узор на свитере.
Хотя свитер команды является, пожалуй, самой впечатляющей демонстрацией атак, он не единственный: 10 патчей были напечатаны на плакатах и размещены в 15 местах, ухудшая работу детекторов, используемых на изображениях, где присутствовали плакаты. Проверив концепцию на «бумажных куклах», которых можно было наряжать в различные заплатки, команда затем придумала удобную одежду плащ-невидимку, обнаружив, что она «значительно ухудшает производительность детекторов» по сравнению с обычной одеждой.
Однако для тех, кто надеется стать по-настоящему невидимым, есть одна загвоздка: по сравнению с атаками на простые классификаторы, атаки детекторов оказались менее эффективными. В тесте с использованием носимых вещей, YOLOv2, нацеленные на противника толстовки, достигли примерно 50-процентного успеха.
#создали плащ-невидимку
