Системы распознавания лиц на основе нейронных сетей имеют ряд уязвимостей. Так, например, состязательная патч-атака подразумевает создание специального изображения, нарушающего логику работы распознавателей человека. Если разместить такое изображение на элементе одежды, вы станете невидимым для многих нерестовых детекторов.

Проект подразумевает исследование природы такого рода уязвимостей и выработки стратегии по борьбе с ними.

Описание стартап-проекта

PatchZero - устройство, обеспечивающие защиту от патчинга путем выявления и уничтожения угрозы(патча).

Патч (заплата) — это специальная программа, которая вносит изменения в основную программу, например, исправляет допущенные ошибки или вносит дополнительные функции.

Патчинг - основной способ взлома программного обеспечения. Для того чтобы с его помощью убить в целевой программе ту или иную функцию достаточно найти некоторый код, отвечающий за эту функцию, и модифицировать его одним из возможных методов.

Наша разработка PatchZero, установленная на Ваш ПК, будет являться главным инструментом защиты от кибератак на конфиденциальность данных в белом ящике (“white box”) без перезагрузки нижестоящего классификатора или детектора. Существует 2 типа устройства системы администрирования ПО.

Первый тип Blackbox. В этом случае нет информации как устроена система, пользователь не знает, что у неё внутри и как она работает. Она эксплуатируется в штатных условиях: пользователь просто знает, как ей пользоваться и чего ожидать.

Второй тип White Box. «Ящик прозрачный» и мы имеем возможность посмотреть, как система устроена. При таком раскладе инструкция вторична, она позволяет понять, как предполагается использовать систему и как она устроена, но не ограничивает нас этим. Есть понимание как устроена система и, как следствие, как она поведёт себя в разных условиях, в том числе и в не описанных в документации.

Именно при втором типе администрирования будет применяться наша технология.

Наша система защиты обнаруживает противников на уровне пикселей и «обнуляет» область патча, усредняя значения пикселей.

Проблематика:

Патч-атаки(Патчинг) одна из ключевых киберугроз в наши дни. Патч-атаки вводят пиксели в определенные локальные регионы системы информации. Атаки очень разнообразны, применяются маски Adversarial Patch, LaVAN, Маска Карлини-Вагнера, Маскированная PGD, DPatch, Robust Атаки, Dpatch и замаскированного автоPGD. Патч-атаки физически осуществимы, поскольку они могут быть напечатаны и помещены в систему

Методы решения проблемы:

Для осуществления качественной безопасности систем администрирования было предложено много методов защиты патчей. Большинство защит сосредоточенных на классификации изображений, обнаружении объектов и классификации видео, недостаточно изучены.

Более того, большинство защит не могут быть

легко адаптированы к другим задачам и очень немногие из них имеют возможность адаптироваться к атаке. Некоторые также требуют предварительных знаний, таких как размер враждебного патча, чтобы быть эффективными. В этом исследовании мы фокусируемся на враждебных атаках патчей под настройкой белого ящика, поскольку они сильнее, чем аналоги черного ящика. Мы разработали общий конвейер защиты, который может быть легко применен к различным задачам классификации и обнаружения в условиях адаптирующихся угроз и не требует каких-либо предыдущих преимуществ перед патч-атаки.

Решение проблемы с помощью нашей технологии:

PatchZero принимает враждебное изображение как вставленное и выводит обработанное изображение с эффективно удаленными враждебными пикселями. Наш подход может быть применен к задачам классификации изображений, объектного обнаружения и классификации видео без какой-либо перепрошивки или модификации нижестоящих классификаторов или детекторов

На страницу проекта