ИССЛЕДОВАНИЕ ВОЗДЕЙСТВИЯ ADVERSARIAL АТАК НА МОДЕЛИ ОБНАРУЖЕНИЯ ОБЪЕКТОВ И ОЦЕНКА ИХ УСТОЙЧИВОСТИ

Авторы

  • Саматов Бобурмирзо Хамидуллаевич

    Andijan State University image/svg+xml

  • Юнусов Одилжон Позилович

    Andijan State University image/svg+xml

  • Саидова Нигора Комилджоновна

    Andijan State University image/svg+xml

Ключевые слова: FGSM, YOLOv5, PGD, Faster R-CNN, ResNet18, CNN

Аннотация

В данном исследовании были изучены системы обнаружения объектов, основанные на сверточных нейронных сетях, в частности эффективность адверсариальных атак против модели YOLOv5. В качестве методов атаки были применены Fast Gradient Sign Method (FGSM) и его усовершенствованные варианты (Iterative FGSM и PGD). Адверсариальные возмущения, сгенерированные с использованием модели ResNet18, применялись для сравнения результатов обнаружения объектов на исходном изображении и на изображении, подвергшемся атаке. Результаты показали, что даже небольшое количество шума может существенно ввести в заблуждение модель обнаружения объектов. Адверсариальные атаки являются одной из основных уязвимостей моделей искусственного интеллекта, особенно систем распознавания изображений, основанных на глубоком обучении. Такие атаки, как FGSM и PGD, изменяют входные данные модели с помощью небольших возмущений, заставляя модель выполнять некорректную классификацию.

Библиографические ссылки

1. Goodfellow I., Shlens J., Szegedy C. Explaining and harnessing adversarial examples. // arXiv preprint arXiv:1412.6572. 2014. https://arxiv.org/abs/1412.6572

2. Szegedy C., Zaremba, W., Sutskever, I., Bruna, J., Erhan, D., Goodfellow, I., & Fergus, R. Intriguing properties of neural networks. // arXiv preprint arXiv:1312.6199. 2013. https://arxiv.org/abs/1312.6199

3. Kurakin A., Goodfellow I., Bengio, S. Adversarial machine learning at scale. // arXiv preprint arXiv:1611.01236. 2016. https://arxiv.org/abs/1611.01236

4. Madry A., Makelov A., Schmidt L., Tsipras D., Vladu A. Towards deep learning models resistant to adversarial attacks. Proceedings of the 6th International Conference on Learning Representations (ICLR). 2018.

5. Papernot N., McDaniel P., Goodfellow I., Jha S., Celik Z.B., Swami A. Practical black-box attacks against deep learning systems using adversarial examples. // IEEE Symposium on Security and Privacy (SP), 2017. – P. 1-18.