ИССЛЕДОВАНИЕ ВОЗДЕЙСТВИЯ ADVERSARIAL АТАК НА МОДЕЛИ ОБНАРУЖЕНИЯ ОБЪЕКТОВ И ОЦЕНКА ИХ УСТОЙЧИВОСТИ - Саматов, Бобурмирзо Хамидуллаевич; Юнусов, Одилжон Позилович; Саидова, Нигора Комилджоновна (НАУКА и ОБЩЕСТВО, 2026)
В данном исследовании были изучены системы обнаружения объектов, основанные на сверточных нейронных сетях, в частности эффективность адверсариальных атак против модели YOLOv5. В качестве методов атаки были применены Fast Gradient Sign Method (FGSM) и его усовершенствованные варианты (Iterative FGSM и PGD). Адверсариальные возмущения, сгенерированные с использованием модели ResNet18, применялись для сравнения результатов обнаружения объектов на исходном изображении и на изображении, подвергшемся атаке. Результаты показали, что даже небольшое количество шума может существенно ввести в заблуждение модель обнаружения объектов. Адверсариальные атаки являются одной из основных уязвимостей моделей искусственного интеллекта, особенно систем распознавания изображений, основанных на глубоком обучении. Такие атаки, как FGSM и PGD, изменяют входные данные модели с помощью небольших возмущений, заставляя модель выполнять некорректную классификацию.
Keywords: FGSM; YOLOv5; PGD; Faster R-CNN; ResNet18; CNN