AI-NIDS Robustness Lab
Исследование того, как легко обмануть нейросетевые детекторы вторжений, когда атакующий немного меняет свой трафик, с интерактивной панелью на Streamlit.
ai-nids-robustness.streamlit.app
ЧТО ДЕЛАЕТ
Нейросеть может обнаруживать сетевые вторжения с точностью 99,9%. Но что будет, если атакующий немного изменит собственный трафик? Именно это измеряет исследование.
Модели MLP и 1D-CNN обучены на двух датасетах — старом KDD Cup 1999 и более новом UNSW-NB15 — и атакованы методами FGSM и PGD в двух моделях угроз. В качестве защиты проверяется состязательное обучение, измеряется перенос атак на градиентный бустинг, а решения объясняются методом Integrated Gradients.
Главное: детекторы, которые выглядят устойчивыми на KDD, ломаются на UNSW-NB15, и стандартная защита там проваливается.
Приложение на Streamlit засыпает без посетителей, поэтому первая загрузка может занять несколько секунд.
3.7×
Атаки в UNSW-NB15 в 3,7 раза ближе к обычному трафику, поэтому детекторы там ломаются.
ОСНОВНОЕ
- Стандартное состязательное обучение снижает долю обнаружения у CNN на чистых данных до 0.025 на UNSW-NB15.
- Смешанное обучение избегает обвала, но его устойчивость завышена.
- Деревья решений лучше держатся против перенесённых атак.