МЕТОД ВИЯВЛЕННЯ АНОМАЛЬНИХ ЛОКАЛЬНИХ ОНОВЛЕНЬ ТА ІЗОЛЯЦІЇ ЗЛОВМИСНИХ УЧАСНИКІВ У СИСТЕМАХ ФЕДЕРАТИВНОГО НАВЧАННЯ
DOI:
https://doi.org/10.18372/2310-5461.70.21194Ключові слова:
виявлення аномалій, машинне навчання, глибоке навчання, штучний інтелект, кібербезпека, інформаційна безпека, кібератаки, кіберзагрози, критична інфраструктура, захист даних, нейронна мережа, розподілене навчання, edge computing, fog computingАнотація
У роботі запропоновано метод виявлення аномальних локальних оновлень та ізоляції зловмисних учасників у системах федеративного навчання. Метод орієнтований на підвищення стійкості розподілених моделей машинного навчання до атак типу model poisoning та передачі викривлених локальних оновлень. Запропонований підхід поєднує два рівні захисту: оцінювання аномальності локальних оновлень на основі їх відхилення від колективного шаблону оновлень та ізоляцію учасників, які повторно демонструють підозрілу поведінку. Для оцінювання локальних оновлень використовується показник аномальності, а для контролю довготривалої поведінки учасників — накопичувальний лічильник аномалій. У роботі наведено формалізацію запропонованого методу, описано механізм адаптивного визначення порогу аномальності та процедуру формування множини довірених учасників для подальшої агрегації глобальної моделі. Для демонстрації логіки роботи підходу наведено ілюстративний числовий приклад, який показує можливість виявлення аномального локального оновлення та зменшення його впливу на глобальну модель. Проведено порівняльний аналіз запропонованого підходу з існуючими методами агрегації та виявлення зловмисних учасників у системах федеративного навчання. Показано, що запропонований метод, на відміну від традиційних схем агрегації, забезпечує не лише фільтрацію підозрілих оновлень, а й контроль повторюваної аномальної поведінки учасників. Запропонований підхід може бути використаний у системах федеративного навчання для edge та fog середовищ, а також в інформаційних системах об’єктів критичної інфраструктури.
Посилання
McMahan B., Moore E., Ramage D., Hampson S., Arcas B. y. A. Communication-Efficient Learning of Deep Networks from Decentralized Data // Proceedings of the 20th International Conference on Artificial Intelligence and Statistics (AISTATS). 2017. P. 1273–1282. URL: https://proceedings.mlr.press/v54/mcmahan17a.html
Kairouz P. et al. Advances and Open Problems in Federated Learning // Foundations and Trends in Machine Learning. 2021. Vol. 14, No. 1–2. P. 1–210. DOI: 10.1561/2200000083.
Li T., Sahu A. K., Talwalkar A., Smith V. Federated Learning: Challenges, Methods, and Future Directions // IEEE Signal Processing Magazine. 2020. Vol. 37, No. 3. P. 50–60. DOI: 10.1109/MSP.2020.2975749.
Mothukuri V., Parizi R. M., Pouriyeh S., Huang Y., Dehghantanha A., Srivastava G. A Survey on Security and Privacy of Federated Learning // Future Generation Computer Systems. 2021. Vol. 115. P. 619–640. DOI: 10.1016/j.future.2020.10.007.
Cui L., Suh S. C., Tan Y. et al. A Survey on Federated Learning for Cyber Security // IEEE Communications Surveys & Tutorials. 2024. Vol. 26, No. 1. P. 565–596. DOI: 10.1109/COMST.2023.3326741.
Blanchard P., El Mhamdi E. M., Guerraoui R., Stainer J. Machine Learning with Adversaries: Byzantine Tolerant Gradient Descent // Advances in Neural Information Processing Systems (NeurIPS). 2017. Vol. 30. URL: https://proceedings.neurips.cc/paper/2017/hash/f4b9ec30ad9f68f89b29639786cb62ef-Abstract.html
Yin D., Chen Y., Kannan R., Bartlett P. Byzantine-Robust Distributed Learning: Towards Optimal Statistical Rates // Proceedings of the 35th International Conference on Machine Learning (ICML). 2018. P. 5650–5659. URL: https://proceedings.mlr.press/v80/yin18a.html
El Mhamdi E. M., Guerraoui R., Rouault S. The Hidden Vulnerability of Distributed Learning in Byzantium // Proceedings of the 35th International Conference on Machine Learning (ICML). 2018. P. 3521–3530. URL: https://proceedings.mlr.press/v80/mhamdi18a.html
Fang M., Cao X., Jia J., Gong N. Local Model Poisoning Attacks to Byzantine-Robust Federated Learning // Proceedings of the 29th USENIX Security Symposium. 2020. P. 1605–1622. URL: https://www.usenix.org/conference/usenixsecurity20/presentation/fang
Zhang X., Hong M., Dhople S., Yin W., Liu Y. FedPD: A Federated Learning Framework with Adaptivity to Non-IID Data // IEEE Transactions on Signal Processing. 2021. Vol. 69. P. 6055–6070. DOI: 10.1109/TSP.2021.3115952.
Kudrenko S., Nimych O., Makieiev I. Method for Predicting Node Compromise in Edge and Fog Environments for Critical Infrastructure // Information Protection. 2025. Vol. 27, No. 2. P. 87–95. DOI: 10.18372/2410-7840.27.21183.
Kozlovsky V., Pavlov V., Kozlovska D., Kudrenko S. Development of Chain Models of Irregular Antiradiolocation Coatings // Information Protection. 2025. Vol. 27, No. 2. DOI: 10.18372/2410-7840.27.21176.
Yang Q., Liu Y., Chen T., Tong Y. Federated Machine Learning: Concept and Applications // ACM Transactions on Intelligent Systems and Technology. 2019. Vol. 10, No. 2. P. 1–19. DOI: 10.1145/3298981.
##submission.downloads##
Опубліковано
Як цитувати
Номер
Розділ
Ліцензія
Авторське право (c) 2026 S Kudrenko
Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.
Науковий журнал дотримується принципів відкритого доступу (Open Access) та забезпечує вільний, негайний і постійний доступ до всіх опублікованих матеріалів без фінансових, технічних або юридичних обмежень для читачів.
Усі статті публікуються у відкритому доступі відповідно до ліцензії Creative Commons Attribution 4.0 International (CC BY 4.0).
Авторські права
Автори, які публікують свої роботи в журналі:
-
зберігають за собою авторські права на свої публікації;
-
надають журналу право на перше опублікування статті;
-
погоджуються на поширення матеріалів за ліцензією CC BY 4.0;
-
мають право повторно використовувати, архівувати та поширювати свої роботи (у тому числі в інституційних та тематичних репозитаріях) за умови посилання на первинну публікацію в журналі.
