Методологія багатоагентної системи для детекції маніпуляцій та дезінформації

Анотація

Стрімкий розвиток генеративного штучного інтелекту призвів до безпрецедентного зростання обсягів дезінформації, що значно ускладнює традиційні методи моніторингу медіапростору та вимагає впровадження нових автоматизованих інструментів верифікації. Проте ефективність існуючих систем виявлення маніпуляцій та дезінформації часто залежить від використання потужних комерційних великих мовних моделей, що пов’язане з високими експлуатаційними витратами, обмеженою доступністю та ризиками передачі конфіденційних даних на зовнішні сервери. У даній статті оцінюється потенціал використання малих малих мовних моделей як основи для побудови автономних систем протидії інформаційним маніпуляціям. Було запропоновано новий підхід до побудови системи верифікації, який базується на багатоагентній взаємодії, де складне завдання розбивається на підзадачі для спеціалізованих агентів: детектора маніпуляцій, аналітика наративів та фактчекера. Отримані результати експериментального порівняння локальних та хмарних моделей дають змогу зробити висновок, що запропонований підхід є більш безпечним та економічно ефективним, забезпечуючи високу точність аналізу при збереженні повного контролю над даними користувача.