Новина 8 Серпня 2025

Випускниця УКУ створила модель, яка виявляє російські маніпуляції

Вікторія Маковська створила модель, яка допомагає виявляти російські маніпуляції у Wikipedia, навіть коли вони маскуються під нейтральні формулювання, повідомляє Український католицький університет на своїй сторінці у Facebook.

Більше про Вікторію

Вікторія Маковська — випускниця програми «Науки про дані» Факультету прикладних наук УКУ / APPS UCU. Її дипломний проєкт на тему «Вандалізм чи маніпуляція знаннями? Виявлення наративів у редагуваннях Wikipedia» визнали одним з найкращих проєктів випускників УКУ 2025 року. Він базується на ML-моделі (machine learning – машинне навчання). У фокусі розробки Вікторії — машинний аналіз спроб поширення дезінформації, а не остаточних версій статей.

Як працює розробка Вікторії Маковської

Зараз автоматизована модерація Wikipedia не спрямована безпосередньо на виявлення тонких текстових маніпуляцій. Вона фокусується переважно на очевидних проявах вандалізму, як то повторювані вставки тексту капслоком, особисті образи, жарти, а також перевірка наявності чи релевантності джерел.

Система, яку створила дівчина, не «шукає» фейки самостійно в енциклопедії. Вона працює за іншим принципом:

на вхід подається текстова ревізія (revision), тобто конкретна зміна, яку хтось хоче внести до статті у Вікіпедії;
модель аналізує цю зміну як фрагмент тексту й видає оціночний бал (score) від 0 до 1 — наскільки ймовірно, що ця правка є деструктивною.

Для аналізу Вікторія зібрала всі зміни в українській і російській Вікіпедії за 2022–2023 роки на основі попередньо визначеного списку статей. До вибірки увійшли як правки, які були погоджені модераторами, так і так званий вандалізм – редагування, що порушували правила платформи й були згодом скасовані.

Основне завдання розробки – навчити ШІ бачити там, де людина не помічає нічого підозрілого.

За словами Вікторії, модель поки що працює з енциклопедичними текстами, але її підхід має потенціал для подальшого застосування, наприклад, у Telegram-каналах чи новинних стрічках, де пропаганда часто має вигляд просто «альтернативної думки».

Чи може система працювати самостійно

Цей проєкт мав дослідницький характер, тому не передбачав створення повноцінного користувацького інтерфейсу чи продукту. Його мета – не автоматизований моніторинг Wikipedia в реальному часі, а доказова демонстрація того, що пропагандистські наративи можуть бути виявлені за допомогою машинного навчання.

Система не «виявляє» фрагменти тексту, а оцінює цілісні редагування (revision), які були внесені до статті в один момент. Кожне таке редагування модель маркує як потенційно маніпулятивне або без ознак проблем.

«Модель працює як допоміжний інструмент для модераторів. Вона не замінює людей, а покликана полегшити їхню роботу, відфільтровуючи найбільш підозрілі зміни. Ця концепція відома як Human In the Loop: автоматизація допомагає приймати рішення, але фінальне слово залишається за експертами», — зазначає дослідниця.

Джерела: Facebook Українського католицького університету, сайт mind.ua.