Сервіс модерації користувацьких коментарів із пояснюваною класифікацією токсичності

Abstract

Робота складається зі вступу, трьох розділів, висновків, списку використаних джерел та додатків. Обсяг роботи: 69 сторінок, 15 рисунків, 2 таблиці. Список використаних джерел включає 18 найменувань. Метою дослідження є проєктування та реалізація сервісу для модерації користувацьких коментарів, який забезпечує автоматичну класифікацію токсичності повідомлень, пояснення результатів роботи моделі та підтримку прийняття рішень модератором. У роботі проведено аналіз поняття токсичності в онлайн-комунікації, розглянуто види небажаного контенту та основні підходи до модерації користувацьких коментарів. Окрему увагу приділено використанню методів машинного навчання для класифікації текстових повідомлень і поясненню результатів автоматичного аналізу. Обґрунтовано вибір засобів реалізації, спроєктовано архітектуру сервісу, структуру бази даних і логіку взаємодії основних компонентів системи. Розроблено сервіс, який дозволяє додавати коментарі, автоматично визначати рівень їхньої токсичності, відображати пояснення результату та надавати модератору можливість схвалити або відхилити повідомлення. Реалізована система також містить інтерфейс модератора, журнал дій і сторінку статистичних показників. Це дозволяє не лише обробляти окремі коментарі, а й відстежувати загальний стан процесу модерації.