Інформаційна технологія з визначення токсичності у тексті

У представленій роботі досліджено проблему автоматизації виявлення агресивних висловлювань в українському сегменті інтернету, що є критично важливим через дефіцит спеціалізованих лінгвістичних ресурсів для цієї мови. Основний фокус уваги було приділено створенню та випробуванню інформаційної технології, здатної ефективно класифікувати токсичні повідомлення за допомогою моделей основних алгоритмів машинного навчання. Для проведення експериментів було сформовано набір даних із 4600 записів, у яких об’єднано дані з платформ YouTube та Google Play із відкритими датасетами. Методологія дослідження базувалася на порівнянні шести архітектур, серед яких є логістична регресія, SVM, Random Forest та Gradient Boosting, із застосуванням технік векторизації TF-IDF та балансування класів методом SMOTE.

Аналіз результатів продемонстрував, що логістична регресія забезпечує оптимальний баланс для модерації коментарів і відгуків на соціальних платформах, маючи найвищий F1-score 0,6775 та здатність виявляти понад 64% шкідливого контенту. Цікавим спостереженням стало те, що логістична регресія та SVC досягнули ідентичного рівня якості за метрикою ROC-AUC у 0,78, проте SVC проявив себе як вкрай обережний класифікатор із високою влучністю у 0,8398 за рахунок значного пропуску позитивних випадків, але з надто гіршою повнотою, що дорівнює 0,4974. Для підсумку роботи можна сказати, що для широкого застосування в системах реального часу краще використовувати логістичну регресію через її гнучкість, проте SVC залишається корисним у вузькоспеціалізованих завданнях, де не можна допускати помилкові спрацювання.