Ученые КазНУ разрабатывают систему искусственного интеллекта для выявления дезинформации в социальных сетях в условиях природных ЧС

В современном информационном обществе проблема дезинформации становится все более острой, особенно в контексте социальных сетей, где скорость распространения информации максимально высока. В условиях природных чрезвычайных ситуаций (ЧС) быстро распространяющаяся дезинформация может негативно влиять на восприятие событий населением, мешать координации спасательных служб и усиливать панические настроения.

Дезинформация не только подрывает доверие к источникам информации, но и влияет на общественное мнение, что может иметь серьезные социальные, политические и экономические последствия в условиях ЧС. По оценкам исследований, экономический ущерб от дезинформации может достигать миллиардов долларов в год в секторах финансов, здравоохранения и общественной безопасности. Для Казахстана, где сохраняется высокий риск землетрясений, селей и лесных пожаров, оперативный и точный анализ информации приобретает особую значимость.

Разработка технологии для выявления дезинформации в социальных сетях в условиях природных чрезвычайных ситуаций с использованием методов машинного обучения. В качестве объектов исследования рассматриваются три типа природных ЧС: сели, землетрясения и лесные пожары.

Проект впервые предлагает создание и аннотирование корпуса данных, связанных с природными ЧС в Алматы и Алматинской области, что позволит обучать модели с учетом региональной специфики. Будет разработана новая гибридная архитектура, объединяющая преимущества конволюционных и рекуррентных нейронных сетей с механизмом внимания. Особое внимание уделяется казахскому языку как малоресурсному, а также культурно-специфическим аспектам текстов, что особенно важно для многоязычного казахстанского общества.

Проект включает пять задач: разработку и исследование моделей и алгоритмов для выявления дезинформации; формирование корпуса данных из сообщений социальных сетей, связанных с природными ЧС, с разметкой на достоверность; разработку и обучение гибридной глубокой модели с механизмом внимания; оценку эффективности методов разметки данных и детекции дезинформации; разработку приложения для загрузки текстовых данных, автоматического анализа и отображения результатов классификации.

В исследовании применяются методы обработки естественного языка (NLP) — TF-IDF, word embeddings, а также архитектуры LSTM и трансформеров. Данные собираются методом веб-скрейпинга и через API социальных сетей, с последующей ручной и полуавтоматической аннотацией. Точность моделей оценивается по метрикам F1-score, Precision и Recall, а надежность результатов проверяется методом кросс-валидации.

Результаты проекта будут способствовать укреплению международного сотрудничества в области противодействия дезинформации и обеспечения прозрачности медийного контента, усиливая вклад Казахстана в глобальную информационную безопасность. Результаты исследования будут опубликованы в высокорейтинговых научных журналах.

Разработанная технология повысит эффективность работы служб экстренного реагирования за счет своевременного обнаружения дезинформации, улучшит информирование населения, повысит доверие к официальным источникам и снизит панические настроения в условиях ЧС. Результаты проекта также найдут применение в медиа-мониторинге, управлении информационными потоками и противодействии фейковым новостям.

Регистрация авторских свидетельств и патентов на новые алгоритмы и программное обеспечение для выявления дезинформации; подготовка кадров; публикация результатов в международных рецензируемых научных журналах.

Рассчитанный на 36 месяцев (2025-2027 гг.) проект сформирует новые знания на стыке искусственного интеллекта, информационной безопасности и обработки естественного языка. Проект укрепит общественную безопасность Казахстана в условиях чрезвычайных ситуаций и повысит международный авторитет отечественной науки в данной сфере.