Проект «Разработка алгоритма идентификации факторов риска безопасности пользователей социальных сетей на основе анализа контента и психологических характеристик его потребителей» РНФ №19-78-10122

Руководитель проекта – Мацута Валерия Владимровна.

Исполнитель проекта от ИДО – Фещенко Артем Викторович.

Проект направлен на разработку модели идентификации и прогнозирования факторов риска безопасности в социальных сетях, основанной на анализе контента (содержания) социальных сетей, цифровых следов, поведенческих и психологических данных пользователей.

Актуальность проекта заключается в увеличивающемся разрыве между уровнем вовлеченности детей и подростков в социальные сети и пониманием механизмов потребления онлайн-информации и влияния небезопасного контента на детей и подростков – 90% пользователей социальных сетей.

Несмотря на существующую политику противодействия и блокирования запрещенного контента в социальных сетях, количество сообществ и аккаунтов пользователей, распространяющих небезопасный контент, постоянно растет.

Социальные сети как важнейший институт социализации делают детей и подростков особенно уязвимыми для деструктивного влияния в связи с еще не сформировавшимися механизмами противостояния негативной информации и пассивным, некритическим, потреблением информации.

Научная новизна данного проекта заключается в разработке комплексной модели факторов риска безопасности в социальных сетях на основе алгоритма идентификации небезопасного контента социальных сетей во взаимосвязи с психологическими характеристиками его потребителей.

В рамках данного проекта впервые в России (на выборке до 10000 пользователей) будут созданы методы и инструменты, позволяющие определять и классифицировать:

  • формы небезопасного контента социальных сетей в российском интернет-сегменте;
  • сообщества, аккаунты пользователей, продуцирующих и распространяющих небезопасный контент;
  • психологические, индивидуально-типологические и патохарактерологические особенности потребителей небезопасного контента социальных сетей среди детей, подростков и молодежи (во взаимосвязи с паттернами продуцирования и потребления контента социальных сетей);
  • группы риска пользователей, уязвимых для воздействия небезопасного контента.

Впервые будут разработаны:

  • алгоритм идентификации пользователей группы риска по потреблению и распространению небезопасного контента, с использованием методов машинного обучения и анализа большого массива открытых пользовательских данных из социальных сетей;
  • инструмент мониторинга социальных сетей на основе цифровых следов, поведенческих, психологических данных пользователей с определением основных факторов риска безопасности и идентификацией пользователей, входящих в группы риска;
  • веб-приложение самодиагностики рисков безопасности в социальных сетях;
  • рекомендации для работы с группами риска среди детей, подростков и молодежи на основе актуальных данных об информационных тенденциях в социальных сетях.