По информации «ТАСС», в Петербурге разработали программный комплекс, который работает с помощью применения технологий искусственного интеллекта. Нейросеть обучена находить суицидальный и депрессивный контент в социальных сетях.
Представитель администрации Санкт-Петербурга сообщил изданию, что специальная программа в ходе работы не только мониторит публикации и группы в соцсетях, но и проводит анализ действий пользователей-участников “неправильных” групп, а также выявляет факторы “негативного” влияния цифровой среды на молодежь для дальнейшей передачи информации в Роскомнадзор и Роспотребнадзор. Ведомства уже решают вопрос блокировки этих страниц сайтов и публикаций в соцсетях в РФ.
Вдобавок источник «ТАСС» пояснил, что тестовая версия программы с ИИ уже прошла необходимые испытания и сейчас занимается обработкой и ранжированием информации и оценкой степени суицидального риска по контенту в наиболее популярных социальных сетей у российских несовершеннолетних пользователей в Петербурге и Ленинградской области. В дальнейшем власти планируют масштабировать этот проект на всю Россию.
В конце мая глава Роскомнадзора Андрей Липов рассказал, что ведомство использует нейросети и проекты, связанные с искусственным интеллектом для мониторинга публикаций в соцсетях и сервисах. Эти системы анализируют миллиарды сообщений и принимают решения по выдаче предписания администрации ресурса в автоматическом режиме, но их еще проверяют вручную сотрудники РКН. РКН планирует до конца года в 14 раз увеличить объем обрабатываемой информации, чтобы закрыть практически все белые зоны и отрабатывать все доступные в РФ пользовательские сервисы – пишет Habr.com.