В России запущена система автоматического поиска запрещенного контента

Подведомственный Роскомнадзору РФ ФГУП «Главный радиочастотный центр» запустил в России полноценную версию системы автоматического поиска запрещенного контента «Окулус», которая интегрируется с другими инструментами мониторинга ведомства.

ФОТО Omar Tursić on Unsplash

Работая как классификатор с заданным набором источников, система анализирует страницы сайтов, профили и комментарии в соцсетях, выявляя, таким образом, нарушения российского законодательства в изображениях, видеороликах, текстах. В частности, с помощью технологии компьютерного зрения система обнаруживает экстремистскую тематику, призывы к массовым незаконным мероприятиям, суициду, употреблению наркотиков, пропаганду ЛГБТ и др. Непосредственный сбор данных система не производит, а окончательный анализ результатов производится в связке с человеком, что исключает ложные срабатывания.

Планируется, что до 2025 года система будет усовершенствоваться. Прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий. Система будет выявлять запрещенные материалы на нескольких кадрах на видеофрагментах, в сложных рукописных текстах и рисунках. Ориентировочная стоимость разработки чуть менее 60 млн рублей.

До недавнего времени в большинстве случаев операторы цент­ра анализировали изображения и видео вручную. Таким образом у них получалось обрабатывать в день около ста изображений и ста видео. «Окулус» способен анализировать более двухсот тысяч видео и изображений в сутки со ско­ростью около трех секунд на одно изображение.

В единую систему мониторинга информационного пространства будет входить также информационная система «Вепрь», разработанная специалистами петербургской компании. Эта программа предназначена для выявления в Интернете потенциальных точек напряженности, способных перерасти в информационные угрозы. Ее полноценный запуск запланирован на вторую половину 2023 года.

Проект «Окулус» появился как ответ на рост количества соответствующих нарушений в Интернете. Так, на основании требований Генпрокуратуры РФ в 2022 году было удалено и заблокировано более ста тысяч интернет-ресурсов, которые содержат недостоверную, фейковую информацию, в 2021 году таких ресурсов было около семи тысяч, в 2020 году — полторы тысячи, а в 2019 году — всего чуть более трехсот. Показательно, что в подобной недостоверной информации чаще всего используется именно визуальный контент, который наиболее эффективно воздействует на человеческую психику.

Число кибератак на государственные информационные ресурсы Петербурга в 2022 году также выросло в десять раз. В 2023 году более половины компаний города намерены увеличить траты на обеспечение своей кибербезопас­ности.

Материал опубликован в газете «Санкт-Петербургские ведомости» № 45 (7374) от 15.03.2023 под заголовком «Охотники за фейками».