Главный радиочастотный центр (ГРЧЦ), подведомственный Роскомнадзору, выделил 57,7 млн рублей на разработку системы «Окулус», которая будет анализировать фото и видео на сайтах, в соцсетях и мессенджерах с целью обнаружения запрещенной информации. Система должна быть запущена уже в декабре.Победителем и единственным участником закупки, объявленной ГРЧЦ, стала компания ООО «Эксикьюшн Эр Ди Си» (Execution RDS). Ранее компания занималась разработкой решений на базе немецкой SAP. Она предложила реализовать проект за 57,5 млн рублей при стартовой цене в 70 млн рублей. Система должна заработать 12 декабря 2022 года.

Как предполагается, «Окулус» станет работать совместно с единым модулем анализа (ЕМА), объединяющим несколько систем, отслеживающих разные типы контента в Сети. Обрабатывать «Окулус» будет только те данные, которые отберет ЕМА. Самостоятельно искать данные «Окулус» не сможет. В поле ее зрения будут изображения, фото и видеоматериалы. Анализироваться будут символика, «водяные знаки», сцены, сочетания предметов, композиция образов, лица, статика и динамика движений и т.п. Отбирать материалы ЕМА будет в том числе в расшифровке QR-кодов, переписке в чатах и каналах мессенджеров, в надписях, URL-адресах, субтитрах и так далее. Текстовые материалы исследуются при помощи других инструментов, входящих в ЕМА.

Система будет распознавать информацию с помощью нейронных сетей и самостоятельно улучшать свои способности
«Данные из мониторинговых систем будут загружаться в «Окулус» автоматически. Новая система даст оценку того, есть ли в материале признаки запрещенной законом информации. Далее (при выявлении таких признаков) автоматический отчет направится операторам для экспертного подтверждения и принятия дальнейших решений», — пояснил «РГ» Константин Буланов, директор по цифровым технологиям ГРЧЦ.

После вынесения заключения оператором информация будет передаваться по электронным каналам профильным структурам. Как следует из технической документации, «Окулус» должна анализировать не менее 200 000 изображений в сутки. Время, затрачиваемое системой на анализ одного изображения, должно составлять не более трех секунд.

Для обработки информации, по словам Буланова, «Окулусу» понадобится не менее 48 серверов, оснащенных современными высокопроизводительными графическими ускорителями. Распознавание информация будет осуществляться с использованием нейронных сетей на основе глубокого машинного обучения.

В перечне запрещенного контента, который будет анализировать «Окулус», материалы с признаками экстремизма и терроризма, призывов к массовым незаконным мероприятиям, выражения явного неуважение к обществу, государству и официальным символам РФ, информации о способах совершения суицида и методах изготовления наркотиков, пропаганду нетрадиционных сексуальных отношений и материалы с демонстрацией употребления табачной продукции.

Ранее сообщалось о том, что ГРЧЦ проводил конкурс на проведение научно исследовательской работы (НИР) по проекту «Окулус». Победителем конкурса стал Московский физико-технический институт (МТФИ), который предложил заплатить за свою работу 14 млн рублей (начальная цена контракта составляла 15 миллионов).

Тогда представитель ГРЧЦ заявлял журналистам, что НИР «позволит в первую очередь оценить, возможно ли технически применить нейросети для выявления запрещенной информации». Судя по всему, результаты исследования МФТИ оказались положительными для заказчика.

Тогда же, в 2021 году, в ГРЧЦ был создан Экспертный совет по искусственному интеллекту. Его цель — анализировать передовые технологии в области ИИ и применять их для реализации задач, возложенных на Роскомнадзор и ГРЧЦ. Сейчас в составе совета более 20 постоянных членов из различных вузов, ИТ-компаний и ведомств, в том числе из ФИЦ ИУ РАН, Ростелекома, Лаборатории машинного обучения и семантического анализа Института ИИ МГУ, ВШЭ и др.

Российские разработки в направлении отслеживания опасного контента не являются чем-то уникальным. Аналогичные системы и службы существуют и в других станах мира. Так, США работает с этими проблемами на разных уровнях как внутри страны, так и на международном уровне. В частности, с 1942 года США входит в так называемый альянс «Пять глаз». Создана специальная инфраструктура — центры накопления и обработки информации. Ведутся разработки решений для автоматизации мониторинга сети. В Америке работают специальные подразделения, которые занимаются проблемами национальной кибербезопасности, в том числе исследовательское агентство США — IARPA и US CYBERCOM. В Китае функционируют несколько научно-исследовательских институтов и 12 оперативных бюро. Это министерство общественной безопасности — МОБ, министерство государственной безопасности — МГБ и др. Они отвечают организацию и за проведение радиоэлектронной борьбы, и за контроль информационных каналов, в том числе за обнаружение и перехват сведений, подрывающих инфобезопасность страны. Наиболее известные китайские проекты в этом направлении — «Система социального кредита», проект «Золотой щит».

Опасный контент теми или иными способами и системами отслеживают в США, Китае и Британии
В Великобритании тоже работает несколько госорганов (самые известные: National Cyber Force — NCF, Центр правительственной связи — GCHQ, Центр национальной компьютерной безопасности — NCSC), в ведении которых находятся все виды все виды киберопераций. Они используют разные мониторинговые и контролирующие системы, например Optic Nerve. Кроме того, в стране был создан государственный медиарегулятор Ofcom, контролирующий деятельность всех без исключения телекоммуникационных компаний.