Кибердоносчик: как работает программа, обнаружившая экстремизм в блоге Романа Неумоева
 Фото: protestonline.ru
10 Февраля 2017, 09:00

Кибердоносчик: как работает программа, обнаружившая экстремизм в блоге Романа Неумоева

Лидер группы «Инструкция по выживанию» Роман Неумоев, в начале февраля вызванный на допрос в центр противодействия экстремизму, своим визитом обязан программе, автоматически выискивающей запрещенные посты. Открытая Россия связалась с создателем программы и выяснила, как она работает.

«Группы смерти, Украина, ДАЕШ, АУЕ»

Бот называется «Демон Лапласа» — в честь мысленного эксперимента французского математика. Автономная некоммерческая организация «Центр исследования легитимности и политического протеста» заявила о его запуске в мае 2015 года. Сам «Центр» был создан, согласно ЕГРЮЛ, годом ранее. Одним из основателей был Евгений Венедиктов, сейчас занимающий пост директора. О нем известно немного: как пишет Znak.com со ссылкой на региональные СМИ и открытые источники, Венедиктов — новгородский журналист, переехавший в Москву и работавший в НТВ и на ЛДПР. Издание также отмечает, что осенью 2014 года он был арестован на два месяца после задержания с двумя граммами героина (соответствующее решение есть на сайте Новгородского районного суда). Примерно в это же время Венедиктов, по собственным утверждениям, организовывал гуманитарные конвои в непризнанные республики на востоке Украины и собирал доказательства использования ВСУ запрещенных боеприпасов.

Идея создать «Демона Лапласа» пришла ему именно во время поездки в Украину, рассказал Открытой России сам Венедиктов. По его словам, в 2014 году во время киевского Майдана он изучал «самовосприятие личности политически активных групп граждан». Так появился первый блок проекта (всего «демон» состоит из 20 частей), направленный на фиксацию в соцсетях сообщений, мобилизующих граждан к протестам — как предполагает Венедиктов, протесты можно предсказывать, изучая статистику постов. При этом, по заверениям создателя, программа способна посылать СМС-оповещения о готовящихся акциях любому, кто будет включен в список получателей. «Программа не определяет автоматически, согласована акция или нет. Тут все проще — она отправляет данные об аномальном поведении в протестных группах, группах ДАЕШ, АУЕ, „Группы смерти“ и так далее», — пояснил создатель.

Венедиктов подтвердил, что пост лидера «Инструкции по выживанию» действительно нашел его «демон»: «Мы отправляли список экстремистских публикаций в Псков 16 ноября 2016 года. Аккаунт Неумоева был в списке под № 71». При этом создатель робота подчеркнул, что известия о привлечении музыканта по статье об экстремизме стали для его центра неожиданным и неприятным сюрпризом. «Я почему-то уверен, что ролик оказался на его странице в соцсети еще до того, как был признан судом экстремистским — это частое явление в российских сетях, ведь пользователи не следят за изменением списке экстремистских публикаций. А судить по уголовной статье за публикацию одного единственного видеоролика считаю нарушением принципа разумности. Другое дело, когда таких публикаций в одном аккаунте сотни. Надеюсь, уголовное дело не возбудят. Видимо, поэтому дело Неумоева и передано участковому», — заключил он.

Принцип работы

Автоматический поиск экстремистских публикаций, по словам Венедиктова, работает так: программе скармливают id ролика, запрещенного судом, выбирается город, в пределах которого будет производиться поиск, и «Демон Лапласа делает свое дело». «Нам выдается список ссылок на запрещенные законом публикации из конкретного, выбранного нами региона. Экспертам остается только проверить ролики на соответствие критериям поиска и экспортировать данные в удобном формате. Это часть алгоритма, но для понимания, думаю, будет достаточно», — рассказал он. При этом ищутся не только внесенные в список экстремистских материалов записи, но и те, «которые имеют все шансы в нем оказаться».

Собранный материал сотрудники центра направляют в интернет-приемные правоохранительных органов. Пока что за такую инициативу организация ничего взамен не получает: она не фигурирует на Госзакупках и не заключала никаких контрактов с МВД. В 2015 году АНО подавала две заявки на грант в Общественную палату; в списках победителей они не значатся.

«Зачастую далеко не во всех регионах реагируют на сообщения, — сетует Венедиктов. — Например, Дагестан плотно занимается вопросом экстремизма и терроризма, и от них люди звонят со всех инстанций; но есть и регионы, в которых на обращения не отвечают. Я их, в принципе, могу понять — если мы отрабатываем регион, то даем такой объем информации, что для обработки всего списка [силовикам] нужно увеличивать штат сотрудников». По словам Венедиктова, за 3 последних месяца прошедшего года программа обнаружила больше 10 000 экстремистских публикаций в 10 регионах России. Статистику привлечения к ответственности по своим обращениям организация не ведет.

МВД и все его друзья

АНО «Центр исследования легитимности и политического протеста» — не первые, кто хочет поставить поиск и изучение неугодных записей на поток. В сентябре 2016 года представитель группы томских ученых из ТГУ рассказал, что ими совместно с компанией «Крибрум» Игоря Ашманова было разработано ПО, выполняющее аналогичные «Демону» функции. Программа завязана больше на социальной сети «ВКонтакте»: «Мы можем отслеживать поведение пользователей в группах, выявлять наиболее активных, изучать связи между разными группами. Можем даже прослеживать активность пользователей, если группу удалили, чтобы понять, какую новую группу они создадут» — рассказывал «Коммерсанту» директор Научно-образовательного центра ТГУ Михаил Мягков. Спустя месяц свою разработку для автоматизации исследований экстремистских материалов презентовало само МВД — ведомственный комплекс «Фоб» предназначен для того, чтобы во время исследований находить дубликаты материалов, ранее признанных экстремистскими.

«Раньше подобные попытки предпринимало московское правительство, — рассказал Открытой России Александр Верховский, директор информационно-аналитического центра СОВА. — Там, правда, установка была не правоохранительная, а профилактическая — искать, скажем, сообщения о терактах. Результатов этой деятельности мы не видели».

По его словам, придумать автоматизированную систему по поиску экстремистских записей не сложно и даже дешево: «У МВД есть возможность собрать реальную базу запрещенных материалов — и они давно это собирались это сделать. Не список Минюста, а именно базу реальных материалов, фигурировавших в уголовных делах. Если бы она существовала, создать технические средства, ищущие сходные файлы, не трудно. Пока что о существовании централизованной системы нам неизвестно, да и не так уж она и нужна МВД — что будет достигнуто? Ну, можно будет найти все репостнутые когда-то записи — и что, бежать, привлекать всех этих людей? Такой масштабной задачи перед ними не стоит».