Ученые из Уфы изобрели детектор, определяющий склонность человека к экстремизму

Стена, репосты, группы, лайки. Каждый человек сам формирует свою информационную ленту, которая ему интересна. А уфимские ученые, опираясь на психолингвистику, разработали программу, которая определяет склонность к суициду, экстремизму и наркотикам с помощью страницы в соцсети. Как это работает?

«Мы видим определенные символы, они возникают напротив тех тем, к которым пользователь проявляет интерес. До трех маркеров — это норма».

Такой диагноз Сергей Максимов поставил корреспонденту. Программа «PsychoReader» изучает аккаунт пользователя в социальной сети. Затем выдает оценку - интерес человека к экстремизму, наркотикам или суициду, находит в тексте средства психологического воздействия.

Чем «PsychoReader» отличается от других программ?

Сергей Максимов, автор проекта «PsychoReader», психолог: «Большинство программ подобного рода используют ключевые слова, допустим «бомба», «террорист», «убийца» и так далее. Это напоминает ситуацию, когда пару лет назад "ВКонтакте" начал удалять лицензионные аудиозаписи. Тогда, например, певицу Лану Дель Рей пользователи переименовали в "Ванну без дверей", и так же все ее дальше слушали. Здесь тоже самое — террориста можно назвать хоть колобком. И функция "Безопасный Интернет" это пропустит.

Стоп-слова не позволяют адекватно и объективно выявить опасный контент, к чему мы и стремимся. Мы же разработали свою технологию выявления психолингвистических конструктов, которые оказывают воздействие на сознание.

Или, например, есть агентства, которые занимаются изучением поведения пользователей в социальных сетях с целью финансовой выгоды. Они продают результаты определенным компаниям: чем увлекается их целевая аудитория, куда она ходит. А с точки зрения безопасности, на что именно и ориентирована наша программа — такого нет".

Как это работает?

Пока «PsychoReader» работает с одной соцсетью — "ВКонтакте" - излюбленном месте школьников и молодежи. Программа использует 15 алгоритмов. Для ее создания разработчики использовали труды российских ученых, которые изучали методы психологического воздействия на личность. Сергей Максимов объясняет: «Каждое средство воздействия имеет свою структуру, эту структуру мы выделили, алгоритмизировали, и научили компьютер находить ее в тексте, поэтому мы не привязаны к стоп-словам. Мы ищем психологическое воздействие в тексте любого направления». По словам разработчиков, точность результата — 92 процента.

Сергей Максимов, автор проекта «PsychoReader», психолог: «Мы выявляем мысли самого пользователя, то, что он читает, выявляем склонности его друзей. Стараемся выявить основные группы риска, то есть кто из друзей может представлять опасность, в том плане, что он может быть сам вовлечен в какую-то противоправную деятельность».

«PsychoReader» прошел три этапа проверки: сначала анализировались страницы случайных пользователей, затем школьников и студентов, а потом аккаунты людей, которые совершили преступления. Если человек просто читает негативные новости, то это никак не повлияет на оценку детектора. Экспресс-анализ занимает 5 минут, а вот на комплексный потребуются сутки. Программа изучит информацию за год. Сергей Максимов уточняет: "Это около 6 тысяч страниц текста. Работу, которую компютер проведет в течение одного дня, 20 экспертов будут делать около полутора лет».

Работа над детектором началась два года назад при бизнес-инкубаторе БГПУ. Изначальный замысел — облегчить работу школьных психологов. На всероссийском форуме «Территория смыслов на Клязьме» проект получил грантовую поддержку — 200 тысяч рублей. Также с этой программой ученые вышли в финал конкурса, который проводила "Лаборатория Касперского". Основная задача проекта - обезопасить детей в Интернете и предупредить об опасности родителей.

Сергей Максимов, автор проекта «PsychoReader», психолог: "Даже после профессиональной чистки страницы, склонности к ассоциальной деятельности выявляются. Вспомним трагедию в Перми. Мы проанализировали страницу нападавшего через неделю, даже после чистки она сохранила его интерес к противоправной деятельности".

А как же закрытые группы и аккаунты?

Сергей Максимов, автор проекта «PsychoReader»: «Мы не занимаемся взломом групп или уводом аккаунтов, информацию мы получаем только из открытых источников. Но анализ закрытых групп проводится может. Для этого у нас есть собственная подборка страниц, которые стилизованы под различных пользователей. С их помощью мы подписываемся на тематические группы, а когда появляется туда доступ, то можем провести анализ контента. Благодаря этому мы получаем объективную картину. Если проект получит поддержку, мы планируем выйти на администрацию «ВКонтакте» с просьбой создать технический аккаунт с допускам к подобным группам. Это амбициозно, но это единственный вариант».

Сейчас ученые патентуют изобретение. Но на этом работа над детектором не закончена. Они планируют научить программу распознавать текст и на картинках, а также адаптировать ее под другие социальные сети.