Правозащитники оценили нейросеть «ВКонтакте», борющуюся с гомофобией и расизмом

Сервис поможет быстрее находить материалы с враждебными высказываниями и публикации, провоцирующие аудиторию на агрессию

Социальная сеть «Вконтакте» тестирует нейросеть, позволяющую быстрее находить материалы с проявления ксенофобии, расизма, гомофобии, сексизма и публикации, которые провоцируют аудиторию проявлять агрессию.

 Правозащитник Владимир Васин заявил Daily Storm, что новый сервис не станет панацеей в борьбе с разжигателями ненависти и вражды. При этом правозащитник Борис Пантелеев считает, что нейросеть дисциплинирует пользователей соцсети и с помощью нее уменьшится число хейтеров.

«Отношусь категорически против этой инициативы, потому что программное обеспечение может выдавать ошибки. Человеческий фактор здесь необходим, специальная подготовка в области лингвистики. Не знаю, по какому алгоритму будет работать эта программа, но не верю, что «ВКонтакте» может сделать что-то качественное и хорошее», — заявил адвокат Международной правозащитной группы «Агора» Владимир Васин.

По мнению Васина, «сервис надо тестировать совместно с экспертными сообществами, потому что на кону судьбы людей стоят». «Есть экстремизм или нет — это тонкая грань. Ее не видно глазом, не говоря уже о каком-то программном обеспечении. Разбираться в подобных вещах [оценке враждебных высказываний] должны профессионалы, а не конвеерно», — добавил он.

Правозащитник Борис Пантелеев, занимавшийся разработкой первоначальной версии 282-й статьи Уголовного кодекса России «Возбуждение ненависти либо вражды, а равно унижение человеческого достоинства» назвал инициативу «ВКонтакте» разумной.

«Искусственный интеллект привлекается для мониторинга соцсетей уже лет десять. Это не новая идея, а общее явление. Не только «ВКонтакте», но и «Одноклассники», Facebook этим занимаются. Но сейчас расширен список искомых терминов и опасных выражений. Раньше он в основном был ориентирован на террористов, противодействие торговли наркотиками», — сказал Пантелеев.

Он отметил, что новая технология призвана ускорить время обработки жалоб на хейтеров. «Эта работа неизбежна. Она идет во всем мире и мы не должны быть в данном отношении последними — это очевидно. Если Twitter и Facebook закрывают посты закрывают посты сына президента или самого президента США — это делается на основании неких алгоритмов, которые заложены в искусственный интеллект», — резюмировал Пантелеев.

Правозащитник выразил мнение, что человеческого ресурса не хватит для мониторинга всего, что постоянно обновляется в соцсетях. Поэтому, как считает Пантелеев, автоматическое распознавание материалов с враждебными высказываниями (так называемый хейтспич) на основе искусственного интеллекта — логичное решение.

«При таком объеме информации и таком количестве страниц, обновлений сайтов — человеческий мониторинг просто неэффективен и невозможен. Это логичная мера. Может быть даже поздно принятая. Я бы гордился, если бы «ВКонтакте» сделали систему лучше, чем в Китае или США», — добавил правозащитник.

Генеральный директор компании «Нейросети Ашманова» Станислав Ашманов рассказал Daily Storm, что инициатива «ВКонтакте» является логичной и технически реализуемой: «Классификация комментариев, постов, жалоб, обращений граждан – это стандартные и очень полезные технологии для компаний, работающих с миллионами клиентов».

Трудностей в этой задаче нет, отметил эксперт. «Точнее, они все типовые для проектов Data Science: необходимость сбора и разметки большого массива обучающих данных (примеров для обучения нейронных сетей), настройка логики бизнес-процессов, включающих в себя стадию классификации текстов с помощью методов искусственного интеллекта (например – что делать с ложными срабатываниями?)» —пояснил Ашманов.

Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Она позволит точнее откалибровать уже существующие инструменты и собрать набор данных для новых решений на основе нейросетей. Также модераторы соцсети проводят проактивный внутренний мониторинг, в частности с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.

За первую половину 2020 года «ВКонтакте» удалила 520 тысяч единиц контента по теме разжигания вражды и ненависти. Кроме того, соцсеть заблокировала более тысячи профилей и почти 2,5 тысячи сообществ, распространяющих враждебные высказывания.