ВКонтакте разработал нейросеть для борьбы с расизмом, гомофобией и сексизмом

ВКонтакте работает над искусственным интеллектом для автоматического распознавания материалов с хейтспичем (враждебными высказываниями). Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. 

Искусственный интеллект сможет определять самые разные категории оскорблений и угроз, среди которых — проявления ксенофобии, расизма, гомофобии, сексизма, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Чтобы обучить искусственный интеллект ВКонтакте добавила новую категорию жалоб — «Враждебные высказывания». Так, пользователь может выбрать её, если нажмёт кнопку «Пожаловаться» у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам. В свою очередь, команды Модерации и Поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.

За первую половину 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

Читайте также: Госсовет Татарстана ограничил работу «наливаек», но пошел навстречу Набережным Челнам