Социальная сеть «ВКонтакте» работает над нейросетью, которая будет самостоятельно распознавать и блокировать оскорбительные комментарии и различные проявления нетерпимости, сообщили в компании. Сейчас искусственный интеллект проходит стадию «обучения».
«Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний», —рассказали в пресс-службе «ВКонтакте».
Нейросеть обучают на живых примерах с помощью новой опции. Администрация соцсети ввела кнопку «Враждебные высказывания», которую можно выбрать, если нажать «Пожаловаться» рядом с оскорбительным комментарием. Сообщение рассмотрят модераторы, и итоги этой работы попадут в базу данных для новой нейросети.
По данным компании, в первом полугодии 2020 года на платформе удалили 520 тыс. сообщений или материалов оскорбительного содержания.
Контекст:
Соцсети стали особенно активно бороться с различными проявлениями нетерпимости на своих площадках на фоне беспорядков в США из-за убийства полицейскими афроамериканца Джорджа Флойда. Например, Twitter недавно разрешил пользователям ограничивать количество людей, которые могут отвечать на их твиты. Однако не всегда усилия компаний оцениваются положительно. В начале июля 2020 года правозащитные организации инициировали бойкот Facebook, поскольку соцсеть, по их мнению, не принимает достаточных мер для удаления сообщений расистского характера и вводящей в заблуждение информации.
Что это меняет:
В российской соцсети уверяют, что нейросеть оградит пользователей «ВКонтакте» от агрессии и нетерпимости. Правда, когда именно искусственный интеллект начнет работать в полную силу, не уточняется.
