Первая функция – фильтр враждебных высказываний. 4 ноября у пользователей появится возможность включить его на сутки. Нейросеть удалит комментарии с угрозами.
Администратор сможет увидеть отсеянные нейросетью сообщения, восстановить их или отправить автора в черный список. Фильтр можно включить и выключить в любой момент. Результаты эксперименты используют для доработки механизма.
Вторая функция – рекомендация отказаться от сообщений. Это продолжение прошлогоднего эксперта. Суть проста: пользователь пишет комментарий, а нейросеть определит, есть ли в нем оскорбление.
Если да, автору посоветуют не тратить время на агрессию и отказаться от обидной реплики. Благодаря этой функции в прошлом году количество оскорблений сократилось на 36%.
Теперь нейросеть будет определять более широкий спектор агрессивных высказываний: нетерпимость по национальному и религиозному признаку, возрасту, полу и других характеристик.
В День народного единства предупреждение могут увидеть все пользователи "ВКонтакте". Потом начнется долгосрочный тест. По его результатам соцсеть примет решение об использовании функции.
По-прежнему любой пользователь "ВКонтакте" может сообщить об оскорбительном поведении с помощью кнопки "Пожаловаться". Функция доступна для комментариев, фотографий, видео, историй, клипов. Добавлена еще одна причина для жалоб – "Враждебные высказывания".