Источник: AIN

Дочернее подразделение Alphabet под названием Jigsaw дало пользователям доступ к API сервиса Perspective. Этот сервис работает на основе машинного обучения, он предназначен для анализа текста комментариев: содержится ли в них оскорбления, троллинг и т.п.

Его уже тестировала администрация «Википедии», редакции Guardian, The Economist и The New York Times. На «Википедии» его используют до сих пор, чтобы вычислять редакторов-волонтеров, которые плохо себя ведут.

Демо-версию сервиса может опробовать в онлайне любой пользователь. Достаточно просто ввести в поле текст комментария — несколько слов или предложение, и Perspective замерит уровень его токсичности. Если этот уровень составит 80% и более, есть немаленький шанс, что ваш комментарий, появившись в онлайне, обидит других пользователей.

Сервис все еще находится в разработке, поэтому не способен с предельной точностью вычислять троллей. Поэтому администрация просит пользователей оставлять фидбек, чтобы сервис мог учиться на своих ошибках.

Напомним, иногда на совместной любви к интернет-троллингу вырастают целые сообщества, которые существуют годами. К примеру, взрослые игроки много лет подряд соревнуются, кого быстрее забанят за мат в детской игре Club Penguin.

Источник: AIN