Расширение, получившее название Tune, имеет несколько уровней настройки. При желании пользователь может полностью отключить показ комментариев, либо выбрать один из режимов – в этом случае алгоритм, использующий машинное обучение, будет скрывать комментарии разной степени "токсичности" (например, комментарии с оскорблениями или ненормативной лексикой). Тот же алгоритм в настоящее время используют для онлайн-модерации некоторые СМИ, включая газеты The New York Times и The Guardian.
Пока что при помощи Tune можно настроить показ комментариев под роликами в YouTube и постами на Reddit. Также расширение работает в Facebook и на портале Disqus. Отфильтрованные комментарии отображаются в виде точки. Кликнув по ней, пользователь может прочесть скрытый комментарий.
Toxic comments can ruin a conversation online. Today we’re releasing Tune, an experimental Chrome Extension that helps you control what toxic comments you see. Try it out here: https://t.co/rOlIPs6JnL pic.twitter.com/wYYJmilh5j
— Jigsaw (@Jigsaw) 12 марта 2019 г.
Напомним, в начале февраля Google выпустила для Chrome расширение Password Checkup, которое проверяет безопасность паролей пользователя по доступным в Сети данным с комбинациями украденных хакерами логинов и паролей. База, которую использует это расширение, содержит около 4 млрд скомпрометированных логинов и паролей. Если введенные пользователем данные для авторизации на том или ином сайте совпадут с записью из базы, Password Checkup предупредит его об этом.
В основе работы расширения лежит обмен конфиденциальными данными с Google, но в компании подчеркивают, что перед отправкой эти данные шифруются, а затем сохраняются в этом виде в базе Google, поэтому злоумышленники не смогут получить к ним доступ.