25 июля 2023
Исследователи из Stanford Internet Observatory провели двухдневное исследование контента в Mastodon и обнаружили неприятное — у сети наблюдаются проблемы с модерацией CSAM (Child Sexual Abuse Material) контента, в основном из-за её децентрализованного характера.
Как говорит один из участников команды исследователей, за два дня они увидели столько срабатываний photoDNA фильтра, сколько не было за всё время ведения мониторинга, а первый пример контента обнаружился через пять минут после начала теста. Речь идет об известных или близких к известным образцам контента.
Основная проблема с модерацией заключается в том, что, в отличие от централизованных сетей, в Mastodon вся модерация — это дело волонтеров-администраторов конкретных инстансов, каждый из которых справляется с модерацией в одиночку и как может. Исследователи убеждены, что наличие централизованного сервиса, который бы автоматизировал такую модерацию, сильно улучшило бы ситуацию.
Кроме того, вопрос еще и в желании проводить такую модерацию — например, они приводят в пример инстансы в Японии, где правила ослаблены для того, чтобы не запретить аниме и манга, а это приводит и к накоплению CSAM-контента.
В общем, ничего удивительного, я бы сказал.
Google выкатил — пока в личном аккаунте одного из сотрудников, — идею Web Integrity API, стандарта, который позволит сайтам проверять целостность браузера пользователя.
Идея, как пишут авторы документа, вдохновлена аналогичными мобильными решениями — App Attest и Play Integrity, которые соответственно на iOS и Android позволяют приложениям проверять целостность системы и, например, не запускаться на рутованном Android. Предполагается, что при визите пользователя его браузер будет перенаправляться на определенный сервер, который проведет проверку браузера и выдаст токен, который будет гарантировать некое соответствие браузера стандарту.
Чисто теоретически можно представить себе благое использование такого стандарта — например, подавляющее большинство ботов, использующихся для атак на сайты, отличаются упрощенной реализацией и такую проверку не пройдут. С другой стороны, в выдаче такого токена можно отказать по признаку наличия определенного расширения или просто всем пользователям определенного браузера, не соответствующего представлениям Google о прекрасном.
За что, собственно, на авторов и накинулись критики.
Что-то в последние годы Google что ни придумает, так всё какой-то тоталитарный веб получается.
Сначала я подумал записать новый выпуск подкаста, а потом вспомнил, что давно не делал выпуска рассылки. Так что подписчики уже получили, а остальным сообщаем — свежий выпуск лежит на Substack и повествует о кончине Twitter.
Если кому-то хочется попробовать новый браузер — Arc выпустил версию 1.0 и отменил waitlist, так что можно пробовать.
Впрочем, прямо скажу, я его не очень понял. Так что, если кому-то подойдет, расскажите в комментариях.