Алгоритмы монетизации против алгоритмов модерации

Джек Дорси решил высказаться на тему Twitter Files - правда, в итоге получилось эссе на тему «Почему открытые протоколы хорошо». Вкратце, он считает, что социальная сеть должна являться протоколом, а не компанией, быть устойчивой к любом контролю, а модерация может осуществляться только алгоритмически.

Свою вину в происходящем с Twitter он видит в том, что допустил создание средств модерации вместо того, чтобы дать пользователям возможность контролировать контент. Ну, и отсутствие двух классов акций — распространенная схема для технологических компаний, когда акции одного класса реализуют имущественные права, а в других, обычно принадлежащих основателям, сконцентрированы голосующие права. Так управляются Alphabet, Meta и многие другие компании, — не дало возможности защитить компанию от активистов-акционеров.

Примечательно, что свой текст Джек выложил на платформе Revue, которую Twitter купил при нем, а теперь закрывает полностью.

Но он затрагивает интересную тему, которая мне видится состоящей, как минимум, из двух спорных моментов.

Первый касается возможности алгоритмической модерации. Джек уверен в её возможностях, а вот я, с учетом опыта человечества по развитию подобных и похожих систем за последние 25 лет, эту уверенность разделить не могу. Начиная еще с первых поисковых систем — ведь они тоже фактически осуществляют модерацию, обрабатывая большое количество информации, размещенной на сайтах, и оценивая её ценность и допустимость, — продолжая системами антиспама, и теми автоматическими средствами модерации, которые сейчас применяются в соцсетях, мы можем убедиться, что, даже справляясь с большой массой простых задач, такой искусственный интеллект проваливается на чувствительном количестве случаев. То дорвей в поиске покажет, то хорошее письмо в спам положит, то плашку про глобальное потепление повесит на моем тексте про «Дождь». А закон больших чисел неумолим — имея десятки миллионов пользователей и триллионы единиц информации, даже малых долей процента нарушений будет достаточно, чтобы создать нужную (или ненужную) картинку в массовом сознании. Именно поэтому все компании, имеющие дело с «грязным» интернетом — то есть не премодерируемой коллекцией документов, — держат немалый штат модераторов-людей, и не очень важно, это собственные сотрудники или контракторы. Тем более, что в интернете и соцсетях немало контента, который дорого или просто невозможно контролировать автоматически — например, аудио и видео.

Второй же момент как раз касается утверждения о том, что социальная сеть должна быть протоколом, после чего приводятся примеры в виде Mastodon, Matrix (децентрализованный мессенджер) и нового проекта самого Джека — bluesky. Да, вполне возможно, что такие протоколы гарантируют независимость соцсети и вообще прекрасно укладываются в модный Web3, но есть одна проблема — они не очень состоятельны в бизнес-плане. Все они опираются на спонсорскую поддержку больших и не очень компаний. Не спорю, такая модель имеет право на жизнь, но именно в плане социальных сервисов явно проигрывает централизованным компаниям — те просто быстрее развиваются и имеют больше возможностей для этого.

И всё бы ничего, но такое развитие опирается на вполне четкие бизнес-метрики и ведет к тому, что компании начинают стимулировать пользовательское поведение — и появляются newsfeed с положительной обратной связью, оптимизированные под вовлечение пользователей, увеличение времени, которое они проводят в социальном сервисе, что приводит к увеличению количества рекламного инвентаря и росту монзтизации сервиса.

Итак, мы имеем простую дилемму — либо чистый протокол на некоммерческой основе со всеми трудностями и замедленным развитием — Mastodon существует уже 7 лет и до сих пор не стал чем-то большим, чем игрушкой для гиков, а Twitter спустя 7 лет уже был миллиардной компанией, несколько лет как вышедшей на IPO. Либо развитие монетизации, которое приводит к положительной обратной связи в алгоритмической ленте и усилению экстремального контента, что демонстрирует недостаточность алгоритмической же модерации.

Я не могу представить себе решение, которое бы эту дилемму успешно разрешило или сделало неактуальной. Может быть, у вас есть идеи?