4 февраля 2025

Давайте лучше опять про AI.

Anthropic представила новую систему Constitutional Classifiers для защиты языковых моделей от универсальных джейлбрейков. В ходе тестирования прототипа системы более 180 участников потратили свыше 3000 часов на попытки обойти защиту, но никому не удалось найти универсальный джейлбрейк.

Обновленная версия системы блокирует 95.6% попыток джейлбрейка при минимальном увеличении ложных срабатываний (всего на 0.38%) и умеренном росте вычислительных затрат (на 23.7%).

Система работает на основе “конституции” — набора принципов, определяющих разрешенный и запрещенный контент. С помощью Claude генерируются синтетические промпты и ответы для всех категорий контента, включая варианты на разных языках и в стиле известных джейлбрейков. На этих данных обучаются классификаторы входящих запросов и исходящих ответов.

Anthropic предлагает присоединиться к публичному тестированию системы с 3 по 10 февраля 2025 года и попробовать обойти защиту версии Claude 3.5 Sonnet в области запросов, связанных с химическим оружием.

Интересно, что компания открыто признает: система может не предотвратить все универсальные джейлбрейки, а новые методы атак могут оказаться эффективными против нее. Тем не менее, даже те джейлбрейки, которые проходят через защиту, требуют гораздо больше усилий для обнаружения.

А будет еще интереснее, если окажется, что машина все же придумает набор принципов и их применения, который окажется более эффективным, чем реальные конституции, придуманные человеком. Сколько доморощенных правоведов в интернете исчезнет…

Китай ответил на новые тарифы Трампа довольно сдержанно — Пекин объявил о расследовании в отношении Google (хотя сервисы компании недоступны в Китае с 2010 года), внес в черный список владельца Calvin Klein компанию PVH и производителя оборудования для генетического секвенирования Illumina, а также ввел 15% пошлины на импорт энергоносителей из США на сумму менее $5 млрд и 10% на американское нефтяное и сельскохозяйственное оборудование.

Похоже, что ответ Си Цзиньпина тщательно выверен — не нанести серьезного ущерба собственной экономике, но продемонстрировать Трампу способность создавать проблемы по разным направлениям, включая цепочки поставок важных минералов и деятельность американских компаний в Китае.

Рынки отреагировали довольно спокойно, особенно после сигналов Трампа о желании поговорить с китайским лидером до вступления тарифов в силу. Китайские пошлины должны вступить в силу 10 февраля, что оставляет пространство для переговоров.

Апелляционный суд в Сан-Франциско скептически отнесся к аргументам Google о том, что конкуренция с Apple на рынке смартфонов является достаточным основанием для отмены вердикта присяжных по делу о монополии в Android-приложениях.

В 2023 году присяжные поддержали Epic Games, создателя Fortnite, обвинившего Google в установлении ограничительной политики Google Play Store и выплате производителям телефонов и разработчикам популярных приложений за эксклюзивное использование своего магазина. Да, в отличие от аналогичного иска в отношении Apple, в этом случае Epic удалось добиться участия жюри, что, возможно, сыграло свою роль в итоговом вердикте.

Google пытается убедить суд, что дело аналогично иску Epic против Apple, который компания проиграла. Однако судьи указывают на “четкие фактические различия между миром Android и миром Apple”.

Google хочет отменить судебный запрет, требующий от компании снять ограничения на создание альтернативных магазинов приложений и платежных систем. Запрет приостановлен с осени прошлого года на время апелляции. Для понимания масштаба — в 2020 году магазин приложений принес Google более 14 миллиардов долларов дохода от 15-30% комиссии с большинства цифровых покупок.

Если вы запутались в исках против Google, то это первый из проигранных исков. По второму — относительно поисковой монополии, — Google также признан виновным, сейчас идет дискуссия относительно ограничительных мер, которые станут основой вердикта (это тут говорят про продажу Chrome и прочее), а третий иск, касающийся монопольного положения на рынке онлайн-рекламы, еще рассматривается судом.

Apple получила прекрасный аргумент для своей позиции в части модерации приложений в AppStore — приложение Hot Tub с порноконтентом стало доступно через альтернативный магазин AltStore PAL, который появился в регионе из-за требований европейского Digital Markets Act.

Разработчик Hot Tub позиционирует приложение как “одобренное Apple”, что компания называет ложью. По правилам Apple, приложения в сторонних магазинах в ЕС проверяются только на наличие вредоносного ПО и совместимость с устройствами, но не получают одобрения по качеству или функциональности.

Apple заявляет, что “глубоко обеспокоена рисками безопасности”, которые создают подобные приложения, особенно для детей. Компания подчеркивает, что никогда бы не допустила такое приложение в официальном App Store, но вынуждена разрешить его распространение из-за требований Еврокомиссии.

Любопытно, что AltStore получил инвестиции от Epic Games — давнего противника Apple, который судится с компанией по поводу правил App Store в разных странах. Epic также запустил собственный сторонний магазин для iPhone в ЕС.

Spotify впервые за свою историю показала прибыль по итогам полного года. В четвертом квартале компания заработала 367 млн евро против убытка в 70 млн евро годом ранее. За весь 2024 год чистая прибыль составила 1,14 млрд евро по сравнению с убытком в 532 млн евро в 2023 году.

Число активных пользователей выросло на 12% до 675 млн — это лучший четвертый квартал в истории компании, превысивший прогнозы на 10 млн. Платных подписчиков стало больше на 11%, достигнув 263 млн.

Такие результаты стали возможны благодаря смене стратегии — после многолетних инвестиций в рост и подкасты (более $1 млрд), компания в 2023 году сократила около 20% сотрудников и сфокусировалась на контроле расходов. Кроме того, Spotify повысила цены на подписку во многих регионах, включая США.

Валовая маржа достигла 32,2%, что выше целевого показателя в 30%, который компания планировала достичь между 2025 и 2027 годами. Средний доход на одного платного пользователя вырос на 5% до 4,85 евро благодаря повышению цен. Рекламная выручка увеличилась на 7% до 537 млн евро.

На фоне этих новостей акции Spotify с начала года выросли на 20%.