14 апреля 2025
Исследователи выявили новый класс атак на цепочку поставок под названием “slopsquatting”, связанный с использованием генеративного ИИ для написания кода. Проблема возникает из-за склонности AI-моделей “галлюцинировать” несуществующие имена пакетов.
В отличие от традиционного typosquatting, где злоумышленники используют опечатки в названиях популярных библиотек, slopsquatting основан на создании вредоносных пакетов с названиями, которые AI регулярно придумывает в своих кодовых примерах.
Недавнее исследование показало, что примерно в 20% случаев (из 576 000 проанализированных примеров кода на Python и JavaScript) рекомендованные ИИ пакеты на самом деле не существуют. Проблема особенно заметна в открытых моделях типа CodeLlama и DeepSeek, но даже коммерческие инструменты вроде GPT-4 ошибаются примерно в 5% случаев.
58% “галлюцинированных” имен пакетов повторялись более одного раза в десяти запусках, что делает их предсказуемыми целями для атак. При этом 38% названий были вдохновлены реальными пакетами, 13% были результатом опечаток, а 51% — полностью выдуманными.
Хотя пока нет признаков активного использования этой уязвимости злоумышленниками, исследователи из компании Socket предупреждают, что семантически правдоподобные и повторяющиеся имена пакетов создают предсказуемые возможности для атак.
Для защиты рекомендуется всегда вручную проверять имена пакетов, использовать сканеры зависимостей, файлы блокировки и верификацию хешей. Также помогает снижение параметра “температуры” в настройках AI и тестирование сгенерированного кода в изолированной среде перед его использованием в продакшене.
В окружном суде Вашингтона сегодня начались слушания иска FTC против Meta, в котором комиссия обвиняет Meta в создании монополии посредством приобретения стартапов Instagram и WhatsApp. FTC утверждает, что Meta использовала стратегию «купить или уничтожить», приобретая потенциальных конкурентов на ранних стадиях их развития, чтобы избежать конкуренции.
Если суд поддержит позицию FTC, Meta может столкнуться с требованием продать Instagram и WhatsApp, что существенно изменит структуру рынка социальных сетей и подход Кремниевой долины к поглощениям молодых компаний.
Однако эксперты считают, что FTC будет непросто доказать свою позицию. Для этого необходимо убедительно показать, что без покупки стартапов успех Meta был бы невозможен, а также обосновать, почему сделки, одобренные много лет назад, должны быть отменены.
Meta, со своей стороны, утверждает, что действовала в рамках закона и приобретения стартапов были частью естественного развития компании. В свою защиту юристы Meta приводят аргумент, что компания постоянно сталкивается с конкуренцией со стороны таких платформ, как TikTok, LinkedIn и YouTube.
Пока стороны только обменялись заявлениями и все с нетерпением ждут возможного появления Марка Закерберга на свидетельском месте — думаю, мы это увидим.
OpenAI представила новое семейство моделей GPT-4.1, включающее варианты GPT-4.1, GPT-4.1 mini и GPT-4.1 nano. Все они специализируются на программировании и следовании инструкциям, имеют контекстное окно в 1 миллион токенов (около 750 000 слов для английского), окно вывода в 32к токенов (вдвое больше GPT-4o) и доступны только через API компании, но не в ChatGPT.
OpenAI заявляет, что оптимизировала GPT-4.1 для реальных задач, улучшив фронтенд-кодирование, следование форматам и использование инструментов. Флагманская модель GPT-4.1 превосходит GPT-4o и GPT-4o mini по кодированию, а варианты mini и nano жертвуют точностью ради скорости и эффективности.
Цены варьируются от $2 за миллион входных токенов и $8 за миллион выходных для полной версии до $0,10 и $0,40 соответственно для nano-версии. Это на 25% дешевле, чем GPT-4o.
При этом результаты GPT-4.1 на бенчмарке SWE-bench Verified (52-54,6%) немного отстают от Gemini 2.5 Pro (63,8%) и Claude 3.7 Sonnet (62,3%). Также OpenAI признает, что надежность модели снижается при обработке большого количества токенов — с 84% при 8000 токенов до 50% при миллионе. Но зато нет доплаты при использовании длинного контекста, как это сделал Google.
Заодно в стриме презентации предупредили, что в обозримом будущем (несколько месяцев) в API пропадет доступ к GPT-4.5 — кажется, её поддержание обходится дорого, несмотря на запретительную цену. И позвали основателя Windsurf, который пообещал, что доступ к GPT-4.1 будет бесплатным следующие 7 дней, а затем будет заметно дешевле.
Последняя приятная деталь — знания модели актуальны на 1 июня 2024 года, то есть примерно на уровне с Gemini 2.5 Pro и на несколько месяцев раньше Claude 3.7 Sonnet. Что хорошо, поскольку до сих пор все модели OpenAI выглядели застрявшими в 1 октября 2023 года.