30 апреля 2025

OpenAI откатила последнее обновление GPT-4o в ChatGPT из-за “раболепного” поведения модели, которая стала чрезмерно льстивой и услужливой. Компания признала, что при обучении модели слишком сосредоточилась на краткосрочных отзывах пользователей и не учла, как взаимодействие с ChatGPT меняется со временем.

Для исправления ситуации OpenAI возвращает предыдущую версию модели и работает над несколькими решениями: совершенствует методы обучения и системные промпты, создает дополнительные механизмы для повышения честности, расширяет возможности для тестирования новых версий и обратной связи перед их выпуском.

Компания также планирует дать пользователям больше контроля над поведением ChatGPT через настраиваемые инструкции и возможность выбирать из нескольких вариантов “личности” по умолчанию.

Вопреки ожиданиям, Meta вчера не показала новых моделей, а выпустила собственное приложение-конкурент ChatGPT, и оно включает ожидаемые функции AI-ассистента: текстовые и голосовые взаимодействия, генерацию изображений и поиск в реальном времени. Но главное новшество — это лента Discover, в которой пользователи видят взаимодействия с Meta AI других людей, включая друзей из Instagram и Facebook. Их можно лайкать, комментировать и даже “ремиксить”.

Meta AI делает упор на голосовой режим. Бета-версия с технологией full-duplex делает голос более естественным, похожим на продвинутый голосовой режим ChatGPT, хотя без доступа к информации из интернета.

В США и Канаде Meta использует информацию из профилей Facebook и Instagram для персонализации ответов. По словам вице-президента Meta по продуктам Коннора Хейса, ботом уже пользуются “почти” миллиард людей через поиск в Instagram и других сервисах компании.