23 ноября 2023
Все уже написали, давайте и я добавлю для полноты картины — источники сообщают, что незадолго до увольнения Сэма Альтмана OpenAI достигла существенного прогресса в развитии модели Q* (Q-Star), которая в состоянии решать базовые математические задачи, с которыми ранее не сталкивалась. Модель построена на работе, среди авторов которой значатся Илья Суцкевер и Ян Лейке из OpenAI, и которая рассматривает обучение модели с помощью process supervision — то есть когда обучение проводится на основании обратной связи по каждому этапу решения задачи. По утверждениям авторов статьи, обученная таким образом модель (работа вышла в мае этого года) смогла решить 78% задач из предложенного набора, при этом сам процесс управления обучением стал более эффективным.
Как сообщают, достигнутый прогресс привел к появлению коллективного письма сотрудников OpenAI в адрес совета директоров, где сообщалось, что этот прорыв может угрожать человечеству. Правда, само письмо журналисты не увидели.
Полученная модель, по слухам, может обойти ограничение в части необходимости большого количества качественных реальных данных для обучения, позволяя обучаться на искусственно сгенерированных данных.
Мне это кажется похожим на интуицию — чисто человеческое (пока?) свойство, позволяющее принимать решения на основании неполных данных. Правда, все эти страшные рассказы про захват мира в сферическом вакууме меня не очень впечатляют — не верю в существование сознания без органов чувств и манипуляторов.
Джек Дорси обратился к сотрудникам Block с письмом, в котором сообщил, что компания (она управляет Square, Tidal и CashApp) прекращает практику регулярных ежегодных ревью эффективности сотрудников после проведения тех, которые должны стартовать в ближайшее время. Вместо этого планируется постоянно оценивать работу сотрудников, чтобы не откладывать принятие решений по ним до проведения формальной процедуры ревью.
При этом компания планирует ввести рейтинги эффективности, доступные каждому сотруднику,
Кроме этого, Джек сообщил, что нынешний Chief Scientist компании Дханджи Прасанна назначен CTO.