22 января 2024

Сэм Альтман занимается масштабным проектом — как утверждают, глава OpenAI ведет переговоры как с производителями чипов, как TSMC, так и с инвесторами, например, шейхом Тануном бин Заедом, братом президента ОАЭ и одним из самых богатых людей в Эмиратах, для разворачивания производства чипов, которые могли бы составить конкуренцию Nvidia. Речь, конечно, в основном про чипы, которые можно использовать в разработке и обучении моделей AI.

Если помните, в прошлом году уже были новости, что OpenAI и некоторые другие компании вкладываются так же в поддержку аналогичных чипов AMD — те, конечно, не могут сравниться с чипами Nvidia, но все надеются, что пока.

Вот этот ажиотаж мне всё сильнее напоминают “Анклавы” Вадима Панова. Усиливающийся хаос в мире тоже, в общем, создает ощущение похожести, конечно, но супермощные “поплавки”, ставшие в романах одним из катализаторов безудержного развития ситуации, очень уж похожи.

Интересная новость — Google разорвал контракт с компанией Appen, которая предоставляла ему услуги по оценке поисковой выдачи. Фактически, Google аутсорсил работу асессоров поиска — людей, которые оценивают соответствие результатов поиска и отдельных сайтов задаваемым запросам. Эти оценки кладутся в основу обучения поискового алгоритма.

Из интересного — Appen австралийская компания. Возможно, Google аутсорсил эти задачи в более дешевую страну, возможно, теперь это не так дешево. Интересно, что контракт с Google составлял лишь 26% от дохода компании — вполне возможно, что остальной доход приносят различные другие аутстафф-контракты, но вполне может быть, что компания что-то похоже оценивает или размечает и для других игроков.

Комментаторы наперебой пытаются рассказать, что это потому, что теперь у Гугла оценку будет делать AI, явно плохо понимая, как последние 15 лет работает поиск. Вкратце — поиск уже много лет обучается на человеческих оценках и строит формулы ранжирования самостоятельно, но заменять человеческие оценки оценками AI — это как обучать LLM на выдаче другой LLM. Даже не хочу фантазировать, к чему может привести галлюцинация исходного AI.

Я думаю, что это банальная оптимизация расходов и ни один AI в процессе не пострадает. Google тем более может это делать, господствуя на глобальном рынке поиска — если перестать достигать последние 5% качества поиска, можно сэкономить до 50% расходов на разработке.