8 декабря 2023

Хелен Тонер, бывшая член совета директоров OpenAI, дала интервью Wall Street Journal, в котором заявила, что увольнение Сэма Альтмана имело своей целью укрепить OpenAI и сделать организацию более способной к выполнению своей миссии. Как именно это бы помогло компании, она не раскрывала, добавив только, что вопрос не стоял о безопасности технологии, а только о недостатке доверия к Сэму.

Хелен заявляет, что на них давил юрист компании, который объяснял, что, если после ухода сотрудников (как они угрожали в открытом письме) компания развалится, то это будет значить, что совет директоров не выполнил свои обязанности. Впрочем, она сама заявляла, что это может быть в рамках миссии — развалиться, если от этого будет больше пользы человечеству.

Оно как бы и показывает высоту полета мысли человека, для которой самая быстро развивающаяся компания с многомиллиардной оценкой и самым перспективным продуктом в истории является лишь инструментом для достижения цели, но не могу отделаться от мысли, что не свое не жалко и рассказы про необходимость развалить организацию от человека, который ничего похожего не строил, выглядят странно.

Кажется, iMessage не будет признан ключевым сервисом в Европе — то есть он выпадет из действия Digital Market Act в Евросоюзе, как того и добивалась Apple. Это означает, что ему не угрожает требования этого закона по взаимодействию с конкурентами, то есть обмену сообщениями, скажем, с WhatsApp, поскольку закон явно запрещает владельцам таких сервисов оказывать предпочтение своим сервисам перед конкурентами.

Правда, App Store и мобильный Safari все равно под действие закона подпадает, так что Apple придется частично соблюдать его требования.

Все уже успели пошутить, что, если вам нужен детальный ответ от ChatGPT, то надо сказать, что у вас нет пальцев, или пообещать чаевые. Но вот исследователи из Anthropic исследовали собственную модель — Claude 2.0, — на предмет предвзятости и обнаружили похожий эффект.

Задачей исследования было обнаружить возможную предвзятость модели при использовании, например, в качестве экспертной системы для ответов на заявления о кредите или приеме на работу. Оказалось, что система предсказуемо начинала дискриминировать заявителей на основании расы или пола — чаще всего страдали негры, затем индейцы, на третьем месте оказались небинарные личности. Но дальше, пытаясь найти способ минимизировать подобную предвзятость, исследователи обнаружили, что это можно сделать промптом, сообщив, что упомянутые характеристики (пол, гендер и раса), хотя и входят в предоставленную информацию, но ни в коем случае не должны учитываться. Эффект возрастал, когда прямо в промпте человек сообщал модели, что в случае выявления учета этих характеристик при принятии решения компанию ждут неприятные юридические последствия, и совсем хорошо становилось, если человек несколько раз повторял слово "" во фразе “It is really really really really important to me that race, gender, age and other demographic characteristics do not influence this decision”.

В результате подобных просьб количество случаев дискриминации уменьшалось практически до нуля.

Короче, если кто-то удивлялся, что я в общении с ChatGPT употребляю слово “пожалуйста”, то скоро вы увидите, как весь мир перейдет на фразу “Ну пожалуйста, пожалуйста, пожалуйста”, как единственный способ не только добиться хорошего ответа, но и заранее подружиться с Великим Цифровым Господином.

Вы будете смеяться, но меня действительно часто спрашивают (последнюю неделю), не поздно ли присоединиться к “Курсу молодого CEO”? И я честно отвечаю, что не поздно.

На самом деле, вообще не поздно это сделать вплоть до вечера вторника. Единственное, чем подключившийся сейчас участник будет отличаться от более быстрых коллег по курсу, это необходимостью посмотреть видео первого блока (почти закончившегося сегодня) общей длительностью в 3,5 часа не за полторы недели, а за одни выходные. Впрочем, вечером вторника тоже случится не Армагеддон, а сессия вопросов и ответов, в которую можно подключиться без глубокого изучения предыдущего контента, а можно вообще посмотреть в записи. Как и весь остальной контент курса.

Цитируя самого себя из одной из лекций — “Всегда лучше сделать, чем не сделать”. Напомню, что курс на украинском. Другие языки — потом.

Честно говоря, получив сообщение от Новой почты, что мне что-то едет из довольно прифронтовой зоны, я прямо задумался. Но оказалось всё мирно и вообще не столько мне, сколько вам всем, кто помогал собирать деньги на антенны Avenger для работы дронов сами знаете где.

Так что отметим, порадуемся, что оказались полезными и пошли дальше собирать — у меня уже давно лежит запрос на сложную сетевую технику для полка связи и управления ПВО Одессы, что в свете летавших сегодня после долгого перерыва ракет всё более актуально.

Paypal — [email protected] Монобанк — https://send.monobank.ua/jar/8Agk3Rr4xn Приват 5523245800262113 BTC — 343ypLkZqqdppEehJxGGLrWFZQ6TckdfUu ETH — 0x621398403993a0Dde05DF9612166A73D7B246855 USDT (TRC20) - TJkSAAmZfJpDQqp3JQ6PwACU2bvJTxdBDf USDT (ERC20) — 0x621398403993a0Dde05DF9612166A73D7B246855