Удивительная этичность AI

Удивительно и даже слегка парадоксально ведет себя искусственный интеллект. Я на днях решил сдать некоторые анализы, сделал кардиограмму и, по получению результатов, решил поэкспериментировать — скормил результаты в разные AI-системы и попросил мне их объяснить.

На самом деле, часть анализов и так были снабжены заключениями живых врачей, а по остальным показателям я в предыдущие разы много гуглил, чтобы уяснить себе смысл каждого из них. Так что сначала задача была простая — пусть он (AI) сам прокомментирует показатели, чтобы я не гуглил.

Результат оказался странным — ChatGPT сначала прокомментировал показания электрокардиограммы, но саму кардиограмму в виде картинки отказался комментировать наотрез.

Ответ ChatGPT на электрокардиограмму
Ответ ChatGPT на электрокардиограмму

Напротив, недавно запущенный Claude 3 Opus (самая мощная модель от Anthropic) никаких сомнений не испытал и подробно прокомментировал каждый зубец на графике:

Ответ Claude 3 Opus на электрокардиограмму
Ответ Claude 3 Opus на электрокардиограмму

Удивительно в этом то, что именно Anthropic настаивал на своей “конституционности” и всякой ответственности, причем компания была основана специалистами, ушедшими несколько лет назад из OpenAI по причине несогласия с позицией остальных. И, казалось бы, им и проявлять большую осторожность.

И коротко добавлю, что Claude в итоге прокомментировал и все остальные анализы и даже ответил на наводящие вопросы о диагнозах. Хотя вот тут как раз и напомнил о необходимости консультации специалиста.

Наблюдения про сервисы и своеобразное мышление

Случайно замеченный пост в Facebook привел к интересным наблюдениям — и про стартапы, и про менеджмент, и про, извините, своеобразное мышление некоторых личностей.

Итак, вот встреченный пост — автор Илья Красильщик, который начинал карьеру руководителем группы асессоров в Яндексе, потом поруководил Медузой, а потом вернулся в Яндекс и занялся проектом Лавка (доставка свежих продуктов, аналог Instacart, если я правильно понимаю), а теперь эмигрировал из рф, осел в Берлине и ищет себе применение…

Спам от Payoneer

Прямо хочется руками развести — вроде бы Payoneer, такая солидная компания, и спамит по регистрационным данным компаний, даже не включая мозги. Люди там вообще в курсе, что “Яндекс.Украина” седьмой год под национальными санкциями?

Скриншот письма от Payoneer

Все хотят быть Наполеонами

Честно говоря, я не собирался даже начинать смотреть новый фильм Ридли Скотта про Наполеона. Но как-то так получилось, что включили, благо он снят для Apple и поэтому бесплатен для подписчиков Apple TV+.

Кадр из фильма Napoleon

Буду краток — с моей точки зрения, это практически идеальное средство от прокрастинации. То есть буквально минуты с пятой фильма я начал ощущать, что у меня есть такое количество более интересных дел — от попить чаю до посмотреть YouTube, — и это ощущение нарастало, пока после примерно минут 45-50 я не поддался соблазну — и таки сделал чай и ушел смотреть YouTube.

У меня осталось впечатление, что фильм снимали по школьному учебнику или по статье в Википедии — то есть умолчать о взятии Тулона или роялистском мятеже вроде как нельзя, но особой логической связи с предыдущими эпизодами это не имеет.

Сам же образ Наполеона в исполнении Хоакина Феникса у меня вызвал недоумение — во-первых, Наполеону при взятии Тулона было 24 года. Актеру в этом году исполнится 50 (прямо просится, что выглядит он на все 100), и он совершенно не пытается выглядеть моложе. Во-вторых, он первые полчаса на экране вообще выглядит каким-то агентом потустороннего мира — каменное лицо, никаких эмоций, загадочные высказывания.

Излишний натурализм батальных сцен, конечно, вполне соответствует веяниям времени, но это лишь подчеркивает условность ряда сцен — ну, например, когда Наполеон при взятии фортов в Тулоне из тени ночью командует войсками жестами, а потом зачем-то с саблей наголо лезет на стену форта.

Я читал, что вроде бы есть режиссерская серия без купюр и там нет этого ощущения клиповости и рваности, но это не делает фильм хорошим. Короче, не советую.

Маск решил вступиться за AI

Илон Маск решил, что, кроме него, за AI постоять некому и предъявил иск Сэму Альтману и всем возможным организациям, составляющим OpenAI. В иске он обвиняет всех в том, что они:

  • нарушили исходное соглашение об основании OpenAI как неприбыльной организации,
  • нарушили обещания, приравненные к контракту относительно развития организации,
  • нарушили обязанности перед инвесторами (fiduciary duty),
  • применяли нечестные деловые методы, что привело к материальному ущербу для Маска и других представителей общественности,
  • нарушали принципы финансирования, не направляя все средства по назначению, то есть для некоммерческого развития AI.
Таким представляется Маск в суде модели Midjourney

В преамбуле также утверждается, что фактически Альтман сделал из некоммерческой организации бизнес-придаток Microsoft, что GPT-4 и тем более разрабатываемая сейчас модель Q* являются AGI (Artificial General Intelligence) и поэтому не должны входить в контракт с Microsoft.

Исковое заявление требует, чтобы:

  • ответчики продолжили делать хорошо (как положено для некоммерческой организации),
  • ответчики перестали делать плохо (то есть извлекать прибыль из AI),
  • суд признал GPT-4 и Q* за научный факт Artificial General Intelligence (тем более, что внутре у них точно нейронка),
  • и взыскал соответствующий ущерб, какой суд сочтет нужным, каковая сумма будет куда-то передана — в non-profit или на благотворительность.

И чтобы всё это рассматривалось в суде присяжных — очевидно рассчитывая на глас народа, не очень разбирающегося в том, что такое AGI, зато уже опасающегося всей темы.

Правда, до сих пор Маску не очень везло на суды. Даже прямо можно сказать — совсем не везло и вчера же прошла новость, что предыдущий громкий иск, в котором Маск обвинял некоммерческую организацию в распугивании рекламодателей Twitter с причинением ущерба, особой перспективы не имеет.

Vesuvius Challenge

Проект Vesuvius Challenge объявил о присуждении главного приза по результатам 2023 года. Но сначала о самом проекте.

Модель виллы

Ученые много десятилетий пытаются прочесть свитки из Геркуланума — при извержении Везувия в 79 г. н.э., погубившем Помпеи, была засыпана пеплом вилла, библиотека которой содержала тысячи свитков. Свитки при этом обуглились от высокой температуры, но пепел их сохранил. В 1750 году виллу нашли вместе со свитками и немалое количество их погубили попытками развернуть — обугленный папирус крошится при этом. Только в последние годы попытки пошли в другом направлении — теперь свитки пытаются развернуть виртуально.

Так выглядит обугленный свиток
Так выглядит обугленный свиток

В прошлом году группа филантропов во главе с основателем Github Нэтом Фридманом организовала международное соревнование — для этого свитки, хранящиеся во Франции, были просканированы на синхротроне в Оксфорде для создания очень детальных 3D-сканов, после чего результаты были переданы участникам. И вот по итогам 2023 года есть реальный прорыв — одна из команд смогла прочесть 15 колонок текста — более 2000 символов, — причем это ранее неизвестное произведение греческого философа Филодемуса, принадлежащего к школе эпикурейцев и учителя Вергилия.

Результат расшифровки одного из свитков
Результат расшифровки одного из свитков

Команда из трех уже отличившихся участников — они выиграли в течение года спецпризы за первые распознанные слова и разработку алгоритмов сегментации (разделения слоев папируса в сканах), — получит 850 тысяч долларов в качестве главного приза.

Теперь задача проекта на 2024 год — разработать масштабируемую технологию сканирования и распознавания свитков. Сейчас работа над 1 кв.см свитка обходится в 100 долларов, что делает стоимость расшифровки одного свитка от 1 до 5 млн долларов. Кроме того, доставка свитков в Оксфорд и сканирование их в синхротроне обходится в 40 тысяч долларов, при этом приходится ждать перерывов в исследованиях на установке. В общем, организаторы рассчитывают, что имеющиеся 800 свитков будут прочитаны в ближайшие 2-3 года — при этом раскопки виллы можно и нужно продолжить, ученые уверены, что миру откроются еще много свитков — тем более, что это практически единственная дошедшая до нас античная библиотека.

Мастер и Маргарита

Шумиха вокруг только что вышедшего фильма «по «Мастеру и Маргарите» так меня заинтересовала, что я в итоге посмотрел фильм. Я даже не помню, когда бы смотрел экранную копию, но вряд ли в обозримом будущем фильм будет доступен нормальным образом, а вой, который подняли откровенные рашисты вокруг фильма, лишь убеждал, что «сапоги хорошие, надо брать».

Кадр из фильма Мастер и Маргарита

И, надо сказать, предчувствие меня не обмануло. Фильм, хоть и построен на книге, сильно отличается от неё и даже создаёт совершенно другую атмосферу. Москва, которую Булгаков изображал мещанской, в фильме выглядит столицей тоталитарного государства, которая гибнет в пожаре в финале фильма — согласитесь, уже поэтому стоит посмотреть, потешить взор?

Москва в финале фильма
Москва в финале фильма

Я не буду пересказывать сюжет, лишь отмечу, что главный герой фильма — не Воланд, ни Иешуа, а именно Мастер, в котором легко угадать самого Булгакова.

И отдельное удовольствие вызывает тот факт, насколько грандиозной диверсией оказался фильм в нынешней ситуации — невозможно не угадать отсылки к современности даже в отдельных фразах — «Зачем нам рай? Мы поедем в Крымский край!», «Советский союз народных республик». При этом фильм снят по госзаказу, то есть на деньги российского бюджета, в разных ролях заняты очень лояльные режиму и даже лично Путину люди — от лауреатов премий до целого доверенного лица Путина на нынешних «выборах» Алексея Гуськова (в роли сексота барона Майгеля). Поэтому вой рашистов еще и бесплодный, а фильм прекрасно идет в прокате — хотя режиссера обвиняют в поддержке ВСУ и он сам говорил о передаче гонорара в фонд помощи Украине.

В общем, это прекрасно во всех смыслах, советую посмотреть.

Чудеса перевода — 2

Я уже жаловался тут на особенности переводов художественной литературы, когда из-за невежества переводчиков серьезно страдает переводимое произведение, а то и теряется часть его смысла. Бывает, впрочем, и иначе — когда переводчики начинают дописывать в свой перевод такое, что исходное произведение становится чем-то другим.

Захотел я тут перечитать “Властелина Колец”. Я впервые его читал еще в 90-х и, разумеется, тогда понятия не имел, насколько перевод совпадает с оригиналом. Однако все же я неплохо помню имена собственные, названия мест и какие-то характерные обороты — поэтому, начав спотыкаться об какие-то Землеройски, я привычно чертыхнулся, но все же продолжил читать, пока не поймал себя на мысли, что что-то тут со стилем не так – добропорядочные хоббиты почему-то изъяснялись в стиле русских крестьян, эльфы явно выросли на поэзии серебрянного века, а география запуталась окончательно. Когда с третьего раза встретив слово “Ристания”, я догадался, что речь идет о Рохане, мне стало ясно, что опять не повезло с переводом. Бог с ними, с Бильбо и Фродо, которые у разных переводчиков оказываются то Бэггинсами, то Торбинсами, то Сумкинсами — но как из Рохана можно получить Ристанию?

Я думаю, все помнят уже ставший мемом перевод фразы “Boromir smiled”, где авторы разных переводов изощрялись — то он превозмогал боль, то обессиленно вздохнул, и так далее. Но это же не единственное место. Вот прямо классическая иллюстрация — когда, еще путешествуя по Ширу, хоббиты впервые встречают черного всадника и Сэм вспоминает, что такой всадник разговаривал с его отцом.

Black Rider talks with Gaffer Gamgee about Frodo Baggins

Немного о социологии

Так получилось, что я уже лет 30 периодически сталкиваюсь с социологией. Сначала это был спецкурс в институте — он хоть и читался, как гуманитарная часть технического образования, но прекрасно сочетался с базовыми для нас тервером и матстатистикой. Потом пришло время маркетинга и интернет-измерений. С 2005-го года я много занимался вопросами измерения интернет-аудитории в Украине, ну и маркетинговыми исследованиями. Ну, и сейчас регулярно сталкиваюсь.

Так вот, в социологии есть пара моментов, которые плохо укладываются в головах тех, кто по любому поводу ссылается на результаты соцопросов, как на нечто железобетонное и объективное.

Про ситуацию с Мазепой и вообще

Даже не думал комментировать, но тут журналисты спросили, что я думаю.

Если вкратце изложить предысторию, то вот:

Бізнесмен та засновник інвестиційної компанії Concorde Capital Ігор Мазепа, який прямував на форум у швейцарському Давосі, був затриманий слідчими Держаного бюро розслідувань (ДБР) на КПП Медика-Шегині 18 січня о 15.00.

Правоохоронці, за інформацією прес-служби компанії, провели обшук автомобіля. Та додали, що інші слідчі дії було проведено без допуску до них адвоката, хоча останній прибув на місце подій.

Одночасно силовики увірвалися у Concorde Capital, вибивши двері бізнес-центру. «Обшуки в компанії проводяться без ухвали суду, забирають всі документи, які не стосуються справи, а пов‘язані з усіма напрямками бізнес-активності Ігоря Мазепи. Вилучено особисті речі співробітників, які працюють в інших проєктах, — Повідомили компанії. — Також проводяться обшуки в помешканнях співробітників і також без ухвали суду. Вилучаються особисті речі, гроші».

В компанії повʼязують такі дії ДБР «з позицією Ігоря Мазепи стосовно тиску силовиків на бізнес». Зокрема, у травні 2023 року Мазепа приєднався до антирейдерського руху проти правоохоронців та суддів, які використовують повноваження з незаконною метою. 28 червня 42 відомих вітчизняних підприємців опублікували маніфест на захист 42-ї статті Конституції. Серед них — власниця фармкомпанії Фармак Філя Жебровська, гендиректор Агромату Сергій Войтенко, засновник Текстиль-Контакту Олександр Соколовський, фаундер компаній FinStream та Cronvest, голова Асоціації підприємців-ветеранів Сергій Позняк, голова Федерації роботодавців України Дмитро Олійник та інші.

Бюро називає Мазепу «організатором схеми протиправного заволодіння землями, на яких розташовані гідротехнічні споруди критичної інфраструктури — Київської ГЕС». Мова йде про 2,4 га, які підприємець придбав на вторинному ринку для будівництва котеджного містечка Goodlife Park.

Окрім підприємця, у різних регіонах України затримали ще трьох учасників «злочинної організації», зокрема брата бізнесмена Юрія Мазепу. Обшуки також були проведені в особистих домівках Ігоря Мазепи та його брата.

Згодом у Concorde Capital повідомили, що Мазепі пропонують встановити заставу у 700 млн грн, а його брату Юрію — 500 млн грн. При цьому, як зазначили в прес-службі компанії, загальна сума збитків, начебто завданих державі, які інкримінують підприємцям, становить лише 7 млн грн.

В Forbes-Украина вышла интересная колонка про то, что нужен новый договор бизнеса и власти:

У численних Facebook-дописах та приватних розмовах із підприємцями червоною ниткою проходить заклик – так не може бути, досить розмов і паркетних зустрічей в Офісі, треба діяти. Зміна правил гри (у нашому випадку – їх поява) – це завжди боротьба і проактивна дія.

Але звичні українцям методи боротьби – протест, Майдан – зараз не підходять: країна веде екзистенційну війну з ворогом, що переважає. Що робити?

Підприємці креативні та винахідливі. Я вже чув два варіанти від бізнесменів (з поваги до авторського права й авторів не буду їх зараз озвучувати). Але у них є спільні риси: консолідація бізнесу, незалежно від галузі, розміру, географії. А результатом має бути новий договір бізнесу з владою і правоохоронцями.

Я б у нього заклав обовʼязок бізнесу чесно сплачувати податки й допомагати силам оборони, провів би амністію господарських правопорушень після умовного 2019 року і зафіксував права власності. А у правоохоронців має зʼявитися відповідальність за необґрунтоване перешкоджання бізнес-діяльності.

Без правил, як мінімум в української економіки, немає майбутнього. Проте наразі йдеться не лише про існування економіки.

Я считаю, что это не совсем конфликт власти и бизнеса - бизнес просто более заметен. Это прямая угроза конфликта между обществом и властью. Если помните, в начале 2010-х тоже начиналось с наездов на бизнес, “смотрящих”, а уже потом это почувствовало остальное общество.
Я под властью понимаю не конкретно первое лицо, или даже его офис - каждый прокурор или следователь это тоже власть и даже более непосредственная, так сказать.
И, если принимать во внимание общий контекст событий, то вообще возникает вопрос - почему власть так много говорит о нехватке людей на фронте, а для того, чтобы кошмарить бизнес, патрулировать тыловые города, проверять маршрутки и выбивать двери в офисы, физически крепких ребят в полном снаряжении более чем достаточно?

В тексте колонки, где предлагается какая-то амнистия и “договор” между бизнесом и властью, трудно понять, что это должно быть - соглашение о том, что мы не нарушаем законы? Разве мы, с властью включительно, и так не должны не нарушать законы? Или это должен быть запрет на обыски? Я более чем уверен, что сразу найдутся примеры, о которых будут говорить “Что, и этого не обыскивать/сажать/привлекать?”.

Мне кажется, что быстрого и простого выхода из этой ситуации нет. Не могу не отметить, что это все не только вредит репутации страны в мире, но и скорее всего навредит ВСУ, потому что большинство бизнесменов так или иначе участвуют в волонтерской помощи военным и даже если они будут пытаться сохранить такое участие, заботиться о бизнесе - то есть обезопасить его от такого рейдерства и минимизировать риски, - тоже важно. Тем более, что, очевидно, сохранить бизнес за два года войны — это не случайность, а результат соответствующей работы владельца.

Нова Пошта переименовалась

Из новостей:

Група компаній Нова пошта змінює назву на NOVA.

Про це йдеться в повідомленні на сайті поштового оператора “Нова пошта”.

“Ми вже набагато більше, аніж пошта, саме тому прибираємо це слово у назві групи компаній і залишаємо широке, без барʼєрів — NOVA”, - зазначають в компанії.

Одно из двух — либо у группы нет планов на Латинскую Америку и Испанию, либо в группе компаний нет маркетологов старше 30.

Castro, похоже, всё

Первая жертва нового года — похоже, приложение для подкастов Castro закрылось. Сайт недоступен, приложение на все вопросы отвечает “сервер не найден”, фанаты приложения — а оно было оригинально сделано и имело ряд интересных фич, — заполняют форумы и Twitter возмущением и вопросами “А что дальше?” и “Как достать свои подписки?”.

В действительности, приложение уже пропадало с радаров примерно месяц назад и ходили слухи, что они закрываются, но через несколько дней простоя всё ожило и появился пост в блоге, что любые спекуляции на тему будущего безосновательны, хотя, как признавалось в тексте, наблюдались уходы из компании.

Тут есть две особенности — во-первых, это очень маленькая компания. Так что уход пары человек реально мог привести к полному развалу работы.

Во-вторых, это платный продукт. И вот это уже очень плохо — там вообще-то до сих пор люди подписывались, то есть платили деньги, а им не дали даже возможности выгрузить свои подписки.

Из смешного — закрытие сервиса осуществлено удалением всех записей из DNS. Так что, если найти старые записи через dnsdumpster, то можно обнаружить работающий сайт. Утверждают также, что можно обновить ряд подкастов, но мне не на чем проверить, а часть инфраструктуры всё же выключена.

В общем, храните подкасты там, где люди ценят свою репутацию. В Overcast или Apple Podcasts. Напомню, что Google Podcasts к таким местам не относится — Google уже объявил о закрытии этого сервиса.

UPDATE: Вы не поверите, они вернулись — правда, объясняют проблему так, что возвращение явно ненадолго. Судя по нему, слухи про уход ключевых сотрудников совершенно правдивы и все выходные они не решали проблему с DNS, а искали человека, который сможет заполнить нужные поля в DNS менеджере.

Довбуш

В рамках продолжения киноканикул, всей семьей посмотрели фильм “Довбуш”, благо он как раз появился на Netflix. Сюжет посвящен жизни Олексы Довбуша, легендарного вождя опришков — украинских повстанцев, ведших борьбу против крепостничества на протяжении нескольких веков (историки утверждают, что первые сведения о них относятся к 1498 году, а последние — к 1930!).

Кадр из фильма Довбуш

Коротко скажу — фильм очень хороший и очень актуальный, хотя и был закончен в 2021 году. Незначительные ляпы в виде многозарядных мушкетов, конечно, присутствуют, но совершенно не бросаются в глаза. Авторы фильма сознательно подправили историю для драматичности и некоторого хеппи-енда (например, брат Олексы Иван после ссоры в реальной жизни не ушел один, а увел часть отряда и действовал в нескольких сотнях километров от отряда Олексы), но опять же это не портит сюжет, а выполняет требуемую задачу увеличения драматизма.

Мне очень нравится многоязычность фильмов об украинской истории — в данном фильме гуцульский диалект переплетается с польским языком и очень правильно воссоздает атмосферу времени. Смотреть при этом удобно, хотя украинские субтитры не помешают — польский все же не так просто понять в некоторых сценах.

В общем, советую — посмотрите, высокий рейтинг фильма на IMDB вполне объективен.

Капли бога

Несколько неожиданно за несколько дней посмотрели сериал “Drops of God” (“Капли бога”), поставленный по мотивам японской манги. Сериал при этом французский, посвящен вину и достаточно удивительно уже то, что французам понадобилось вдохновиться японским сюжетом для сериала о вине.

Сразу скажу, что сериал хороший и мне понравился. Конечно, ряд моментов в сериале следует отнести к художественному преувеличению — никакие природные таланты не помогут даже суперодаренному специалисту распознать вино, если он его не пил, а главная героиня по сюжету вообще не пила алкоголь до 29 лет и потом якобы за месяц всё догнала. Но в целом сюжет очень хорошо построен, постоянные переносы действия из Франции в Японию, оттуда в Италию, опять в Японию и так далее прекрасно работают на романтизацию вина, чем напоминают “Хороший год” Ридли Скотта.

Кадр из заключительной серии сериала Drops of God

В общем, советую посмотреть, всего 8 серий, доступен на AppleTV+ и вообще это сериал Apple. Поэтому у хороших героев iPhone, а появление в кадре Microsoft Surface заставляет догадаться, что герой не очень положителен.