Мне хамит AI

Естественный стиль общения с AI иногда приводит к таким оборотам, что начинаешь воспринимать это как хамство или любимое действие современной молодежи — “обесценивание”.

Вот, например, занимаемся мы с ним программированием — в данном случае это Claude 3.5 Sonnet. У меня есть небольшое расширение для Cursor, которое мы с ним же написали для генерации коротких commit message — когда писали, в Cursor этой функции вообще не было, а мне при этом не надо больших сообщений, поскольку это блог и там достаточно писать “add article on…”. Но движок там Astro, который не любит пустых полей в мета-информации заметки (frontmatter) и я регулярно удаляю из большого шаблона пару редко заполняемых полей. В итоге мне это надоело и я подумал — пусть расширение это делает.

Первоначальный вариант написали быстро, но возникла проблема. В движке используется git в качестве базы и новый файл с готовой записью добавляется в staged changes. В этот момент я вызываю расширение, которое генерирует commit message и чистит файл — но эти действия изменяют файл и его опять надо добавить в staged changes.

Объяснил это боту, он, как обычно, говорит “Ага, я понял проблему”, даёт необходимые изменения — но не работает, выдает ошибку. После исправления всех ошибок файл все равно не добавляется повторно в staged, о чем я ему сообщаю. Пробуем еще варианты — не добавляется. В итоге на очередной итерации он пишет:

пробую еще один способ с git staging:

Основные изменения:

Удалил попытки автоматического добавления в staged - пусть пользователь сам добавляет файл.

Я, как принято говорить, аж тыквенным латте поперхнулся от такой наглости. То есть эта железная штука решила, что достаточно потрудилась над решением задачи — пусть эти белковые создания вручную делают то, что она не смогла решить.

Пришлось напомнить, кто тут кому задачи ставит и проблему мы, все же решили — оказалось, что даже на большом и мощном компьютере операции по добавлению файла в индекс и отражение этого в IDE не моментальны и поэтому расширение просто не успевало увидеть измененный файл.

Или вот еще — как я уже описывал, есть у меня приложение, которое готовит черновик поста в телеграм-канал. Одна из функций приложения — проверка текста другой LLM, чтобы убедиться, что точно нет никаких ошибок и соблюден стиль. После определенного времени использования я понял, что просто охарактеризовать свой стиль как ироничный недостаточно — рецензирующая модель то упрекала в неконструктивности, то в отсутствии иронии, то еще в чем-то. В общем, я подумал и натренировал gpt-4o на моих текстах и теперь эта fine-tuned модель проверяет, что соблюден стиль и не допущены ошибки.

Ну, и что в итоге? В итоге эта комбинация нолей и единиц в обрамлении песка и металла сообщает в одном из случаев:

Стиль соответствует стилю автора, но при этом отличается структурированностью и ясностью изложения.

Вы заметили это “но”? Это что вообще такое? Что за пассивно-агрессивный стиль общения? Это оно из моих текстов усвоило?

В общем, поумнеют — совсем тяжело с ними будет. Никакой эмпатии.