30 апреля 2023

Над небольшим open-source проектом GPT4Free сгущаются тучи. Автор репозитория сообщил, что он получил запрос от OpenAI на удаление репозитория под угрозой судебного преследования.

GPT4Free — это набор библиотек, развернув который, вы можете на собственной машине получить бесплатный доступ к API проектов, использующих API OpenAI или свои собственные. Практически проект позволяет просто получить такой доступ в одной точке, без необходимости подписываться на все остальные сайты. Правда, при этом он обходит ограничения этих сайтов, в том числе платные, так что понятно недовольство владельцев сервисов, оплачивающих корпоративные лицензии на доступ к OpenAI. Ранее часть сервисов уже потребовали удалить скрипты, отвечающие за доступ к ним, и владелец это требование выполнил. Теперь пришла очередь главного калибра.

В общем, ничего удивительного. А если вам всё же хочется иметь собственную небольшую GPT локально, лучше посмотрите на проект GPT4All — они используют легально доступные модели от GPT и Llama, дотренированные на их собственном датасете. Я смотрел месяц назад и там уже было интересно, хотя и с кучей команд в консоли, а сейчас там есть прямо готовые программы, которые можно поставить одним пакетом и использовать.

Поскольку воскресенье, а у нас еще и холодная дождливая погода, то я решил подкаст записать. Немного другая картинка, немного про AI и новости, немного про Telegram.

Видео —  Аудио —

Выходные еще не закончились, можно успеть посмеяться.

Тут мне в комментариях посоветовали Open Assistant. Я пошел, залогинился и предложил боту самую простую задачу, которую GPT4 выполняет почти моментально и почти идеально, на мой взгляд, — сделать саммари длинного текста. Правда, поскольку перед этим бот сознался, что может и на русском, я и попросил сделать саммари на русском. То есть диалог выглядел так — «сделай выжимку из текста на русском на 400-500 слов» и далее текст на английском.

Продолжение диалога на скриншоте, но я просто не понимаю, что ему написать в ответ.