Стоит ли GPT4All вашего времени? Вот как запустить GPT4All локально на вашем ПК или даже на M1 Mac.

GPT4All — о чем вся шумиха

Да, теперь вы можете запустить альтернативу ChatGPT на своем ПК или Mac, и все благодаря GPT4All. Согласно разделу официального репозитория О, это экосистема чат-ботов с открытым исходным кодом, обученных на огромных коллекциях чистых данных помощника, включая код, истории и диалоги.

Но хорош ли он? Как оказалось, он далеко от чистой мощи ChatGPT, но все же это полезная альтернатива, которую вы можете запускать локально без подключения к Интернету.

Тем не менее, это может подойти тем, кто хочет, чтобы решение, подобное ChatGPT, было доступно в любое время и совершенно бесплатно.

В этой статье вы узнаете, как установить GPT4All на любую машину, от Windows и Linux до компьютеров Mac на базе Intel и ARM, ответите на пару вопросов, включая генерацию кода Data Science, а затем, наконец, сравните его с ChatGPT.

Как установить GPT4All на свой ПК или Mac

Чтобы установить GPT4All локально, вам придется выполнить ряд до глупости простых шагов.

1. Клонируйте репозиторий GitHub

Сначала откройте Официальную страницу репозитория GitHub и нажмите зеленую кнопку Код:

Вы можете клонировать репо, выполнив эту команду оболочки:

git clone https://github.com/nomic-ai/gpt4all.git

Или вы можете скачать ZIP-файл и распаковать его куда хотите. Во всяком случае, вот что вы должны увидеть внутри папки:

2. Загрузите файл BIN

Предполагая, что репо клонировано или загружено на ваш компьютер, загрузите файл gpt4all-lora-quantized.bin по Прямой ссылке.

Размер файла составляет около 4 ГБ, поэтому будьте готовы немного подождать, если у вас не самое лучшее подключение к Интернету.

После загрузки переместите файл в папку gpt4all-main/chat:

3. Запустите GPT4All из терминала.

Откройте Терминал (или PowerShell в Windows) и перейдите в папку chat:

cd gpt4all-main/chat

Запустите одну из следующих команд, в зависимости от вашей операционной системы:

  • Windows (PowerShell)./gpt4all-lora-quantized-win64.exe -m gpt4all-lora-unfiltered-quantized.bin
  • Линукс./gpt4all-lora-quantized-linux-x86 -m gpt4all-lora-unfiltered-quantized.bin
  • Mac (Intel)./gpt4all-lora-quantized-OSX-intel -m gpt4all-lora-unfiltered-quantized.bin
  • Mac (M1/M2)./gpt4all-lora-quantized-OSX-m1 -m gpt4all-lora-unfiltered-quantized.bin

Вот что вы должны увидеть на экране:

Тестирование GPT4All — хорошо ли это?

Теперь я задам GPT4All серию простых вопросов, на которые ChatGPT без труда ответит.

Первый — В чем разница между библиотеками Numpy и Pandas для обработки данных?

Ответ технически правильный, но немного расплывчатый, так что давайте посмотрим, сможет ли GPT4All его немного расширить:

Теперь ответ стал немного длиннее, но мы привыкли к пояснениям ChatGPT, состоящим из пары абзацев, поэтому он все еще кажется немного коротким и неотшлифованным.

А теперь Может ли GPT4All генерировать код? Я задал следующий вопрос: Можете ли вы дать мне фрагмент кода для обучения модели логистической регрессии на наборе данных Iris?

Вот что получилось:

Это распространенный вопрос среди новичков в науке о данных, и он, безусловно, хорошо документирован в Интернете, но GPT4All дал несколько странный и неверный ответ. Скопируем код в Jupyter для большей ясности:

GPT4All в порядке с комментариями кода, но все остальное не соответствует действительности. Это загрузка неправильного набора данных из библиотеки, которая даже не была импортирована, а затем разделение функций и целей на еще одном наборе данных.

Излишне говорить, что на этом вы далеко не продвинетесь, если вы только начинаете.

GPT4All против ChatGPT — кто победит?

Теперь я задам ChatGPT те же вопросы, чтобы сравнить качество ответов.

Начнем с первого — разницы между библиотеками Numpy и Pandas в контексте науки о данных. Вот ответ:

Ну, нет необходимости более подробно об этом. Вы можете получить четкое представление о различиях между этими двумя библиотеками, и сгенерированный ответ имеет больше смысла, чем ответ, возвращаемый GPT4All.

Но теперь возникает большой вопрос: Может ли ChatGPT генерировать 100% правильный код? Давайте посмотрим:

Код и пояснения кажутся правильными, но единственный способ проверить это — запустить все это на Python:

Ошибок не возникает, код работает как положено. Конечно, это простой пример, но он намного быстрее, чем поиск ответа в Google.

Подводя итоги GPT4All

Нельзя отрицать, что GPT4All далеко не ChatGPT, но это ожидаемо. В противном случае это не было бы бесплатным и открытым исходным кодом. Тем не менее, это жизнеспособная альтернатива и бесплатная игровая площадка, которая работает локально в вашей системе.

Вы также можете использовать GPT4All через интерфейс Python, и это то, что мы рассмотрим в следующей статье, так что следите за обновлениями, чтобы узнать больше.

Что вы думаете об этой модели большого языка с открытым исходным кодом? Как вы думаете, он догонит ChatGPT в ближайшем будущем? Дайте мне знать в разделе комментариев ниже.

Понравилась статья? Станьте участником Medium, чтобы продолжать обучение без ограничений. Я получу часть вашего членского взноса, если вы перейдете по следующей ссылке, без каких-либо дополнительных затрат с вашей стороны.



Первоначально опубликовано на https://betterdatascience.com 12 апреля 2023 г.

Дополнительные материалы на PlainEnglish.io. Подпишитесь на нашу бесплатную еженедельную рассылку новостей. Присоединяйтесь к нашему сообществу Discord и следите за нами в Twitter, LinkedIn и YouTube.

Узнайте, как привлечь внимание к своему стартапу с помощью Circuit.