Стоит ли GPT4All вашего времени? Вот как запустить GPT4All локально на вашем ПК или даже на M1 Mac.
GPT4All — о чем вся шумиха
Да, теперь вы можете запустить альтернативу ChatGPT на своем ПК или Mac, и все благодаря GPT4All. Согласно разделу официального репозитория О, это экосистема чат-ботов с открытым исходным кодом, обученных на огромных коллекциях чистых данных помощника, включая код, истории и диалоги.
Но хорош ли он? Как оказалось, он далеко от чистой мощи ChatGPT, но все же это полезная альтернатива, которую вы можете запускать локально без подключения к Интернету.
Тем не менее, это может подойти тем, кто хочет, чтобы решение, подобное ChatGPT, было доступно в любое время и совершенно бесплатно.
В этой статье вы узнаете, как установить GPT4All на любую машину, от Windows и Linux до компьютеров Mac на базе Intel и ARM, ответите на пару вопросов, включая генерацию кода Data Science, а затем, наконец, сравните его с ChatGPT.
Как установить GPT4All на свой ПК или Mac
Чтобы установить GPT4All локально, вам придется выполнить ряд до глупости простых шагов.
1. Клонируйте репозиторий GitHub
Сначала откройте Официальную страницу репозитория GitHub и нажмите зеленую кнопку Код:
Вы можете клонировать репо, выполнив эту команду оболочки:
git clone https://github.com/nomic-ai/gpt4all.git
Или вы можете скачать ZIP-файл и распаковать его куда хотите. Во всяком случае, вот что вы должны увидеть внутри папки:
2. Загрузите файл BIN
Предполагая, что репо клонировано или загружено на ваш компьютер, загрузите файл gpt4all-lora-quantized.bin
по Прямой ссылке.
Размер файла составляет около 4 ГБ, поэтому будьте готовы немного подождать, если у вас не самое лучшее подключение к Интернету.
После загрузки переместите файл в папку gpt4all-main/chat
:
3. Запустите GPT4All из терминала.
Откройте Терминал (или PowerShell в Windows) и перейдите в папку chat
:
cd gpt4all-main/chat
Запустите одну из следующих команд, в зависимости от вашей операционной системы:
- Windows (PowerShell) —
./gpt4all-lora-quantized-win64.exe -m gpt4all-lora-unfiltered-quantized.bin
- Линукс —
./gpt4all-lora-quantized-linux-x86 -m gpt4all-lora-unfiltered-quantized.bin
- Mac (Intel) —
./gpt4all-lora-quantized-OSX-intel -m gpt4all-lora-unfiltered-quantized.bin
- Mac (M1/M2) —
./gpt4all-lora-quantized-OSX-m1 -m gpt4all-lora-unfiltered-quantized.bin
Вот что вы должны увидеть на экране:
Тестирование GPT4All — хорошо ли это?
Теперь я задам GPT4All серию простых вопросов, на которые ChatGPT без труда ответит.
Первый — В чем разница между библиотеками Numpy и Pandas для обработки данных?
Ответ технически правильный, но немного расплывчатый, так что давайте посмотрим, сможет ли GPT4All его немного расширить:
Теперь ответ стал немного длиннее, но мы привыкли к пояснениям ChatGPT, состоящим из пары абзацев, поэтому он все еще кажется немного коротким и неотшлифованным.
А теперь Может ли GPT4All генерировать код? Я задал следующий вопрос: Можете ли вы дать мне фрагмент кода для обучения модели логистической регрессии на наборе данных Iris?
Вот что получилось:
Это распространенный вопрос среди новичков в науке о данных, и он, безусловно, хорошо документирован в Интернете, но GPT4All дал несколько странный и неверный ответ. Скопируем код в Jupyter для большей ясности:
GPT4All в порядке с комментариями кода, но все остальное не соответствует действительности. Это загрузка неправильного набора данных из библиотеки, которая даже не была импортирована, а затем разделение функций и целей на еще одном наборе данных.
Излишне говорить, что на этом вы далеко не продвинетесь, если вы только начинаете.
GPT4All против ChatGPT — кто победит?
Теперь я задам ChatGPT те же вопросы, чтобы сравнить качество ответов.
Начнем с первого — разницы между библиотеками Numpy и Pandas в контексте науки о данных. Вот ответ:
Ну, нет необходимости более подробно об этом. Вы можете получить четкое представление о различиях между этими двумя библиотеками, и сгенерированный ответ имеет больше смысла, чем ответ, возвращаемый GPT4All.
Но теперь возникает большой вопрос: Может ли ChatGPT генерировать 100% правильный код? Давайте посмотрим:
Код и пояснения кажутся правильными, но единственный способ проверить это — запустить все это на Python:
Ошибок не возникает, код работает как положено. Конечно, это простой пример, но он намного быстрее, чем поиск ответа в Google.
Подводя итоги GPT4All
Нельзя отрицать, что GPT4All далеко не ChatGPT, но это ожидаемо. В противном случае это не было бы бесплатным и открытым исходным кодом. Тем не менее, это жизнеспособная альтернатива и бесплатная игровая площадка, которая работает локально в вашей системе.
Вы также можете использовать GPT4All через интерфейс Python, и это то, что мы рассмотрим в следующей статье, так что следите за обновлениями, чтобы узнать больше.
Что вы думаете об этой модели большого языка с открытым исходным кодом? Как вы думаете, он догонит ChatGPT в ближайшем будущем? Дайте мне знать в разделе комментариев ниже.
Понравилась статья? Станьте участником Medium, чтобы продолжать обучение без ограничений. Я получу часть вашего членского взноса, если вы перейдете по следующей ссылке, без каких-либо дополнительных затрат с вашей стороны.
Первоначально опубликовано на https://betterdatascience.com 12 апреля 2023 г.
Дополнительные материалы на PlainEnglish.io. Подпишитесь на нашу бесплатную еженедельную рассылку новостей. Присоединяйтесь к нашему сообществу Discord и следите за нами в Twitter, LinkedIn и YouTube.
Узнайте, как привлечь внимание к своему стартапу с помощью Circuit.