玩转 GPT4All

绝地灬酷狼 2024-03-16 14:16 39阅读 0赞

**目录**

什么是Chatgpt

什么是gpt4all

如何使用

第一步：下载LLM模型

第二步：下载代码

第三步：将模型替换到

第四步：执行启动命令

第五步：生成自己的客户端

第六步：启动

第七步：配置UI

--------------------

![68e4cf5ffd46de6f72eb58a65dcafc63.jpeg][]

## 什么是Chatgpt ##

ChatGPT是一个由OpenAI开发的大型语言模型。其基于GPT-4架构（Generative Pretrained Transformer 4）进行训练，目的是理解和生成人类语言。它可以回答问题、撰写文章、翻译语言、编写代码等。

ChatGPT在训练过程中，学习了大量的文本数据，其中包括了书籍、网站和其他类型的文本。然而，它并没有直接访问互联网，因此不能获取实时信息，也不能存储与个人相关的任何信息。

## 什么是gpt4all ##

GPT4All是Nomic AI公司开源的一个类似ChatGPT的模型，它是基于MetaAI开源的LLaMA微调得到的其最大的特点是开源，并且其4-bit量化版本可以在CPU上运行！gpt4all是在大量干净数据上训练的一个开源聊天机器人的生态系统。它不用科学上网！甚至可以不联网！本地就能用。接下来咱们就是实战一下如何体验gpt4all。支持的系统包括Mac/OSX、Windows、Ubuntu市面上常用的所有操作系统。

GPT4All模型是一个3GB - 8GB的文件，您可以下载并插入GPT4All开源生态系统软件。特别强调是GPT4All是遵循非商业化协议，所以不能用于商业用途。

## 如何使用 ##

### 第一步：下载LLM模型 ###

浏览器打开这个地址: [https://the-eye.eu/public/AI/models/nomic-ai/gpt4all/gpt4all-lora-quantized.bin][https_the-eye.eu_public_AI_models_nomic-ai_gpt4all_gpt4all-lora-quantized.bin], 下载模型文件，文件大小是3.92GB。这个模型下载需要科学上网，我这边下载好了大语言模型，因为CSDN上直接粘贴网盘地址审核不通过，所以需要的同学可以私信或者留言我发你。

![62cdfe0138dc4bf6b8b5b5f7246ae6af.png][]

### 第二步：下载代码 ###

![8e012d99ba584bfa934afc1c34294ac9.png][]

### 第三步：将模型替换到 ###

将gpt4all-lora-quantized.bin放进gpt4all-main下的chat文件夹，注意项目路径为：“gpt/gpt4all-main/gpt4all-training/chat”。

![3a8ea96e549544158958f24e95f8a7d9.png][]

### 第四步：执行启动命令 ###

在当前目录下执行启动命令，我的电脑是mac，Intel 我使用的最后一个命令。但是我的电脑操作系统版本太低，报错。如下图，要解决这个case有两种方式，一个是升级我电脑系统，需要升级到13版本。 一个是重新生成一个新的客户端。我采用的是后一种方式。

*  M1 Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-m1
 *  Linux: cd chat;./gpt4all-lora-quantized-linux-x86W
 *  indows (PowerShell): cd chat;./gpt4all-lora-quantized-win64.exe
 *  Intel Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-intel

![7437d3fcf32942b3bb8f505e6005b05f.png][]

### 第五步：生成自己的客户端 ###

如果不想升级电脑的操作系统（也有可能是无奈之举电脑太旧不适合升级）就自定义客户端吧。采用如下命令就可以生成适合自己的客户端。

git clone https://github.com/zanussbaum/gpt4all.cpp
    cd gpt4all.cpp
    make chat
    cp chat ../gpt4all/chat/gpt4all-lora-quantized-OSX-intel-old

![02054a804c604fa4a0a834486660c0ff.png][]

### 第六步：启动 ###

采用如下命令就可以启动了“./gpt4all-lora-quantized-OSX-intel-old\*”，奈何本人电脑确实配置太低，直接卡死。就不做演示截图了，感兴趣的同学可以自己尝试练习。

![d30cb47a250e41dca22f6dec03366593.png][]

![1af0fbe5d55d439d94da3a91570dca79.png][]

### 第七步：配置UI ###

如果你觉得使用终端不舒服可以配合UI尝试。网页打开gpt4all点io 下载安装包。打开安装包点击这个”绿U盘“打开安装程序，选择安装路径安装。（”此组件大约占用您硬盘驱动器3.95GB的空间“）安装之后在你的安装路径下，有一个叫GPT4ALL的文件夹，在里面找到bin 文件夹，打开里面的chat.app,就能用UI交互啦！

![95c7a9b6fcbc4fb6a413fb8963f368fb.png][]

![523bd27bc9fc470f8a638f5b6966a5ca.png][]

[https://github.com/nomic-ai/gpt4all][https_github.com_nomic-ai_gpt4all]

[https://github.com/nomic-ai/gpt4all/issues/70][https_github.com_nomic-ai_gpt4all_issues_70]

[68e4cf5ffd46de6f72eb58a65dcafc63.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/d59073ee7d5a4f8d93f01d7fa908c42b.png
[https_the-eye.eu_public_AI_models_nomic-ai_gpt4all_gpt4all-lora-quantized.bin]: https://the-eye.eu/public/AI/models/nomic-ai/gpt4all/gpt4all-lora-quantized.bin
[62cdfe0138dc4bf6b8b5b5f7246ae6af.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/9a86c061aae7414ca0713285490508bf.png
[8e012d99ba584bfa934afc1c34294ac9.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/c37a013d1de74b03a8ed3bd4d728815f.png
[3a8ea96e549544158958f24e95f8a7d9.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/1ea15921fed34bbcb7250951d73ccda5.png
[7437d3fcf32942b3bb8f505e6005b05f.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/1a68333be61243b39907df130b624108.png
[02054a804c604fa4a0a834486660c0ff.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/a4484374722648feace701efe1e8a0c1.png
[d30cb47a250e41dca22f6dec03366593.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/72feb3997af143c990c71daa4a01df19.png
[1af0fbe5d55d439d94da3a91570dca79.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/a52b56a0d1354f0e99537526396cbadc.png
[95c7a9b6fcbc4fb6a413fb8963f368fb.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/0753ff99d968432dad60a7a74dd376b4.png
[523bd27bc9fc470f8a638f5b6966a5ca.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/9131187f7c6f453ca3b03a0de42093aa.png
[https_github.com_nomic-ai_gpt4all]: https://github.com/nomic-ai/gpt4all
[https_github.com_nomic-ai_gpt4all_issues_70]: https://github.com/nomic-ai/gpt4all/issues/70