我在笔记本电脑上尝试使用GPT4all
首先
我看到了GPT4All的发布新闻,所以决定亲自试试。据说它可以在普通配置的电脑上运行,所以我拿出我的M1 MacBook稍微试了一下。
前提
我使用的设备如下所示。
- Apple MacBook Pro 13-inch, M1, 2020, 16GB Memory, macOS Ventura 13.2.1
准备环境
尽管以下是步骤说明,按照这些步骤很容易进行设置。
在“试用自己”的部分中有详细的步骤。简单来说,1. 下载gpt4all-lora-quantized.bin(请参考GitHub链接,文件大小为3.9GB),2. 克隆上述内容 git clone https://github.com/nomic-ai/gpt4all.git,3. 将下载的gpt4all-lora-quantized.bin移动到名为“chat”的文件夹下。4. 根据各个环境的要求进行操作。
chat % ls -lh
total 8261096
-rwxr-xr-x 1 vfuji staff 401K 4 3 19:47 gpt4all-lora-quantized-OSX-intel
-rwxr-xr-x 1 vfuji staff 335K 4 3 19:47 gpt4all-lora-quantized-OSX-m1
-rwxr-xr-x 1 vfuji staff 401K 4 3 19:47 gpt4all-lora-quantized-linux-x86
-rw-r--r-- 1 vfuji staff 182K 4 3 19:47 gpt4all-lora-quantized-win64.exe
-rw-r--r--@ 1 vfuji staff 3.9G 4 3 18:59 gpt4all-lora-quantized.bin
方法和问题的示例
如何启动
我使用我的M1 Macbook,在./gpt4all-lora-quantized-OSX-m1上启动,并通过Ctrl+C来结束。
启动和简单问题 hé
试试看这个问题
你好 / 请告诉我你的名字。
MQTT是什么?/ Kafka是什么?
告诉我日本排名前三的手机厂商 / 告诉我全球排名前三的手机厂商
告诉我日本的网络浏览器市场份额。
什么是正则表达式?请用Python给出一个正则表达式的示例。
关于Docker,有一些问题需要问。
告诉我最近一场一级方程式大奖赛的结果。
行动时的负荷
印象
当比较GPT4All的执行结果与这篇文章的结果时,我感觉精度差别很大。
尽管GPT4All似乎可以理解日语输入,但通常会以英语回复。而对于日语输入,有时会得到无法理解的回答。而且根据市场份额等确认,它似乎只能使用2019年左右的数据作为学习数据。
根据这篇英文文章的第13部分,ChatGPT-3使用了1750亿参数和570GB的数据进行训练,而ChatGPT-4则没有显著增加,这样记录写道。可能是因为学习数据的数量和质量之间存在差异,但能够在不使用大规模系统的情况下取得这样的结果本身就很棒。我认为学习数据的改进是关键,但目前来看,ChatGPT这样的用户基础更强大,可能是它的优势。
另外,有时会出现无限循环回答或突然崩溃的情况。希望这些方面也能不断改进。