我在笔记本电脑上尝试使用GPT4all

首先

我看到了GPT4All的发布新闻,所以决定亲自试试。据说它可以在普通配置的电脑上运行,所以我拿出我的M1 MacBook稍微试了一下。

前提

我使用的设备如下所示。

    Apple MacBook Pro 13-inch, M1, 2020, 16GB Memory, macOS Ventura 13.2.1

准备环境

尽管以下是步骤说明,按照这些步骤很容易进行设置。
在“试用自己”的部分中有详细的步骤。简单来说,1. 下载gpt4all-lora-quantized.bin(请参考GitHub链接,文件大小为3.9GB),2. 克隆上述内容 git clone https://github.com/nomic-ai/gpt4all.git,3. 将下载的gpt4all-lora-quantized.bin移动到名为“chat”的文件夹下。4. 根据各个环境的要求进行操作。

chat % ls -lh
total 8261096
-rwxr-xr-x  1 vfuji  staff   401K  4  3 19:47 gpt4all-lora-quantized-OSX-intel
-rwxr-xr-x  1 vfuji  staff   335K  4  3 19:47 gpt4all-lora-quantized-OSX-m1
-rwxr-xr-x  1 vfuji  staff   401K  4  3 19:47 gpt4all-lora-quantized-linux-x86
-rw-r--r--  1 vfuji  staff   182K  4  3 19:47 gpt4all-lora-quantized-win64.exe
-rw-r--r--@ 1 vfuji  staff   3.9G  4  3 18:59 gpt4all-lora-quantized.bin

方法和问题的示例

如何启动

我使用我的M1 Macbook,在./gpt4all-lora-quantized-OSX-m1上启动,并通过Ctrl+C来结束。

启动和简单问题 hé

mov001.gif

试试看这个问题

你好 / 请告诉我你的名字。

qa002.png

MQTT是什么?/ Kafka是什么?

qa003.png
qa004.png

告诉我日本排名前三的手机厂商 / 告诉我全球排名前三的手机厂商

qa005.png

告诉我日本的网络浏览器市场份额。

qa006.png
statcounter_2019Apr_all_Japan.png
statcounter_2019Apr_WW.png
statcounter_2019Apr_desktop_Japan.png

什么是正则表达式?请用Python给出一个正则表达式的示例。

qa007.png

关于Docker,有一些问题需要问。

qa008.png

告诉我最近一场一级方程式大奖赛的结果。

qa009.png

行动时的负荷

cpu_usage.png

印象

当比较GPT4All的执行结果与这篇文章的结果时,我感觉精度差别很大。

 

尽管GPT4All似乎可以理解日语输入,但通常会以英语回复。而对于日语输入,有时会得到无法理解的回答。而且根据市场份额等确认,它似乎只能使用2019年左右的数据作为学习数据。

根据这篇英文文章的第13部分,ChatGPT-3使用了1750亿参数和570GB的数据进行训练,而ChatGPT-4则没有显著增加,这样记录写道。可能是因为学习数据的数量和质量之间存在差异,但能够在不使用大规模系统的情况下取得这样的结果本身就很棒。我认为学习数据的改进是关键,但目前来看,ChatGPT这样的用户基础更强大,可能是它的优势。

另外,有时会出现无限循环回答或突然崩溃的情况。希望这些方面也能不断改进。

广告
将在 10 秒后关闭
bannerAds