從ChatGPT和ReAct這兩個角度出發，仔細思考了一下ReAct

1 年 ago
新, 韵
1 minute

首先

如果在业务中使用只掌握2021年9月前常规知识的ChatGPT，我认为ReAct（Reasoning and Action）是不可或缺的。自从API发布以来，出现了许多不同的ReAct应用。

    • 検索エンジンと組み合わせて、検索結果を ChatGPT に取り込み、要約させる

 

    • 外部 API を呼んで、その結果を ChatGPT に取り込んで、文章として生成させる

 

    などなど

但是，当想要别人看这个信息的时候，有时会感到非常无奈，对吧？不确定它是否能正确地获取外部信息，或者根本不知道正确的信息在哪里，这样的情况也常常发生。

这次是关于 ChatGPT + 人员 ReAct 的组合考虑，其中「外部的信息获取」一开始就由人类负责，这样答案会返回过来。

展示和介绍实施完成的物品及其运作

在右边有一个名为“信息框”的框架，可以在这里输入预先的信息。您可以持续不断地输入。然后，在左侧的聊天面板中输入“为说明会创建议程”，中间将返回议程。

我显示了GPT-3编码器的令牌数量在右下角。虽然作为ChatGPT仅供参考，但由于上限是4096个令牌，当数量超过3000时会有点紧张的感觉。（大约在2000个令牌以下则没问题）

image.png

我在上面的图像中，右侧放置了从官方网站获取的Azure容器应用程序的说明文本。我只是随意地粘贴了这些，而没有仔细查看内容。顺序和格式暂时不需要担心。

请创建一个Azure Container Apps介绍研讨会的议程安排，并将结果显示在中央。虽然由于附注的存在，图像上看起来有些不清晰，但议程的内容大致如下。

    1. Azure Container Apps是什么

 

    1. Azure Container Apps的用例

 

    1. Azure Container Apps的功能

 

    1. Azure Container Apps与其他Azure容器选项的比较

 

    Azure Container Apps的特点和优势

由于信息框中的内容受到很明显的影响，但ChatGPT原始版本无法了解其中包含的大量补充说明信息，所以这样也可以吧。

另外，请生成一个日语摘要文档。如果你这样做，它还可以起到翻译的作用。由于与日语相比，英语的令牌消耗量较少，因此我觉得用英语积极收集，并进行日语化和分析是可行的用法。

下面的图片是对维基百科的《日本经济》条目内容进行了大量摘要。由于ChatGPT的格式存在许多波动，所以如果出现格式错误，请无视并将全部内容贴上。

image.png

我觉得以一种易于阅读的方式，如果只要整理特定页面的信息，Edge + Bing Chat 就会变成劣化版，因此不从各种页面收集信息，就没有任何优点了噢。所以这只是为了确认动向的感觉。

这个提示

以下是基本指示的格式。我努力地加入了格式规定的例句，但如果出现不太像文档生成的指示，格式很容易受到破坏，所以我决定在应用程序中在错误时先暂时显示它。
其实最好再好好修饰一下提示语。

最後的 ${infobase} 将成为屏幕右侧的信息框中的内容。我直接将其输入。

  const system_prompt = `あなたはユーザの文章作成アシスタントです。
事前情報として以下の情報BOXの内容が与えられています。
指示に従い、**情報BOXの内容を使って**、以下のJSONフォーマットで回答を出力してください。
**JSONのみ出力してください**
**改行コードなどの特殊記号はエスケープしてください**

# 回答JSONフォーマット
{"message": "補足メッセージ", "output": "指示に従って作成した文章"}

入力例: XXXの説明資料をつくっています。アジェンダを考えてください
出力例: {"message": "アジェンダを作成しました", "output": "1. XXXとは、\\n2. XXX の...、\\n3. ...."}

入力例: A社の財務状況を説明してください。
出力例: {"message": "A社の財務状況文章を作成しました", "output": "A社の財務状況は ..."}

入力例: 文章を適当に考えて
出力例：{"message": "文章を作成するにはテーマなどが必要です", "output" : ""}

# 情報BOX:
${infobase}
`

对于 Summary 和 ReAct 的思考

ReAct是一种很棒的想法，大大提升了ChatGPT的潜力，但我们也需要考虑如何以何种方式获取哪些信息。
如果有搜索服务，可以生成查询并进行OCR处理PDF并汇总到某个地方，然后进行搜索，还可以提取调用API所需的参数。

理想情况下，当向ChatGPT询问某些内容时，它可以巧妙地获取信息并对此进行处理。如果能够以系统化的方式一气呵成地完成这个过程，就非常好了。但是，搜索准确度以及信息的数量和质量本身都是很大的挑战，因此实现“巧妙地”这一点也存在一定难度。

    • 正しい情報があること

 

    正しい情報をある程度正確に取得できること

这个工具是为了解决一些问题而开发的，比如说当需要制作资料或者当信息比较零散时，ChatGPT因为有令牌的限制，所以仍然需要人工筛选一定程度的信息。虽然在标准的Playground或者Portal上也可以进行类似的操作，但是那些界面可能不太友好。

尝试了一下

    • ChatGPT は4096tokenの上限があるので、そうとう上手く情報を取らないとすぐにあふれる。英語有利。

 

    ChatGPT に入力する情報に量的な偏りがあると、それに引っ張られる

我明白了ReAct的基本限制。

连接搜索引擎后，嗯？在我开始感到不如预期之前，我们需要验证什么样的信息怎样获取并如何使用，尤其是数据量。如果只是获取特定方向的信息，就会受到其影响，而日后可能会带来麻烦。

如果要进行ReAct，首先需要整理和增加原始信息的质量和数量，并提高前置处理的获取精度，这与传统的QA ChatBot得出相似的结论。这给人一种现实感…

✖
广告
将在 10 秒后关闭
bannerAds