Compact And Refine
这是在没有明确定义响应合成器时的默认设置。
在每次调用大型语言模型(LLM)时,通过填充尽可能多的文本块来压缩提示,确保提示大小不超过最大限制。如果一个提示中需要填充的文本块过多,可以通过多次压缩提示来“创建和优化”答案。
优点:与Refine相同,适合获取更详细的答案,且应减少大型语言模型(LLM)的调用次数
缺点:由于多次调用大型语言模型(LLM),成本可能较高

优化提示
原始查询如下:{query}
我们已提供了一个现有答案:{existingAnswer}
我们有机会(仅在需要时)根据下面的更多上下文来完善现有的答案。
------------
{context}
------------
根据新的上下文,优化原始答案以更好地回答查询。如果上下文无益,则返回原始答案。
精炼回答:文本问答提示
上下文信息如下。
---------------------
{context}
---------------------
根据上下文信息而非先验知识,回答查询。
查询:{query}
答案:Last updated