Zep Memory

Zep 是大型语言模型（LLM）应用的长期记忆存储工具。它能够存储、总结、嵌入、索引和丰富大型语言模型应用/聊天机器人的历史记录，并通过简单、低延迟的API进行展示。

Zep to Render部署指南

你可以轻松地将Zep部署到Render、Flyio等云服务上。如果你更喜欢在本地进行测试，也可以按照他们的快速指南来启动一个Docker容器。

在这个例子中，我们将部署到Render。

  1. 前往Zep Repo并点击部署到Render

  2. 这将带您进入Render的蓝图页面，只需点击创建新资源

  1. 部署完成后，您应在仪表板上看到已创建的3个应用程序

  1. 只需点击第一个名为zep的选项，并复制已部署的URL

将Zep部署到Digital Ocean（通过Docker）的指南

  1. 克隆仓库

使用Git克隆https://github.com/getzep/zep.git
cd zep
nano .env

  1. 在.ENV文件中添加您的OpenAI API密钥

ZEP_OPENAI_API_KEY=

docker compose up -d --build

  1. 允许防火墙访问端口8000

使用sudo命令，在ufw中允许从任意来源到任意目的地的8000端口（协议为TCP）的访问
ufw状态已编号

如果使用Digital Ocean从控制面板设置独立防火墙，请确保也在那里添加了端口8000

在Flowise UI中的使用

  1. 回到Flowise应用程序，只需创建一个新的画布或使用市场中的某个模板。在本例中，我们将使用简单对话链

  1. 将“Buffer Memory”替换为“Zep Memory”。然后将“Base URL”替换为您在上文中复制的Zep URL

  1. 保存聊天流程并进行测试，查看对话是否被记住。

  1. 现在尝试清除聊天记录，你应该能看到它现在无法记住之前的对话了。

Zep 身份验证

Zep允许您使用JWT身份验证来保护您的实例。我们将使用zepcli命令行工具此处。

1. 生成一个密钥和JWT令牌

下载ZepCLI后：

在Linux或MacOS上

./zepcli -i

在Windows上

zepcli.exe -i

您将首先获得您的专属秘密代币：

然后你会得到一个JWT令牌：

2. 配置认证环境变量

在Zep服务器环境中设置以下环境变量：

ZEP_AUTH_REQUIRED=true
ZEP_AUTH_SECRET=<您在上面生成的密码>

3. 在Flowise上配置凭证

为Zep添加一个新的凭证，并在API Key字段中输入JWT令牌：

4. 在Zep节点上使用创建的凭证

在Zep节点的“连接凭证”中，选择你刚刚创建的凭证。就是这样！

PreviousUpstash Redis-Backed Chat MemoryNextModeration

Last updated