Running in Production

模式

在生产环境中运行时,我们强烈推荐使用Queue模式,并采用以下设置:

  • 2台配备负载均衡的主服务器,每台配置至少4个vCPU和8GB内存

  • 4名工作人员,每人从4个vCPU和8GB内存开始

您可以根据流量和容量配置自动扩展。

数据库

默认情况下,Flowise将使用SQLite作为数据库。然而,当大规模运行时,建议使用PostgreSQL。

存储

目前,Flowise仅支持AWS S3,并计划支持更多的blob存储提供商。这将允许文件和日志存储在S3上,而不是本地文件路径。请参阅Environment Variables

加密

Flowise使用加密密钥来加密/解密您使用的凭证,如OpenAI API密钥。建议在生产环境中使用AWS Secret Manager,以实现更好的安全控制和密钥轮换。请参阅#for-credentials

速率限制

当部署到云端/本地时,实例很可能位于代理/负载均衡器之后。请求的IP地址可能是负载均衡器/反向代理的IP,这使得限流器实际上成为一个全局限流器,一旦达到限制或“未定义”时,就会阻止所有请求。设置正确的NUMBER_OF_PROXIES可以解决此问题。请参阅#rate-limit-setup

负载测试

您可以使用Artillery来对部署的Flowise应用程序进行负载测试。示例脚本可在此处找到https://github.com/FlowiseAI/Flowise/blob/main/artillery-load-test.yml。

Last updated