首页 » 博客 » 接下来我们需要个能够高效处理请求的服务器

接下来我们需要个能够高效处理请求的服务器

我们采用了额外的技术和工具来确保 Kodee 平稳快速地运行,其中包括:

Redis – 用于保存简短聊天记录的内存存储。
PostgreSQL –用于数据存储。
Alembic——用于数据库管理。
Grafana——用于监控和跟踪系统性能和指标。
Sentry –用于捕获和分析应用程序日志和错误。
Kodee 在基于GitHub Actions的单一Kubernetes 基础架构上运行,用于部署。我们使用FastAPI Web 框架和Gunicorn Web 服务器网关接口 (WSGI) HTTP 服务器来构建和部署我们的 API。

Kodee 的创建历程

在本节中,我们将向您介绍如何实际构建 Kodee。您还将了解如何使用我们的开源Kodee 演示存储库设置类似的系统。

1. 设置环境
创建任何复杂应用程序的第一步是设置环境。对于 Kodee 来说,这涉及配置各种环境变量,例如 API 密钥和数据库凭据。

要将 OpenAI 的 API 连接到它,我们首先需要获取我们的 OpenAI API 密钥。您可以将本地开发的所有内容保存在.env文件中。对于 Kodee 的演示,您将找到包含所需环境变量的.env.example文件。

2. 使用 FastAPI 构建后端
为此,我们选择了 FastAPI,这是一个用于 Ws 粉丝 使用 Python 构建 API 的现代高性能 Web 框架。原因如下:

速度。FastAPI速度极快,可以快速响应用户请求。
易于使用。它使编写更简单、更简洁的代码成为可能。
异步功能。FastAPI支持异步编程,适合聊天机器人的需求。

使用数据库管理数据

为了跟踪对话和用户互动,我们需要一个数据管理系统。我们选择了PostgreSQL,一个 开源对象关系数据库系统, 用于管理结构化数据。

此外,我们选择了Redis。它是一种 用作跟踪器存 它是最受市场欢迎和最受欢迎的模 储的内存数据结构存储。该系统保存和管理对话的元数据和状态,跟踪用户与系统之间的关键事件和交互。它通过记录用户输入、系统操作和其他重要信息来帮助保留对话上下文。

因此,您的聊天机器人可以维持对话并做出明智的决定。

4. 监控用户意图
Kodee 可以在必要时将用户连接到在线客服,以处理 选择加入列表 复杂的查询或敏感问题。当聊天机器人无法满足需求时,它还可以避免用户沮丧。

工作原理如下:

从第一条消息开始,系统不断监控接下来我们需要个 对话,以评估用户是否正在寻求人工帮助。

滚动至顶部