什么是Respan?

Respan 是面向构建 AI 应用和智能体团队的 AI 网关与 LLM 工程平台。该网关开源,通过一个 API 密钥将请求路由至 1000 多个模型,并记录每次调用。

平台提供可观测性功能,包括智能体追踪、成本与用量跟踪、告警、自定义仪表板以及 OpenTelemetry 支持。还包括带版本控制和部署功能的提示词管理、模型试验场,以及使用数据集和评分进行的实验与评估。

免费版(Free)包含 10 万条日志和 10 个提示词。Team 版标价为每月 199 美元(按年计费),提供无限量的提示词、数据集和评估器,并提供 SOC 2 报告。企业版(Enterprise)为定制方案,包含服务级别协议和 HIPAA BAA。

优缺点

优点

  • 开源网关通过一个 API 密钥路由到 1,000 多个模型
  • 包括智能体追踪、日志记录、提示词版本控制和评估
  • 在成本与用量跟踪之外,还支持 OpenTelemetry

缺点

  • SLA 和 HIPAA BAA 仅针对企业版进行了说明

常见问题

使用 Respan 的费用是多少?

Respan 是免费的。

Respan 是否有终身优惠?

根据我们最新的信息,该工具目前似乎没有终身优惠,很遗憾。

Respan 网关如何路由请求?

该网关是开源的,通过一个 API 密钥将请求路由到 1,000 多个模型。经过网关的每次调用都会被记录,因此你可以保留模型使用的日志。这意味着只需一个集成入口,而无需为每家服务商分别配置密钥和设置。

包含哪些可观测性功能?

Respan 提供智能体追踪、成本与用量跟踪、告警、自定义仪表板以及 OpenTelemetry 支持。这些功能帮助团队了解智能体在生产环境中的表现,以及用量集中在哪些地方。仪表板可按团队最关心的指标进行自定义。

我能在其中管理提示词并运行评估吗?

提示词管理包括版本控制和部署,并提供用于试用提示词的模型实验场。实验和评估基于数据集与评分,因此你可以用相同的测试数据比较不同版本的提示词。团队套餐包含无限数量的提示词、数据集和评估器。

Respan 提供哪些安全报告?

团队套餐包含 SOC 2 报告。企业套餐为定制方案,并增加 SLA 和 HIPAA 业务伙伴协议(BAA)。这些文件对有正式安全或医疗合规要求的组织很重要,请向供应商索取最新副本。

注意:本网站使用联盟链接从销售中赚取佣金。请在注册时阅读他们的服务条款。