LiteLLM

AI 驱动
开源 AI 网关和 LLM 代理,通过一个 API 访问 100+ 模型,并支持支出追踪
Litellm.ai在新标签页中打开这是你的工具吗? 申请此页面
申领您的工具页面
免费申领 • 提供高级功能
- 验证标志 – 通过一个经过验证的勾选标记向用户展示您的工具是合法的,从而建立即时信誉。
- 编辑您的个人资料 – 更新描述、截图、定价,并保持您的列表准确和最新。
- 提升可见性 – 获得特色展示、优先分类列表和促销徽章,以脱颖而出。
- 回应评论 – 通过回应反馈与用户互动,建立与潜在客户的信任。
关注以获取更新和优惠
获取关于LiteLLM折扣、功能发布和价格变动的提醒
相似工具








新工具







什么是LiteLLM?
LiteLLM 是一款面向平台团队的开源 AI 网关和 LLM 代理。它通过一个密钥和一个兼容 OpenAI 的 API 统一访问众多模型服务商,支持 100 多个 LLM。
该网关包括支出追踪和预算、身份验证、护栏、路由、可观测性,以及面向 LLM、MCP 和代理的治理功能。它可以自行托管,并提供 Python SDK 用于直接调用模型。另有一个独立的代理 SDK liteagents,可将每一轮对话路由到不同服务商中合适的模型。
LiteLLM 作为开源软件免费提供。对于需要额外支持和功能的组织,可通过销售渠道获取企业版方案。该项目由 BerriAI 在 GitHub 上开发。
优缺点
优点
- 一个兼容 OpenAI 的 API 涵盖 100 多个 LLM。
- 包含支出跟踪、预算、身份验证和安全防护。
缺点
常见问题
使用 LiteLLM 的费用是多少?
LiteLLM 是开源的,可以免费使用。
LiteLLM 是否有终身优惠?
根据我们最新的信息,该工具目前似乎没有终身优惠,很遗憾。
LiteLLM 如何简化对众多模型提供商的访问?
LiteLLM 通过一个密钥和一个兼容 OpenAI 的 API,统一提供对众多模型提供商的访问。该网站称其涵盖 100 多个 LLM。您的应用可以通过同一接口调用不同模型,因此调用代码在各个模型间保持一致。
我可以在自己的基础设施上运行 LiteLLM 吗?
可以,LiteLLM 支持自托管。它是开源项目,由 BerriAI 在 GitHub 上开发,因此代码可供查阅。自托管可让网关运行在您控制的基础设施上。此外还提供 Python SDK,可直接在代码中调用模型。
LiteLLM 网关包含哪些治理功能?
网关包括支出跟踪与预算、身份验证、安全防护、路由、可观测性和治理。该网站称这些功能适用于 LLM、MCP 和代理。需要监控模型支出的团队,可以依靠网站上列出的支出跟踪和预算功能。配置细节未在列表中说明,因此 litellm.ai 文档是合适的参考。
独立的代理 SDK liteagents 是什么?
liteagents 是网站上介绍的一个独立代理 SDK。它会将每一轮对话路由到跨提供商的合适模型。列表中未详细说明其设置方法,因此在依赖它之前,请先查阅 litellm.ai 文档。它与网关分开提供,因此可以单独评估。
LiteLLM 面向哪些用户?
LiteLLM 面向需要通过一个 API 访问众多提供商的平台团队。支出跟踪、身份验证和安全防护正是针对这类用户。需要额外支持的机构,可以就 Enterprise 方案联系销售团队。开源可用性也意味着小团队同样可以自行托管该项目。
注意:本网站使用联盟链接从销售中赚取佣金。请在注册时阅读他们的服务条款。



