l
githublitellm|统一调用百余家大模型的AI网关与Python开发库
用统一的OpenAI格式调用OpenAI、Anthropic、Gemini、Bedrock、Azure等上百家大模型,可作Python开发库集成,也可自建网关集中管理团队调用。
LLM 推理与部署Python 开发库;可自托管的 Web 网关服务使用难度
站长实测状态尚未登记
汇集多模型路由主题下已发布的工具、教程、提示词与场景资料,帮助你了解用途、使用条件及操作方法。
用统一的OpenAI格式调用OpenAI、Anthropic、Gemini、Bedrock、Azure等上百家大模型,可作Python开发库集成,也可自建网关集中管理团队调用。
LLM 推理与部署Python 开发库;可自托管的 Web 网关服务可自行部署的AI网关,将多家模型服务商统一到一个兼容OpenAI的接口,并在某个服务不可用或超额时自动切换到备用来源,适合需要稳定调用多家模型的中小团队与开发者。
通用 LLM 应用自托管服务,通过兼容 OpenAI 的 HTTP API 调用,具体部署环境以仓库文档为准(待核查)