📋 执行摘要
本报告调研了主流 AI Proxy / 统一 LLM 接口网关解决方案。核心推荐: LiteLLM 是最适合大多数场景的开源解决方案。
📊 综合对比
| 方案 | 类型 | 部署 | 优势 | 推荐度 |
|---|---|---|---|---|
| LiteLLM | 开源 Python | 自托管 | 生态最好 | ⭐⭐⭐⭐⭐ |
| APIPark | 企业 | 混合 | 企业治理 | ⭐⭐⭐⭐ |
| One API | 开源 Go | 自托管 | 轻量简单 | ⭐⭐⭐ |
| APISIX | 开源 Lua | 云原生 | 网关集成 | ⭐⭐⭐⭐ |
🏆 LiteLLM (强烈推荐)
- 支持模型: 100+ LLM
- 部署: Docker, Kubernetes
- GitHub: github.com/BerriAI/litellm
快速部署
bash /tmp/litellm-deploy.sh
cd ~/litellm-proxy
./start.sh