# litellm - Doramagic AI Context Pack

> 定位：安装前体验与判断资产。它帮助宿主 AI 有一个好的开始，但不代表已经安装、执行或验证目标项目。

## 充分原则

- **充分原则，不是压缩原则**：AI Context Pack 应该充分到让宿主 AI 在开工前理解项目价值、能力边界、使用入口、风险和证据来源；它可以分层组织，但不以最短摘要为目标。
- **压缩策略**：只压缩噪声和重复内容，不压缩会影响判断和开工质量的上下文。

## 给宿主 AI 的使用方式

你正在读取 Doramagic 为 litellm 编译的 AI Context Pack。请把它当作开工前上下文：帮助用户理解适合谁、能做什么、如何开始、哪些必须安装后验证、风险在哪里。不要声称你已经安装、运行或执行了目标项目。

## Claim 消费规则

- **事实来源**：Repo Evidence + Claim/Evidence Graph；Human Wiki 只提供显著性、术语和叙事结构。
- **事实最低状态**：`supported`
- `supported`：可以作为项目事实使用，但回答中必须引用 claim_id 和证据路径。
- `weak`：只能作为低置信度线索，必须要求用户继续核实。
- `inferred`：只能用于风险提示或待确认问题，不能包装成项目事实。
- `unverified`：不得作为事实使用，应明确说证据不足。
- `contradicted`：必须展示冲突来源，不得替用户强行选择一个版本。

## 它最适合谁

- **正在使用 Claude/Codex/Cursor/Gemini 等宿主 AI 的开发者**：README 或插件配置提到多个宿主 AI。 证据：`README.md` Claim：`clm_0002` supported 0.86

## 它能做什么

- **命令行启动或安装流程**（需要安装后验证）：项目文档中存在可执行命令，真实使用需要在本地或宿主环境中运行这些命令。 证据：`README.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md` Claim：`clm_0001` supported 0.86

## 怎么开始

- `uv tool install 'litellm[proxy]'` 证据：`README.md` Claim：`clm_0003` supported 0.86
- `curl -X POST 'http://0.0.0.0:4000/v1/chat/completions' \` 证据：`README.md` Claim：`clm_0004` supported 0.86
- `git clone https://github.com/BerriAI/litellm.git` 证据：`README.md` Claim：`clm_0005` supported 0.86
- `pip install 'litellm[proxy]'` 证据：`cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md` Claim：`clm_0006` unverified 0.25
- `curl -X POST http://0.0.0.0:4000/v1/messages \` 证据：`cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md` Claim：`clm_0007` unverified 0.25

## 继续前判断卡

- **当前建议**：需要管理员/安全审批
- **为什么**：继续前可能涉及密钥、账号、外部服务或敏感上下文，建议先经过管理员或安全审批。

### 30 秒判断

- **现在怎么做**：需要管理员/安全审批
- **最小安全下一步**：先跑 Prompt Preview；若涉及凭证或企业环境，先审批再试装
- **先别相信**：角色质量和任务匹配不能直接相信。
- **继续会触碰**：角色选择偏差、命令执行、宿主 AI 配置

### 现在可以相信

- **适合人群线索：正在使用 Claude/Codex/Cursor/Gemini 等宿主 AI 的开发者**（supported）：有 supported claim 或项目证据支撑，但仍不等于真实安装效果。 证据：`README.md` Claim：`clm_0002` supported 0.86
- **能力存在：命令行启动或安装流程**（supported）：可以相信项目包含这类能力线索；是否适合你的具体任务仍要试用或安装后验证。 证据：`README.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md` Claim：`clm_0001` supported 0.86
- **存在 Quick Start / 安装命令线索**（supported）：可以相信项目文档出现过启动或安装入口；不要因此直接在主力环境运行。 证据：`README.md` Claim：`clm_0003` supported 0.86

### 现在还不能相信

- **角色质量和任务匹配不能直接相信。**（unverified）：角色库证明有很多角色，不证明每个角色都适合你的具体任务，也不证明角色能产生高质量结果。
- **不能把角色文案当成真实执行能力。**（unverified）：安装前只能判断角色描述和任务画像是否匹配，不能证明它能在宿主 AI 里完成任务。
- **真实输出质量不能在安装前相信。**（unverified）：Prompt Preview 只能展示引导方式，不能证明真实项目中的结果质量。
- **宿主 AI 版本兼容性不能在安装前相信。**（unverified）：Claude、Cursor、Codex、Gemini 等宿主加载规则和版本差异必须在真实环境验证。
- **不会污染现有宿主 AI 行为，不能直接相信。**（inferred）：Skill、plugin、AGENTS/CLAUDE/GEMINI 指令可能改变宿主 AI 的默认行为。 证据：`AGENTS.md`, `CLAUDE.md`, `GEMINI.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md`
- **可安全回滚不能默认相信。**（unverified）：除非项目明确提供卸载和恢复说明，否则必须先在隔离环境验证。
- **真实安装后是否与用户当前宿主 AI 版本兼容？**（unverified）：兼容性只能通过实际宿主环境验证。
- **项目输出质量是否满足用户具体任务？**（unverified）：安装前预览只能展示流程和边界，不能替代真实评测。

### 继续会触碰什么

- **角色选择偏差**：用户对任务应该由哪个专家角色处理的判断。 原因：选错角色会让 AI 从错误专业视角回答，浪费时间或误导决策。
- **命令执行**：包管理器、网络下载、本地插件目录、项目配置或用户主目录。 原因：运行第一条命令就可能产生环境改动；必须先判断是否值得跑。 证据：`README.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md`
- **宿主 AI 配置**：Claude/Codex/Cursor/Gemini/OpenCode 等宿主的 plugin、Skill 或规则加载配置。 原因：宿主配置会改变 AI 后续工作方式，可能和用户已有规则冲突。 证据：`AGENTS.md`, `CLAUDE.md`, `GEMINI.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md`
- **本地环境或项目文件**：安装结果、插件缓存、项目配置或本地依赖目录。 原因：安装前无法证明写入范围和回滚方式，需要隔离验证。 证据：`README.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md`
- **环境变量 / API Key**：项目入口文档明确出现 API key、token、secret 或账号凭证配置。 原因：如果真实安装需要凭证，应先使用测试凭证并经过权限/合规判断。 证据：`README.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md`, `cookbook/anthropic_agent_sdk/README.md`, `cookbook/benchmark/readme.md` 等
- **宿主 AI 上下文**：AI Context Pack、Prompt Preview、Skill 路由、风险规则和项目事实。 原因：导入上下文会影响宿主 AI 后续判断，必须避免把未验证项包装成事实。

### 最小安全下一步

- **先跑 Prompt Preview**：先用交互式试用验证任务画像和角色匹配，不要先导入整套角色库。（适用：任何项目都适用，尤其是输出质量未知时。）
- **只在隔离目录或测试账号试装**：避免安装命令污染主力宿主 AI、真实项目或用户主目录。（适用：存在命令执行、插件配置或本地写入线索时。）
- **先备份宿主 AI 配置**：Skill、plugin、规则文件可能改变 Claude/Cursor/Codex 的默认行为。（适用：存在插件 manifest、Skill 或宿主规则入口时。）
- **不要使用真实生产凭证**：环境变量/API key 一旦进入宿主或工具链，可能产生账号和合规风险。（适用：出现 API、TOKEN、KEY、SECRET 等环境线索时。）
- **安装后只验证一个最小任务**：先验证加载、兼容、输出质量和回滚，再决定是否深用。（适用：准备从试用进入真实工作流时。）

### 退出方式

- **保留安装前状态**：记录原始宿主配置和项目状态，后续才能判断是否可恢复。
- **准备移除宿主 plugin / Skill / 规则入口**：如果试装后行为异常，可以把宿主 AI 恢复到试装前状态。
- **保留原始角色选择记录**：如果输出偏题，可以回到任务画像阶段重新选择角色，而不是继续沿着错误角色推进。
- **记录安装命令和写入路径**：没有明确卸载说明时，至少要知道哪些目录或配置需要手动清理。
- **准备撤销测试 API key 或 token**：测试凭证泄露或误用时，可以快速止损。
- **如果没有回滚路径，不进入主力环境**：不可回滚是继续前阻断项，不应靠信任或运气继续。

## 哪些只能预览

- 解释项目适合谁和能做什么
- 基于项目文档演示典型对话流程
- 帮助用户判断是否值得安装或继续研究

## 哪些必须安装后验证

- 真实安装 Skill、插件或 CLI
- 执行脚本、修改本地文件或访问外部服务
- 验证真实输出质量、性能和兼容性

## 边界与风险判断卡

- **把安装前预览误认为真实运行**：用户可能高估项目已经完成的配置、权限和兼容性验证。 处理方式：明确区分 prompt_preview_can_do 与 runtime_required。 Claim：`clm_0008` inferred 0.45
- **命令执行会修改本地环境**：安装命令可能写入用户主目录、宿主插件目录或项目配置。 处理方式：先在隔离环境或测试账号中运行。 证据：`README.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md` Claim：`clm_0009` supported 0.86
- **待确认**：真实安装后是否与用户当前宿主 AI 版本兼容？。原因：兼容性只能通过实际宿主环境验证。
- **待确认**：项目输出质量是否满足用户具体任务？。原因：安装前预览只能展示流程和边界，不能替代真实评测。
- **待确认**：安装命令是否需要网络、权限或全局写入？。原因：这影响企业环境和个人环境的安装风险。

## 开工前工作上下文

### 加载顺序

- 先读取 how_to_use.host_ai_instruction，建立安装前判断资产的边界。
- 读取 claim_graph_summary，确认事实来自 Claim/Evidence Graph，而不是 Human Wiki 叙事。
- 再读取 intended_users、capabilities 和 quick_start_candidates，判断用户是否匹配。
- 需要执行具体任务时，优先查 role_skill_index，再查 evidence_index。
- 遇到真实安装、文件修改、网络访问、性能或兼容性问题时，转入 risk_card 和 boundaries.runtime_required。

### 任务路由

- **命令行启动或安装流程**：先说明这是安装后验证能力，再给出安装前检查清单。 边界：必须真实安装或运行后验证。 证据：`README.md`, `cookbook/ai_coding_tool_guides/claude_code_quickstart/guide.md` Claim：`clm_0001` supported 0.86

### 上下文规模

- 文件总数：4238
- 重要文件覆盖：40/4238
- 证据索引条目：80
- 角色 / Skill 条目：80

### 证据不足时的处理

- **missing_evidence**：说明证据不足，要求用户提供目标文件、README 段落或安装后验证记录；不要补全事实。
- **out_of_scope_request**：说明该任务超出当前 AI Context Pack 证据范围，并建议用户先查看 Human Manual 或真实安装后验证。
- **runtime_request**：给出安装前检查清单和命令来源，但不要替用户执行命令或声称已执行。
- **source_conflict**：同时展示冲突来源，标记为待核实，不要强行选择一个版本。

## Prompt Recipes

### 适配判断

- 目标：判断这个项目是否适合用户当前任务。
- 预期输出：适配结论、关键理由、证据引用、安装前可预览内容、必须安装后验证内容、下一步建议。

```text
请基于 litellm 的 AI Context Pack，先问我 3 个必要问题，然后判断它是否适合我的任务。回答必须包含：适合谁、能做什么、不能做什么、是否值得安装、证据来自哪里。所有项目事实必须引用 evidence_refs、source_paths 或 claim_id。
```

### 安装前体验

- 目标：让用户在安装前感受核心工作流，同时避免把预览包装成真实能力或营销承诺。
- 预期输出：一段带边界标签的体验剧本、安装后验证清单和谨慎建议；不含真实运行承诺或强营销表述。

```text
请把 litellm 当作安装前体验资产，而不是已安装工具或真实运行环境。

请严格输出四段：
1. 先问我 3 个必要问题。
2. 给出一段“体验剧本”：用 [安装前可预览]、[必须安装后验证]、[证据不足] 三种标签展示它可能如何引导工作流。
3. 给出安装后验证清单：列出哪些能力只有真实安装、真实宿主加载、真实项目运行后才能确认。
4. 给出谨慎建议：只能说“值得继续研究/试装”“先补充信息后再判断”或“不建议继续”，不得替项目背书。

硬性边界：
- 不要声称已经安装、运行、执行测试、修改文件或产生真实结果。
- 不要写“自动适配”“确保通过”“完美适配”“强烈建议安装”等承诺性表达。
- 如果描述安装后的工作方式，必须使用“如果安装成功且宿主正确加载 Skill，它可能会……”这种条件句。
- 体验剧本只能写成“示例台词/假设流程”：使用“可能会询问/可能会建议/可能会展示”，不要写“已写入、已生成、已通过、正在运行、正在生成”。
- Prompt Preview 不负责给安装命令；如用户准备试装，只能提示先阅读 Quick Start 和 Risk Card，并在隔离环境验证。
- 所有项目事实必须来自 supported claim、evidence_refs 或 source_paths；inferred/unverified 只能作风险或待确认项。

```

### 角色 / Skill 选择

- 目标：从项目里的角色或 Skill 中挑选最匹配的资产。
- 预期输出：候选角色或 Skill 列表，每项包含适用场景、证据路径、风险边界和是否需要安装后验证。

```text
请读取 role_skill_index，根据我的目标任务推荐 3-5 个最相关的角色或 Skill。每个推荐都要说明适用场景、可能输出、风险边界和 evidence_refs。
```

### 风险预检

- 目标：安装或引入前识别环境、权限、规则冲突和质量风险。
- 预期输出：环境、权限、依赖、许可、宿主冲突、质量风险和未知项的检查清单。

```text
请基于 risk_card、boundaries 和 quick_start_candidates，给我一份安装前风险预检清单。不要替我执行命令，只说明我应该检查什么、为什么检查、失败会有什么影响。
```

### 宿主 AI 开工指令

- 目标：把项目上下文转成一次对话开始前的宿主 AI 指令。
- 预期输出：一段边界明确、证据引用明确、适合复制给宿主 AI 的开工前指令。

```text
请基于 litellm 的 AI Context Pack，生成一段我可以粘贴给宿主 AI 的开工前指令。这段指令必须遵守 not_runtime=true，不能声称项目已经安装、运行或产生真实结果。
```


## 角色 / Skill 索引

- 共索引 80 个角色 / Skill / 项目文档条目。

- **What is LiteLLM**（project_doc）：🚅 LiteLLM LiteLLM AI Gateway Open Source AI Gateway for 100+ LLMs. Self-hosted. Enterprise-ready. Call any LLM in OpenAI format. LiteLLM Proxy Server AI Gateway Hosted Proxy Enterprise Tier Website 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`README.md`
- **Docker Development Guide**（project_doc）：This guide provides instructions for building and running the LiteLLM application using Docker and Docker Compose. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`docker/README.md`
- **LiteLLM Enterprise**（project_doc）：Code in this folder is licensed under a commercial license. Please review the LICENSE ./LICENSE.md file within the /enterprise folder 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`enterprise/README.md`
- **Readme**（project_doc）：Additional files for the proxy. Reduces the size of the main litellm package. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm-proxy-extras/README.md`
- **Custom Semgrep rules for LiteLLM**（project_doc）：Add custom rule YAML files here. Semgrep loads all .yml / .yaml files under this directory. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`.semgrep/rules/README.md`
- **Claude Agent SDK with LiteLLM Gateway**（project_doc）：Claude Agent SDK with LiteLLM Gateway 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/anthropic_agent_sdk/README.md`
- **Setup:**（project_doc）：LLM-Bench Benchmark LLMs response, cost and response time LLM vs Cost per input + output token $ Bar Graph Excel Sheet here 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/benchmark/readme.md`
- **CodeLlama Server: Streaming, Caching, Model Fallbacks OpenAI + Anthropic , Prompt-tracking**（project_doc）：CodeLlama Server: Streaming, Caching, Model Fallbacks OpenAI + Anthropic , Prompt-tracking 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/codellama-server/README.MD`
- **Gollem Go Agent Framework with LiteLLM**（project_doc）：Gollem Go Agent Framework with LiteLLM 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/gollem_go_agent_framework/README.md`
- **This folder contains the json for creating the following Grafana Dashboard**（project_doc）：This folder contains the json for creating the following Grafana Dashboard 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/litellm_proxy_server/grafana_dashboard/dashboard_1/readme.md`
- **Contains LiteLLM maintained grafana dashboard**（project_doc）：Contains LiteLLM maintained grafana dashboard 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/litellm_proxy_server/grafana_dashboard/readme.md`
- **liteLLM Proxy Server: 50+ LLM Models, Error Handling, Caching**（project_doc）：liteLLM Proxy Server: 50+ LLM Models, Error Handling, Caching 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/litellm_proxy_server/readme.md`
- **LiveKit Voice Agent with LiteLLM Gateway**（project_doc）：LiveKit Voice Agent with LiteLLM Gateway 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/livekit_agent_sdk/README.md`
- **Mock Prompt Management Server**（project_doc）：A reference implementation of the LiteLLM Generic Prompt Management API https://docs.litellm.ai/docs/adding provider/generic prompt management api . 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`cookbook/mock_prompt_management_server/README.md`
- **Helm Chart for LiteLLM**（project_doc）：!IMPORTANT This is community maintained, Please make an issue if you run into a bug We recommend using Docker or Kubernetes for production deployments https://docs.litellm.ai/docs/proxy/prod 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`deploy/charts/litellm-helm/README.md`
- **Docker to build LiteLLM Proxy from litellm pip package**（project_doc）：Docker to build LiteLLM Proxy from litellm pip package 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`docker/build_from_pip/Readme.md`
- **Admin UI**（project_doc）：Customize the Admin UI to your companies branding / logo ! Group 204 https://github.com/BerriAI/litellm/assets/29436595/3b7dbfc2-6fcd-42af-996d-f734fb8f461b 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`enterprise/enterprise_ui/README.md`
- **LiteLLM Proxy Enterprise Features - Readme**（project_doc）：LiteLLM Proxy Enterprise Features - Readme 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`enterprise/litellm_enterprise/proxy/readme.md`
- **A2A to LiteLLM Completion Bridge**（project_doc）：Routes A2A protocol requests through litellm.acompletion , enabling any LiteLLM-supported provider to be invoked via A2A. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/a2a_protocol/litellm_completion_bridge/README.md`
- **Use LLM API endpoints in Anthropic Interface**（project_doc）：Use LLM API endpoints in Anthropic Interface 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/anthropic_interface/readme.md`
- **Implementation of litellm.batch completion , litellm.batch completion models , litellm.batch completion models all resp…**（project_doc）：Implementation of litellm.batch completion , litellm.batch completion models , litellm.batch completion models all responses 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/batch_completion/Readme.md`
- **Caching on LiteLLM**（project_doc）：LiteLLM supports multiple caching mechanisms. This allows users to choose the most suitable caching solution for their use case. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/caching/Readme.md`
- **Readme**（project_doc）：Logic specific for litellm.completion . 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/completion_extras/README.md`
- **Container Files API**（project_doc）：This module provides a unified interface for container file operations across multiple LLM providers OpenAI, Azure OpenAI, etc. . 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/containers/README.md`
- **LiteLLM MCP Client**（project_doc）：LiteLLM MCP Client is a client that allows you to use MCP tools with LiteLLM. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/experimental_mcp_client/Readme.md`
- **LiteLLM Google GenAI Interface**（project_doc）：Interface to interact with Google GenAI Functions in the native Google interface format. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/google_genai/Readme.md`
- **Integrations**（project_doc）：This folder contains logging integrations for litellm 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/Readme.md`
- **Slack Alerting on LiteLLM Gateway**（project_doc）：This folder contains the Slack Alerting integration for LiteLLM Gateway. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/SlackAlerting/Readme.md`
- **Arize Phoenix Prompt Management Integration**（project_doc）：Arize Phoenix Prompt Management Integration 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/arize/README.md`
- **LiteLLM BitBucket Prompt Management**（project_doc）：LiteLLM BitBucket Prompt Management 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/bitbucket/README.md`
- **LiteLLM Dotprompt Manager**（project_doc）：A powerful prompt management system for LiteLLM that supports Google's Dotprompt specification https://google.github.io/dotprompt/getting-started/ . This allows you to manage your AI prompts in organized .prompt files with YAML frontmatter, Handlebars templating, and full integration with LiteLLM's completion API. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/dotprompt/README.md`
- **GCS Google Cloud Storage Bucket Logging on LiteLLM Gateway**（project_doc）：GCS Google Cloud Storage Bucket Logging on LiteLLM Gateway 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/gcs_bucket/Readme.md`
- **LiteLLM gitlab Prompt Management**（project_doc）：A powerful prompt management system for LiteLLM that fetches .prompt files from gitlab repositories. This enables team-based prompt management with gitlab's built-in access control and version control capabilities. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/gitlab/README.md`
- **Levo AI Integration**（project_doc）：This integration enables sending LLM observability data to Levo AI using OpenTelemetry OTLP protocol. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/levo/README.md`
- **OpenTelemetry instrumentation**（project_doc）：This package produces OpenTelemetry traces for LiteLLM. It is enabled by the LITELLM OTEL V2 environment variable is otel v2 enabled in config.py ./model/config.py ; when unset, nothing in this package runs. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/integrations/otel/README.md`
- **Folder Contents**（project_doc）：This folder contains general-purpose utilities that are used in multiple places in the codebase. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/litellm_core_utils/README.md`
- **File Structure**（project_doc）：To make it easy to see how calls are transformed for each model/provider: 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/README.md`
- **A2A Protocol Guardrail Translation Handler**（project_doc）：A2A Protocol Guardrail Translation Handler 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/a2a/chat/guardrail_translation/README.md`
- **Messages Interceptors**（project_doc）：Interceptors are short-circuit handlers for the /v1/messages path. They run before the normal backend call and can fully replace it with their own response. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/anthropic/experimental_pass_through/messages/interceptors/README.md`
- **Anthropic Skills API Integration**（project_doc）：This module provides comprehensive support for the Anthropic Skills API through LiteLLM. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/anthropic/skills/readme.md`
- **Readme**（project_doc）：/chat/completion calls routed via openai.py . 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/azure_ai/README.md`
- **/v1/messages**（project_doc）：This folder contains transformation logic for calling bedrock models in the Anthropic /v1/messages API spec. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/bedrock/messages/readme.md`
- **Cohere Rerank Guardrail Translation Handler**（project_doc）：Cohere Rerank Guardrail Translation Handler 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/cohere/rerank/guardrail_translation/README.md`
- **Readme**（project_doc）：Go here for the Gemini Context Caching code ../../vertex ai/context caching/ 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/gemini/context_caching/README.md`
- **encoding format**（project_doc）：No transformation is required for hosted vllm embedding. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/hosted_vllm/embedding/README.md`
- **LiteLLM Skills - Database-Backed Skills Storage**（project_doc）：LiteLLM Skills - Database-Backed Skills Storage 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/litellm_proxy/skills/README.md`
- **Readme**（project_doc）：Translation of OpenAI /chat/completions input and output to a custom guardrail. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/openai/chat/guardrail_translation/README.md`
- **OpenAI Text Completion Guardrail Translation Handler**（project_doc）：OpenAI Text Completion Guardrail Translation Handler 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/openai/completion/guardrail_translation/README.md`
- **OpenAI Image Generation Guardrail Translation Handler**（project_doc）：OpenAI Image Generation Guardrail Translation Handler 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/openai/image_generation/guardrail_translation/README.md`
- **OpenAI Responses API Guardrail Translation Handler**（project_doc）：OpenAI Responses API Guardrail Translation Handler 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/openai/responses/guardrail_translation/README.md`
- **OpenAI Text-to-Speech Guardrail Translation Handler**（project_doc）：OpenAI Text-to-Speech Guardrail Translation Handler 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/openai/speech/guardrail_translation/README.md`
- **OpenAI Audio Transcription Guardrail Translation Handler**（project_doc）：OpenAI Audio Transcription Guardrail Translation Handler 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/openai/transcriptions/guardrail_translation/README.md`
- **JSON-Based OpenAI-Compatible Provider Configuration**（project_doc）：JSON-Based OpenAI-Compatible Provider Configuration 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/openai_like/README.md`
- **Pass-Through Endpoint Guardrail Translation**（project_doc）：Pass-Through Endpoint Guardrail Translation 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/pass_through/guardrail_translation/README.md`
- **Vertex AI Batch Prediction Jobs**（project_doc）：Implementation to call VertexAI Batch endpoints in OpenAI Batch API spec 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/llms/vertex_ai/batches/Readme.md`
- **SDK Basic**（project_doc）：This makes it easier to pass through requests to the LLM APIs. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/passthrough/README.md`
- **litellm-proxy**（project_doc）：A local, fast, and lightweight OpenAI-compatible server to call 100+ LLM APIs. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/proxy/README.md`
- **LiteLLM Proxy Client**（project_doc）：A Python client library for interacting with the LiteLLM proxy server. This client provides a clean, typed interface for managing models, keys, credentials, and making chat completions. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/proxy/client/README.md`
- **LiteLLM Proxy CLI**（project_doc）：The LiteLLM Proxy CLI is a command-line tool for managing your LiteLLM proxy server. It provides commands for managing models, viewing server status, and interacting with the proxy server. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/proxy/client/cli/README.md`
- **How to use**（project_doc）：Return the proxy base url and server root path, so UI can construct the correct url to access the proxy. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/proxy/discovery_endpoints/README.md`
- **IBM Guardrails Detector Integration**（project_doc）：IBM Guardrails Detector Integration 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/proxy/guardrails/guardrail_hooks/ibm_guardrails/README.md`
- **Content Filter Examples**（project_doc）：Industry-specific competitor intent airline 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/proxy/guardrails/guardrail_hooks/litellm_content_filter/examples/README.md`
- **Readme**（project_doc）：Utility functions for proxy types.py 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/proxy/types_utils/README.md`
- **Workflow Run Tracking**（project_doc）：Generic durable state tracking for agents and automated workflows built on the LiteLLM proxy. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/proxy/workflows/README.md`
- **Readme**（project_doc）：Abstraction / Routing logic for OpenAI's /v1/realtime endpoint. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/realtime_api/README.md`
- **Adaptive Router v0**（project_doc）：A request-type-aware routing strategy. For each incoming request, classify the prompt into one of seven RequestType buckets code generation, writing, analytical reasoning, … , then Thompson-sample a Beta α, β bandit posterior per request type, model cell to pick the best model. Quality estimates are combined with a normalized cost score via a weighted linear sum. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/router_strategy/adaptive_router/README.md`
- **Complexity Router**（project_doc）：A rule-based routing strategy that classifies requests by complexity and routes them to appropriate models - with zero API calls and sub-millisecond latency. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/router_strategy/complexity_router/README.md`
- **Supported Secret Managers to read credentials from**（project_doc）：Supported Secret Managers to read credentials from 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/secret_managers/Readme.md`
- **Interactions API Types**（project_doc）：This directory contains type definitions for the Google Interactions API. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/types/interactions/README.md`
- **Readme**（project_doc）：These are file-specific types for the proxy. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`litellm/types/proxy/README.md`
- **Adaptive Router — Live Demo**（project_doc）：A 5-minute demo of LiteLLM's adaptive router learning, in real time, that the smart model wins for code while the fast model is fine for facts. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`scripts/adaptive_router_demo/README.md`
- **LiteLLM Terraform stacks**（project_doc）：Two self-contained Terraform root modules that deploy the componentized LiteLLM proxy — the gateway, backend, and UI as three independent containers see helm/litellm/ for the canonical chart with the same split . 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`terraform/litellm/README.md`
- **LiteLLM on AWS ECS Fargate**（project_doc）：Deploys the componentized LiteLLM proxy on AWS: 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`terraform/litellm/aws/README.md`
- **LiteLLM on GCP Cloud Run**（project_doc）：Deploys the componentized LiteLLM proxy on GCP: 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`terraform/litellm/gcp/README.md`
- **Getting Started**（project_doc）：This is a Next.js https://nextjs.org/ project bootstrapped with create-next-app https://github.com/vercel/next.js/tree/canary/packages/create-next-app . 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`ui/litellm-dashboard/README.md`
- **Contributing to the LiteLLM UI**（project_doc）：The LiteLLM UI is currently being refactored/rewritten to reduce development friction. Please read this document to understand what's expected for new contributions. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`ui/litellm-dashboard/src/app/(dashboard)/README.md`
- **Guardrail Configuration Components**（project_doc）：This directory contains reusable React components for configuring various guardrail types in the LiteLLM dashboard. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`ui/litellm-dashboard/src/components/guardrails/README.md`
- **Prompts Component**（project_doc）：This component provides a view-only interface for viewing prompts in the LiteLLM dashboard, similar to the guardrails component. 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`ui/litellm-dashboard/src/components/prompts/README.md`
- **Agents**（project_doc）：Read @CLAUDE.md for coding guidelines 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`AGENTS.md`
- **Think Before Coding**（project_doc）：Do not write comments unless they are absolutely necessary to explain some very complex business logic. Please clean up if there are comments that are not absolutely necessary. Do not remove comments that are unrelated to the addition of the code of this PR 激活提示：当用户需要理解项目结构、安装方式或边界时参考。 证据：`CLAUDE.md`

## 证据索引

- 共索引 80 条证据。

- **What is LiteLLM**（documentation）：🚅 LiteLLM LiteLLM AI Gateway Open Source AI Gateway for 100+ LLMs. Self-hosted. Enterprise-ready. Call any LLM in OpenAI format. LiteLLM Proxy Server AI Gateway Hosted Proxy Enterprise Tier Website 证据：`README.md`
- **Docker Development Guide**（documentation）：This guide provides instructions for building and running the LiteLLM application using Docker and Docker Compose. 证据：`docker/README.md`
- **LiteLLM Enterprise**（documentation）：Code in this folder is licensed under a commercial license. Please review the LICENSE ./LICENSE.md file within the /enterprise folder 证据：`enterprise/README.md`
- **Readme**（documentation）：Additional files for the proxy. Reduces the size of the main litellm package. 证据：`litellm-proxy-extras/README.md`
- **Custom Semgrep rules for LiteLLM**（documentation）：Add custom rule YAML files here. Semgrep loads all .yml / .yaml files under this directory. 证据：`.semgrep/rules/README.md`
- **Claude Agent SDK with LiteLLM Gateway**（documentation）：Claude Agent SDK with LiteLLM Gateway 证据：`cookbook/anthropic_agent_sdk/README.md`
- **Setup:**（documentation）：LLM-Bench Benchmark LLMs response, cost and response time LLM vs Cost per input + output token $ Bar Graph Excel Sheet here 证据：`cookbook/benchmark/readme.md`
- **CodeLlama Server: Streaming, Caching, Model Fallbacks OpenAI + Anthropic , Prompt-tracking**（documentation）：CodeLlama Server: Streaming, Caching, Model Fallbacks OpenAI + Anthropic , Prompt-tracking 证据：`cookbook/codellama-server/README.MD`
- **Gollem Go Agent Framework with LiteLLM**（documentation）：Gollem Go Agent Framework with LiteLLM 证据：`cookbook/gollem_go_agent_framework/README.md`
- **This folder contains the json for creating the following Grafana Dashboard**（documentation）：This folder contains the json for creating the following Grafana Dashboard 证据：`cookbook/litellm_proxy_server/grafana_dashboard/dashboard_1/readme.md`
- **Contains LiteLLM maintained grafana dashboard**（documentation）：Contains LiteLLM maintained grafana dashboard 证据：`cookbook/litellm_proxy_server/grafana_dashboard/readme.md`
- **liteLLM Proxy Server: 50+ LLM Models, Error Handling, Caching**（documentation）：liteLLM Proxy Server: 50+ LLM Models, Error Handling, Caching 证据：`cookbook/litellm_proxy_server/readme.md`
- **LiveKit Voice Agent with LiteLLM Gateway**（documentation）：LiveKit Voice Agent with LiteLLM Gateway 证据：`cookbook/livekit_agent_sdk/README.md`
- **Mock Prompt Management Server**（documentation）：A reference implementation of the LiteLLM Generic Prompt Management API https://docs.litellm.ai/docs/adding provider/generic prompt management api . 证据：`cookbook/mock_prompt_management_server/README.md`
- **Helm Chart for LiteLLM**（documentation）：!IMPORTANT This is community maintained, Please make an issue if you run into a bug We recommend using Docker or Kubernetes for production deployments https://docs.litellm.ai/docs/proxy/prod 证据：`deploy/charts/litellm-helm/README.md`
- **Docker to build LiteLLM Proxy from litellm pip package**（documentation）：Docker to build LiteLLM Proxy from litellm pip package 证据：`docker/build_from_pip/Readme.md`
- **Admin UI**（documentation）：Customize the Admin UI to your companies branding / logo ! Group 204 https://github.com/BerriAI/litellm/assets/29436595/3b7dbfc2-6fcd-42af-996d-f734fb8f461b 证据：`enterprise/enterprise_ui/README.md`
- **LiteLLM Proxy Enterprise Features - Readme**（documentation）：LiteLLM Proxy Enterprise Features - Readme 证据：`enterprise/litellm_enterprise/proxy/readme.md`
- **A2A to LiteLLM Completion Bridge**（documentation）：Routes A2A protocol requests through litellm.acompletion , enabling any LiteLLM-supported provider to be invoked via A2A. 证据：`litellm/a2a_protocol/litellm_completion_bridge/README.md`
- **Use LLM API endpoints in Anthropic Interface**（documentation）：Use LLM API endpoints in Anthropic Interface 证据：`litellm/anthropic_interface/readme.md`
- **Implementation of litellm.batch completion , litellm.batch completion models , litellm.batch completion models all resp…**（documentation）：Implementation of litellm.batch completion , litellm.batch completion models , litellm.batch completion models all responses 证据：`litellm/batch_completion/Readme.md`
- **Caching on LiteLLM**（documentation）：LiteLLM supports multiple caching mechanisms. This allows users to choose the most suitable caching solution for their use case. 证据：`litellm/caching/Readme.md`
- **Readme**（documentation）：Logic specific for litellm.completion . 证据：`litellm/completion_extras/README.md`
- **Container Files API**（documentation）：This module provides a unified interface for container file operations across multiple LLM providers OpenAI, Azure OpenAI, etc. . 证据：`litellm/containers/README.md`
- **LiteLLM MCP Client**（documentation）：LiteLLM MCP Client is a client that allows you to use MCP tools with LiteLLM. 证据：`litellm/experimental_mcp_client/Readme.md`
- **LiteLLM Google GenAI Interface**（documentation）：Interface to interact with Google GenAI Functions in the native Google interface format. 证据：`litellm/google_genai/Readme.md`
- **Integrations**（documentation）：This folder contains logging integrations for litellm 证据：`litellm/integrations/Readme.md`
- **Slack Alerting on LiteLLM Gateway**（documentation）：This folder contains the Slack Alerting integration for LiteLLM Gateway. 证据：`litellm/integrations/SlackAlerting/Readme.md`
- **Arize Phoenix Prompt Management Integration**（documentation）：Arize Phoenix Prompt Management Integration 证据：`litellm/integrations/arize/README.md`
- **LiteLLM BitBucket Prompt Management**（documentation）：LiteLLM BitBucket Prompt Management 证据：`litellm/integrations/bitbucket/README.md`
- **LiteLLM Dotprompt Manager**（documentation）：A powerful prompt management system for LiteLLM that supports Google's Dotprompt specification https://google.github.io/dotprompt/getting-started/ . This allows you to manage your AI prompts in organized .prompt files with YAML frontmatter, Handlebars templating, and full integration with LiteLLM's completion API. 证据：`litellm/integrations/dotprompt/README.md`
- **GCS Google Cloud Storage Bucket Logging on LiteLLM Gateway**（documentation）：GCS Google Cloud Storage Bucket Logging on LiteLLM Gateway 证据：`litellm/integrations/gcs_bucket/Readme.md`
- **LiteLLM gitlab Prompt Management**（documentation）：A powerful prompt management system for LiteLLM that fetches .prompt files from gitlab repositories. This enables team-based prompt management with gitlab's built-in access control and version control capabilities. 证据：`litellm/integrations/gitlab/README.md`
- **Levo AI Integration**（documentation）：This integration enables sending LLM observability data to Levo AI using OpenTelemetry OTLP protocol. 证据：`litellm/integrations/levo/README.md`
- **OpenTelemetry instrumentation**（documentation）：This package produces OpenTelemetry traces for LiteLLM. It is enabled by the LITELLM OTEL V2 environment variable is otel v2 enabled in config.py ./model/config.py ; when unset, nothing in this package runs. 证据：`litellm/integrations/otel/README.md`
- **Folder Contents**（documentation）：This folder contains general-purpose utilities that are used in multiple places in the codebase. 证据：`litellm/litellm_core_utils/README.md`
- **File Structure**（documentation）：To make it easy to see how calls are transformed for each model/provider: 证据：`litellm/llms/README.md`
- **A2A Protocol Guardrail Translation Handler**（documentation）：A2A Protocol Guardrail Translation Handler 证据：`litellm/llms/a2a/chat/guardrail_translation/README.md`
- **Messages Interceptors**（documentation）：Interceptors are short-circuit handlers for the /v1/messages path. They run before the normal backend call and can fully replace it with their own response. 证据：`litellm/llms/anthropic/experimental_pass_through/messages/interceptors/README.md`
- **Anthropic Skills API Integration**（documentation）：This module provides comprehensive support for the Anthropic Skills API through LiteLLM. 证据：`litellm/llms/anthropic/skills/readme.md`
- **Readme**（documentation）：/chat/completion calls routed via openai.py . 证据：`litellm/llms/azure_ai/README.md`
- **/v1/messages**（documentation）：This folder contains transformation logic for calling bedrock models in the Anthropic /v1/messages API spec. 证据：`litellm/llms/bedrock/messages/readme.md`
- **Cohere Rerank Guardrail Translation Handler**（documentation）：Cohere Rerank Guardrail Translation Handler 证据：`litellm/llms/cohere/rerank/guardrail_translation/README.md`
- **Readme**（documentation）：Go here for the Gemini Context Caching code ../../vertex ai/context caching/ 证据：`litellm/llms/gemini/context_caching/README.md`
- **encoding format**（documentation）：No transformation is required for hosted vllm embedding. 证据：`litellm/llms/hosted_vllm/embedding/README.md`
- **LiteLLM Skills - Database-Backed Skills Storage**（documentation）：LiteLLM Skills - Database-Backed Skills Storage 证据：`litellm/llms/litellm_proxy/skills/README.md`
- **Readme**（documentation）：Translation of OpenAI /chat/completions input and output to a custom guardrail. 证据：`litellm/llms/openai/chat/guardrail_translation/README.md`
- **OpenAI Text Completion Guardrail Translation Handler**（documentation）：OpenAI Text Completion Guardrail Translation Handler 证据：`litellm/llms/openai/completion/guardrail_translation/README.md`
- **OpenAI Image Generation Guardrail Translation Handler**（documentation）：OpenAI Image Generation Guardrail Translation Handler 证据：`litellm/llms/openai/image_generation/guardrail_translation/README.md`
- **OpenAI Responses API Guardrail Translation Handler**（documentation）：OpenAI Responses API Guardrail Translation Handler 证据：`litellm/llms/openai/responses/guardrail_translation/README.md`
- **OpenAI Text-to-Speech Guardrail Translation Handler**（documentation）：OpenAI Text-to-Speech Guardrail Translation Handler 证据：`litellm/llms/openai/speech/guardrail_translation/README.md`
- **OpenAI Audio Transcription Guardrail Translation Handler**（documentation）：OpenAI Audio Transcription Guardrail Translation Handler 证据：`litellm/llms/openai/transcriptions/guardrail_translation/README.md`
- **JSON-Based OpenAI-Compatible Provider Configuration**（documentation）：JSON-Based OpenAI-Compatible Provider Configuration 证据：`litellm/llms/openai_like/README.md`
- **Pass-Through Endpoint Guardrail Translation**（documentation）：Pass-Through Endpoint Guardrail Translation 证据：`litellm/llms/pass_through/guardrail_translation/README.md`
- **Vertex AI Batch Prediction Jobs**（documentation）：Implementation to call VertexAI Batch endpoints in OpenAI Batch API spec 证据：`litellm/llms/vertex_ai/batches/Readme.md`
- **SDK Basic**（documentation）：This makes it easier to pass through requests to the LLM APIs. 证据：`litellm/passthrough/README.md`
- **litellm-proxy**（documentation）：A local, fast, and lightweight OpenAI-compatible server to call 100+ LLM APIs. 证据：`litellm/proxy/README.md`
- **LiteLLM Proxy Client**（documentation）：A Python client library for interacting with the LiteLLM proxy server. This client provides a clean, typed interface for managing models, keys, credentials, and making chat completions. 证据：`litellm/proxy/client/README.md`
- **LiteLLM Proxy CLI**（documentation）：The LiteLLM Proxy CLI is a command-line tool for managing your LiteLLM proxy server. It provides commands for managing models, viewing server status, and interacting with the proxy server. 证据：`litellm/proxy/client/cli/README.md`
- **How to use**（documentation）：Return the proxy base url and server root path, so UI can construct the correct url to access the proxy. 证据：`litellm/proxy/discovery_endpoints/README.md`
- 其余 20 条证据见 `AI_CONTEXT_PACK.json` 或 `EVIDENCE_INDEX.json`。

## 宿主 AI 必须遵守的规则

- **把本资产当作开工前上下文，而不是运行环境。**：AI Context Pack 只包含证据化项目理解，不包含目标项目的可执行状态。 证据：`README.md`, `docker/README.md`, `enterprise/README.md`
- **回答用户时区分可预览内容与必须安装后才能验证的内容。**：安装前体验的消费者价值来自降低误装和误判，而不是伪装成真实运行。 证据：`README.md`, `docker/README.md`, `enterprise/README.md`

## 用户开工前应该回答的问题

- 你准备在哪个宿主 AI 或本地环境中使用它？
- 你只是想先体验工作流，还是准备真实安装？
- 你最在意的是安装成本、输出质量、还是和现有规则的冲突？

## 验收标准

- 所有能力声明都能回指到 evidence_refs 中的文件路径。
- AI_CONTEXT_PACK.md 没有把预览包装成真实运行。
- 用户能在 3 分钟内看懂适合谁、能做什么、如何开始和风险边界。

---

## Doramagic Context Augmentation

下面内容用于强化 Repomix/AI Context Pack 主体。Human Manual 只提供阅读骨架；踩坑日志会被转成宿主 AI 必须遵守的工作约束。

## Human Manual 骨架

使用规则：这里只是项目阅读路线和显著性信号，不是事实权威。具体事实仍必须回到 repo evidence / Claim Graph。

宿主 AI 硬性规则：
- 不得把页标题、章节顺序、摘要或 importance 当作项目事实证据。
- 解释 Human Manual 骨架时，必须明确说它只是阅读路线/显著性信号。
- 能力、安装、兼容性、运行状态和风险判断必须引用 repo evidence、source path 或 Claim Graph。

- **LiteLLM 概述**：importance `high`
  - source_paths: README.md, ARCHITECTURE.md, litellm/__init__.py
- **快速入门指南**：importance `high`
  - source_paths: litellm/main.py, litellm/proxy/proxy_cli.py, .env.example
- **系统架构**：importance `high`
  - source_paths: litellm/proxy/proxy_server.py, litellm/router.py, litellm/litellm_core_utils/litellm_logging.py, litellm/proxy/_types.py
- **LLM 提供商集成**：importance `high`
  - source_paths: litellm/llms/__init__.py, litellm/llms/base.py, litellm/llms/openai/openai.py, litellm/llms/anthropic/chat/handler.py, litellm/llms/gemini/chat/transformation.py
- **代理服务器详解**：importance `high`
  - source_paths: litellm/proxy/proxy_server.py, litellm/proxy/auth/user_api_key_auth.py, litellm/proxy/management_endpoints/key_management_endpoints.py, litellm/proxy/common_request_processing.py, litellm/proxy/route_llm_request.py
- **管理控制台**：importance `medium`
  - source_paths: ui/litellm-dashboard/src/components, ui/litellm-dashboard/src/app, litellm/proxy/discovery_endpoints/ui_discovery_endpoints.py, litellm/proxy/management_endpoints/team_endpoints.py
- **路由策略**：importance `high`
  - source_paths: litellm/router.py, litellm/router_strategy/base_routing_strategy.py, litellm/router_strategy/least_busy.py, litellm/router_strategy/lowest_latency.py, litellm/router_strategy/lowest_cost.py
- **缓存系统**：importance `medium`
  - source_paths: litellm/caching/caching.py, litellm/caching/redis_cache.py, litellm/caching/redis_semantic_cache.py, litellm/caching/llm_caching_handler.py, litellm/proxy/caching_routes.py

## Repo Inspection Evidence / 源码检查证据

- repo_clone_verified: true
- repo_inspection_verified: true
- repo_commit: `28c0d8579b611067fc7656eec19170420149a398`
- inspected_files: `pyproject.toml`, `Dockerfile`, `package.json`, `README.md`, `docker-compose.yml`, `uv.lock`, `docs/my-website/docs/providers/crusoe.md`, `docs/my-website/docs/proxy/guardrails/xecguard.md`

宿主 AI 硬性规则：
- 没有 repo_clone_verified=true 时，不得声称已经读过源码。
- 没有 repo_inspection_verified=true 时，不得把 README/docs/package 文件判断写成事实。
- 没有 quick_start_verified=true 时，不得声称 Quick Start 已跑通。

## Doramagic Pitfall Constraints / 踩坑约束

这些规则来自 Doramagic 发现、验证或编译过程中的项目专属坑点。宿主 AI 必须把它们当作工作约束，而不是普通说明文字。

### Constraint 1: 失败模式：installation: Feature Request: Add FunASR as audio/transcriptions provider

- Trigger: Developers should check this installation risk before relying on the project: Feature Request: Add FunASR as audio/transcriptions provider
- Host AI rule: Before packaging this project, run the relevant install/config/quickstart check for: Feature Request: Add FunASR as audio/transcriptions provider. Context: Observed when using python, cuda
- Why it matters: Developers may fail before the first successful local run: Feature Request: Add FunASR as audio/transcriptions provider
- Evidence: failure_mode_cluster:github_issue | fmev_d1a79ffc4464fe779b4b0bfab64762c6 | https://github.com/BerriAI/litellm/issues/29367 | Feature Request: Add FunASR as audio/transcriptions provider
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 2: 失败模式：installation: v1.84.3

- Trigger: Developers should check this installation risk before relying on the project: v1.84.3
- Host AI rule: Before packaging this project, run the relevant install/config/quickstart check for: v1.84.3. Context: Observed when using node, docker
- Why it matters: Upgrade or migration may change expected behavior: v1.84.3
- Evidence: failure_mode_cluster:github_release | fmev_25464f70a090a48873093478f9c47a44 | https://github.com/BerriAI/litellm/releases/tag/v1.84.3 | v1.84.3
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 3: 失败模式：installation: v1.85.2

- Trigger: Developers should check this installation risk before relying on the project: v1.85.2
- Host AI rule: Before packaging this project, run the relevant install/config/quickstart check for: v1.85.2. Context: Observed when using node, docker
- Why it matters: Upgrade or migration may change expected behavior: v1.85.2
- Evidence: failure_mode_cluster:github_release | fmev_14c2300a2d7a22c62b42ee598460aa1c | https://github.com/BerriAI/litellm/releases/tag/v1.85.2 | v1.85.2
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 4: 失败模式：installation: v1.86.1

- Trigger: Developers should check this installation risk before relying on the project: v1.86.1
- Host AI rule: Before packaging this project, run the relevant install/config/quickstart check for: v1.86.1. Context: Observed when using node, docker
- Why it matters: Upgrade or migration may change expected behavior: v1.86.1
- Evidence: failure_mode_cluster:github_release | fmev_dd10890701f492cd3ae462ba46a60648 | https://github.com/BerriAI/litellm/releases/tag/v1.86.1 | v1.86.1
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 5: 失败模式：configuration: v1.87.0-rc.1

- Trigger: Developers should check this configuration risk before relying on the project: v1.87.0-rc.1
- Host AI rule: Before packaging this project, run the relevant install/config/quickstart check for: v1.87.0-rc.1. Context: Observed when using docker
- Why it matters: Upgrade or migration may change expected behavior: v1.87.0-rc.1
- Evidence: failure_mode_cluster:github_release | fmev_e83fcb4313aa1f975cd02db71b6c8f36 | https://github.com/BerriAI/litellm/releases/tag/v1.87.0-rc.1 | v1.87.0-rc.1
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 6: 能力判断依赖假设

- Trigger: README/documentation is current enough for a first validation pass.
- Host AI rule: 将假设转成下游验证清单。
- Why it matters: 假设不成立时，用户拿不到承诺的能力。
- Evidence: capability.assumptions | github_repo:671269505 | https://github.com/BerriAI/litellm | README/documentation is current enough for a first validation pass.
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 7: 维护活跃度未知

- Trigger: 未记录 last_activity_observed。
- Host AI rule: 补 GitHub 最近 commit、release、issue/PR 响应信号。
- Why it matters: 新项目、停更项目和活跃项目会被混在一起，推荐信任度下降。
- Evidence: evidence.maintainer_signals | github_repo:671269505 | https://github.com/BerriAI/litellm | last_activity_observed missing
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 8: 下游验证发现风险项

- Trigger: no_demo
- Host AI rule: 进入安全/权限治理复核队列。
- Why it matters: 下游已经要求复核，不能在页面中弱化。
- Evidence: downstream_validation.risk_items | github_repo:671269505 | https://github.com/BerriAI/litellm | no_demo; severity=medium
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 9: 存在评分风险

- Trigger: no_demo
- Host AI rule: 把风险写入边界卡，并确认是否需要人工复核。
- Why it matters: 风险会影响是否适合普通用户安装。
- Evidence: risks.scoring_risks | github_repo:671269505 | https://github.com/BerriAI/litellm | no_demo; severity=medium
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。

### Constraint 10: 来源证据：Feature Request: Add FunASR as audio/transcriptions provider

- Trigger: GitHub 社区证据显示该项目存在一个安全/权限相关的待验证问题：Feature Request: Add FunASR as audio/transcriptions provider
- Host AI rule: 来源问题仍为 open，Pack Agent 需要复核是否仍影响当前版本。
- Why it matters: 可能影响授权、密钥配置或安全边界。
- Evidence: community_evidence:github | cevd_7b1a78fc07144bc688c7f665fc1503f1 | https://github.com/BerriAI/litellm/issues/29367 | 来源讨论提到 python 相关条件，需在安装/试用前复核。
- Hard boundary: 不要把这个坑点包装成已解决、已验证或可忽略，除非后续验证证据明确证明它已经关闭。