Doramagic.ai English

观测与评估 · 开源项目

deepeval

观测与评估项目，用于把运行日志、质量指标、数据漂移或实验结果转成可复核信号。

可观测性评估质量指标数据漂移实验追踪
最适合谁需要把 AI 应用、数据管道或实验结果接入可复核观测/评估流程的开发者。

判断自己是不是目标用户。

能做什么观测接入路径、指标边界、样本数据脱敏、评估验收和失败排查清单

查看可带走的能力路径。

继续前先用脱敏样本数据验证采集、指标解释和导出/删除路径。

未完成验证前保持审慎。

GitHub 快照16k 星标

1.5k 分叉 · 299 贡献者

最后验证日期：2026-06-29 验证方法：来源证据、语义档案、公开页面门禁和静态构建验收。

官方quick start 阅读项目说明书 源仓库

快速判断 · 2026-06-29

deepeval 项目 是什么？

01

一眼判断

先判断自己是否是目标用户，再决定是否继续。
最适合谁需要把 AI 应用、数据管道或实验结果接入可复核观测/评估流程的开发者。

判断自己是不是目标用户。

核心能力观测接入路径、指标边界、样本数据脱敏、评估验收和失败排查清单

不适合没有日志/样本数据、不能处理隐私边界，或只想安装一个聊天 UI 的用户。

第一步验证先用脱敏样本数据验证采集、指标解释和导出/删除路径。

未完成验证前保持审慎。

02

它能做什么

把项目翻译成用户能判断的具体能力，而不是 Doramagic 的使用流程。
1

工具连接与集成

LLM 评估框架

ability-1
2

开源能力构建

帮助用户判断这个项目适合什么工作，而不是只看技术名词。

ability-2
3

检索增强

说明输入、输出、失败模式和继续前需要复核的边界。

ability-3
4

可验证工作流

沉淀为 Prompt、说明书、上下文包或预检清单等可带走资产。

ability-4

来源：https://github.com/confident-ai/deepeval、https://github.com/confident-ai/deepeval#readme、项目说明书、踩坑日志。这里只回答“它能帮我做什么”。

03

项目温度与外部声音

站点快照，非实时质量证明；用于开工前背景判断。
星标16k
分叉1.5k
贡献者299
许可证未知
状态可发布

社区讨论

已收录 12 条来源

下面是已采集到的项目级社区讨论来源，来源平台：github。这些外部声音用于帮助判断真实使用反馈，不单独作为质量证明。

04

怎么开始使用

先试、再读项目说明书、再带给 AI，最后按官方quick start验证。
1

先试 Prompt

不安装项目，先体验能力节奏。

预览
2

读项目说明书

理解输入、输出、失败模式和边界。

说明书
3

带给 AI

把上下文交给你的宿主 AI 继续工作。

上下文
4

沙箱验证

进入主力环境前先完成安装入口与风险边界验证。

验证
Python / pip · 官方安装入口pip install -U deepeval

来源：https://github.com/confident-ai/deepeval#readme。验证：已通过。

05

项目说明书

每个项目结构不同，Doramagic 保留原项目解释结构，并补充边界与踩坑日志。

草稿 · 项目说明书

deepeval 说明书

LLM 评估框架

打开完整说明书
  1. https://github.com/confident-ai/deepeval 项目说明书
  2. 目录
  3. 说明书章节
  4. 相关页面
  5. 项目概述
  6. 安装与配置
  7. 核心模块与能力

06

带给 AI 的上下文包

决定继续后，把项目上下文带给你的宿主 AI。

标准项目包 + 用户可带走资产

这不是营销摘要。它是用户决定继续后，可交给 Claude Code、Codex、Gemini、Cursor 等宿主 AI 的开工前上下文。

下载完整包 阅读项目说明书
完整包完整项目包资产带给 AI 的上下文包资产边界与风险卡资产项目说明书资产踩坑日志资产安装前试用 Prompt资产官方quick start证据文件REPO_INSPECTION.json

07

继续前检查

在复制命令、导入 AI、安装插件前，看清还不能相信什么。
检查 1

不要把试用当真实运行

试用 Prompt 只展示流程，不证明项目已安装或运行。

检查 2

确认宿主兼容

继续前需要复核。

检查 3

先隔离验证

继续完成沙箱验证和证据复核

08

踩坑日志与复核重点

Doramagic 记录的高风险项优先显示，避免用户把候选能力当成已验证能力。
high · 安装坑

来源证据：CLI improvement: option to display only failed tests

GitHub 社区证据显示该项目存在一个安装相关的待验证问题：CLI improvement: option to display only failed tests

可能增加新用户试用和生产接入成本。

high · 安装坑

来源证据：ConfidentInstrumentationSettings with pydantic-ai: tools_called、expected_tools、and actual_output are all None when us…

GitHub 社区证据显示该项目存在一个安装相关的待验证问题：ConfidentInstrumentationSettings with pydantic-ai: tools_called、expected_tools、and actual_output are all None when using OpenAIResponsesModel

可能阻塞安装或首次运行。

high · 安全/权限坑

失败模式：security_permissions: Security: request for a submitting security vulnerabilities.

需要继续复核。

Developers may expose sensitive permissions or credentials: Security: request for a submitting security vulnerabilities.

high · 安全/权限坑

来源证据：Contextual Precision over-penalizes overlapping chunks in financial-document RAG

GitHub 社区证据显示该项目存在一个安全/权限相关的待验证问题：Contextual Precision over-penalizes overlapping chunks in financial-document RAG

可能影响授权、密钥配置或安全边界。

medium · 配置坑

可能修改宿主 AI 配置

项目面向 Claude/Cursor/Codex/Gemini/OpenCode 等宿主，或安装命令涉及用户配置目录。

安装可能改变本机 AI 工具行为，用户需要知道写入位置和回滚方法。

medium · 配置坑

失败模式：configuration: 🎉 New Interfaces、Reduce ETL Code < 50%!

需要继续复核。

Upgrade or migration may change expected behavior: 🎉 New Interfaces、Reduce ETL Code < 50%!

medium · 配置坑

失败模式：configuration: 🔥 DeepEval 4.0: Eval Harness for Coding Agents、1-line integrations、TUI for trace inspection!

需要继续复核。

Upgrade or migration may change expected behavior: 🔥 DeepEval 4.0: Eval Harness for Coding Agents、1-line integrations、TUI for trace inspection!

medium · 能力坑

能力判断依赖假设

README / 文档足够支持第一次验证，但仍需继续核对。

假设不成立时，用户拿不到承诺的能力。

medium · 运行坑

失败模式：runtime: ConfidentInstrumentationSettings with pydantic-ai: tools_called、expected_tools、and actual_o...

需要继续复核。

Developers may hit a documented source-backed failure mode: ConfidentInstrumentationSettings with pydantic-ai: tools_called、expected_tools、and actual_output are all None when using OpenAIResponsesModel

medium · 维护坑

失败模式：migration: 🎉 New Decision Graph Logic for Granular Simulation Control

需要继续复核。

Upgrade or migration may change expected behavior: 🎉 New Decision Graph Logic for Granular Simulation Control

medium · 维护坑

维护活跃度未知

未记录 last_activity_observed。

新项目、停更项目和活跃项目会被混在一起，推荐信任度下降。

medium · 安全/权限坑

存在评分风险

缺少可复核演示

风险会影响是否适合普通用户安装。

下一步：先用脱敏样本数据验证采集、指标解释和导出/删除路径。。