可观测性不只是请求日志

LLM 应用可能在多个层面失败:模型答案不好、检索上下文错误、工具调用失败,或者成本和延迟悄悄上升却没有明显报错。Langfuse、Phoenix 和 Helicone 都处在可观测性范围内,但入口不同。真正的比较应该同时观察追踪、评估数据、提示词或网关配置,以及把证据连接回用户结果所需的工作量。只看请求数量和平均延迟,很容易错过质量下降。

相对出众的地方与适用场景

Langfuse 相对适合希望在一个产品化工作区里管理追踪、提示词、数据集和用量分析的团队。Phoenix 相对适合希望靠近 LLM 或 Agent 质量实验,使用开源追踪和评估流程的团队。Helicone 相对适合把模型流量经过网关,从而快速获得请求可见性、成本统计和供应商比较。这里说的是相对适配,不是任何工作负载的绝对排名;团队已有的 SDK 和部署习惯也会影响接入成本。

边界与责任

遥测可能包含提示词、检索文档、工具参数和用户标识。启用采集前要定义脱敏和保留周期,再确认数据存在哪里、谁能读取。追踪可以说明请求慢,却不能单独证明用户为什么不喜欢答案。保留一组人工审核的小型评估集,并记录模型、提示词、检索和工具版本。网关观测与应用内追踪覆盖的请求路径也不一样,不能把一层的空白直接当成系统没有问题。还要检查项目许可证、托管计划和导出能力,明确停止某个供应商后能否保留原始追踪。可观测性系统本身也应遵守最小权限原则,避免为了排查模型问题而把整套用户数据长期暴露给所有维护者。还要给删除、导出和权限变更留下审计记录。

建议执行的对比实验

用同一个小型 Agent 做五个任务:直接回答、检索回答、工具失败、拒答和长耗时请求。分别记录接入时间、追踪完整度、脱敏控制、评估流程、成本归因,以及从错误输出回到可复现修复所需的人工步骤。让两个人独立查看同一条追踪并写出可能原因,再比较结论是否一致。把一次完整实验的原始输入、版本和结果保存下来。一致性比仪表盘颜色更有价值。最后模拟删除一条含敏感内容的追踪、关闭一个模型供应商、恢复一份导出数据,再记录哪些步骤仍然依赖平台管理界面。还要让评估集经历一次提示词更新,确认历史结果仍能比较,并检查异常成本是否能追溯到具体用户流程,而不是只停留在一个总数。