跳到文章正文
应用 编辑推荐

亚马逊云科技发布 CloudWatch Omni:不只监控系统,还要给 AI 智能体“打分”

一分钟速览亚马逊云科技推出 CloudWatch Omni,定位“AI 优先”的可观测性平台,用…

一分钟速览

  • 亚马逊云科技推出 CloudWatch Omni,定位“AI 优先”的可观测性平台,用来监控、评估与排查自主 AI 智能体。
  • 它捕获端到端追踪,评估正确性、连贯性、检索效果与工具选择,而不只看延迟和错误率。
  • 支持 LangChain、LangGraph、CrewAI、OpenAI SDK、Strands、Vercel AI SDK,兼容 OpenInference 与 ADOT 开放标准。
  • 可与 Braintrust、DeepEval、Ragas 等第三方评估器联动,并集成 Bedrock AgentCore。

为什么“成功执行”不等于“结果正确”

对传统应用来说,延迟、错误率、CPU、可用性等指标通常足以定位运维问题。但对 AI 智能体,一次执行即使在技术层面毫无异常,仍可能产出错误结果:用错工具、检索到质量很差的信息,或者选了昂贵得没必要的执行路径。更麻烦的是智能体的行为具有非确定性——标准指标一切正常,提示词的一次改动就可能让响应质量下滑,团队不得不花数小时手动翻多个系统的日志,最后依然说不清到底变了什么、为什么变。

Omni 的做法

亚马逊云科技高级解决方案架构师 Daniel Abib 介绍,Omni 会捕获端到端追踪数据,评估正确性、连贯性、检索效果与工具选择,并允许用户比较提示词、根据生产流量构建测试数据集、跑实验以及检测回归。它采用 OpenInference 与 AWS Distro for OpenTelemetry 等开放标准,可与 Amazon Bedrock AgentCore 集成,也支持接入第三方评估器。可观测性层面,Omni 把传统微服务、云基础设施与生成式 AI、智能体负载纳入同一体系,原生支持 OpenTelemetry,现有遥测数据无需复杂重配即可接入。

双工作区与自然语言排查

Omni 提供双工作区:运维人员可通过单点登录使用独立的 Web 体验,开发者则能用免费本地 IDE 扩展,支持 VS Code 与 Kiro。它还支持 AI 驱动的调查能力,用户可以用自然语言查询日志、指标与追踪数据,识别拓扑问题并定位根因。亚马逊云科技副总裁 Chet Kapoor 形容它“能主动发现问题、追踪根因,并在同一平台找出智能体、应用与基础设施的改进空间”。

趋势洞察

智能体一旦进入生产,评价标准就从“能不能跑”变成“跑得对不对、贵不贵、稳不稳”。LangSmith、LangFuse、Arize Phoenix 等工具已经在做追踪、评估、提示词实验与数据集的组合,云厂商这次把能力收进统一平台,意味着“Agent 可观测性”正从创业公司的细分赛道,变成云基础设施的标准件。谁先把质量归因做扎实,谁就更容易让企业敢把关键流程交给智能体。

本文地址:https://www.163264.com/16972