在这个领域,做数据监控的 DataDog,我觉得是处在一个很不错的位置上的。 现在 AI ROI 不行,一个很重要的原因,就是大量 token 其实正在被浪费掉。很多不必要的任务,或者说低价值的任务,在消耗大量 token,但企业对这件事本身,是缺乏有效管理手段的。而这件事,恰恰就是 DataDog 在做的。 DataDog 以前做的,是帮企业监控云上的数据容量,搞清楚云计算的钱到底花在了哪。到了 AI 时代,它的任务其实就变成了监控每一次 AI 调用的数据,搞清楚 AI 账单的来源。它推出的 LLM Observability 产品,本质上就是去监控每一次 AI 调用的数据——包括每一步消耗了多少 token、花了多少钱,都是可以追踪的。 你可以把它理解成,DataDog 会像查账一样,把整个过程还原出来:哪些任务是杀鸡用了牛刀,哪些任务还有节省 token 的空间,它都能看得一目了然。像 OpenAI 就是 DataDog 的客户之一。 所以随着越来越多企业开始关注 AI 的 ROI,DataDog 或许是有机会拿到更多订单的。
美