AI
为什么我在 AI 工作流上线之前无法预知其成本？
85
机会
2025 年，尽管每 token 价格下降了约 1,000 倍，企业 AI 推理支出仍增长了 3.2 倍，驱动因素包括代理循环、上下文窗口膨胀和常驻监控代理。一个每次调用费用为 $0.06、每分钟重试 1,000 次的失控代理，单日即可产生 $86,400 的支出。现有的云 FinOps 工具对此无能为力，因为推理成本取决于语义输入长度、工具调用放大效应和循环深度，而这些在规划阶段均无法预知。目前没有针对 LLM 工作流的标准预生产成本估算工具，CFO 也无法将 AI 推理费用建模为可预测的预算项。
为什么重要
如果在上线前没有可信赖的成本模型，每一款 AI 产品都将是预算彩票，而非真正的商业产品。
我如何评估机会
机会评分是我的个人判断，而非量化指标：痛苦程度、发生频率，以及当前解决方案的匮乏程度。分数越高，意味着我认为越值得去构建。
严重性8/10
出现时造成的痛苦程度。
频率9/10
人们实际遇到它的频率。
空白空间8/10
当前针对它的优质工具有多匮乏。