企业 AI 的可用性目标,应先回答哪些任务必须在什么时间内、以什么最低质量交付,再决定要买多少冗余。只承诺接口在线率,会遗漏超时、旧数据和结果不明;直接要求最高等级,又可能把预算花在并不影响关键业务的地方。以下适用于已有明确业务范围、准备采购或扩大运行的企业 AI 服务,不为安全关键控制或法定责任设定通用容错比例。
先把服务承诺写成用户能验收的一项任务
服务水平指标 SLI 是实际测得的服务表现,服务水平目标 SLO 是在指定窗口希望达到的水平;对外服务协议 SLA 还涉及约定责任与补救,不能把内部目标自动当成供应方合同承诺。采购讨论至少要同时拿到对象范围、计数方法、观测位置和目标窗口,单独一个99.9%没有足够含义。
Google 的 SRE 工作手册建议围绕用户任务定义指标,并以合格事件占全部事件的比例表达。[1] 对经营分析助手,可以将一次任务定义为:获授权用户提交范围内问题,系统在约定期限内返回可读结果及所需数据版本。模型调用成功只是中间证据,用户端未收到结果仍可能构成失败。
把承诺拆成几个可区分的维度:按时交付、数据新鲜度、结果质量、权限与副作用。不要把所有风险都兑换成同一错误预算。偶发超时可以按约定评估服务水平;未经授权的数据披露应走独立事件处理,不能因总体成功率很高而被平均掉。正确拒绝越权请求也不应被当作服务故障。
适用范围须在计数前确定,包括支持的问题、身份、数据源、时段与结果期限。范围内的难题、上游故障和服务端限流,不能在失败后临时从分母删除。测试流量和明确不支持的请求可以按预先规则单列;用户重试需要关联原任务,既保留尝试负载,也避免用多次成功尝试冲淡同一次任务失败。
同一组任务,为什么会算出两个成功率
假设一家企业用 AI 查询已确认的经营指标,28天有20000项范围内任务。每项要求20秒内交付,数据不得落后于业务已发布批次;这些阈值仅为本例约定。为了便于完整复核,假设本轮全部结果都能与固定指标规则及输入版本核对,不把这种全量可判定条件推广到开放式生成。
将每项任务按最终证据归入一个互斥类别:19800项按时且合格;90项超过期限;40项明确未交付;30项交付了过期数据;20项指标结果不合格;20项在验收截止时仍缺少足以确认交付的记录。五类异常共200项,每项只计一次,同时另保留可能并存的故障标签。
若只要求有证据证明按时送达,过期与错误结果仍属于已送达,比例为19850除以20000,即99.25%。如果要求同时满足期限、新鲜度和结果核对,合格比例为19800除以20000,即99.00%。两者都可以计算,但名称必须说清,不能把前一个数字当成正确业务结果的保障。
20项未知继续留在分母,不加入成功分子,也不假装已经证实全都错误。后来找回证据,可以按固定修订规则更新结论并保留旧版。若真实生产中只有部分答案经过质量审核,应分别披露审核覆盖和已审结果,不凭抽样遥测直接给全部任务贴正确标签。
总平均还要拆到实际受影响的业务。假设200项异常中有120项发生在月末关账窗口的1000项任务,其他时段19000项只有80项异常,则两组合格率分别为88%和约99.58%。全月99%会掩盖关键时段的集中失败,因此关账窗口应单列目标与容量证据,而不是事后提高全站平均分。
错误预算是决策边界,不是可以随意消耗的额度
若本例暂定28天合格任务目标99.5%,20000项对应100项允许未达目标的任务。实际200项消耗了该预算的200%,说明目标未达到。目标改成99.9%则只允许20项,并不是把看板标签改严就能少出180项故障;必须指出哪些机制和投入能够改变结果。
GDS 的服务目标指南把错误预算用于安排可靠性工作,并要求目标同时考虑技术、产品和业务条件。[2] 本文建议预先约定:预算消耗过快时先缩小高风险变更;用尽后暂停会扩大相关故障的发布,保留必要修复和安全更新。是否全面冻结,需要看变更与故障的联系,不能机械惩罚没有关系的工作。
请求比例不能直接换成停机分钟。本例关账时段请求集中,同样十分钟中断可能影响大量任务;凌晨十分钟可能几乎没有请求。只有另行采用时间型指标、说明服务时段和好坏时间桶时,才计算时间预算。不要把按请求得到的99.5%宣传成固定允许中断几小时。
预算也不能代替单次中断限制。企业可能接受少量分散的短延迟,却无法接受一次持续两小时的停止服务。目标卡应同时列累计表现、单次恢复边界和关键窗口要求;若三者有冲突,应重新议定服务范围与备用流程,而不是选一个最容易达标的指标对外展示。
多一套实例之前,先查两条路径会不会一起失效
Microsoft 的故障模式分析方法要求沿业务流程识别依赖、故障点及影响范围,并区分增强冗余与降级运行。[3] 对本例,逐段列入口、身份验证、指标存储、模型、查询执行、结果交付。每段写明故障时用户会看到什么,以及备用路径是否仍依赖同一账号、配置、网络或数据版本。
两个模型端点若共用同一身份服务,身份故障时可能同时不可用;双区域应用若读取同一错误指标定义,会一起返回错误。只有在独立性假设成立时,才适合使用独立失效概率的乘法。现实中应通过依赖清单和演练证明隔离,不能把两家供应商的宣传在线率直接拼成自己的业务承诺。[1]
AWS 关于静态稳定性的说明强调,故障发生前就准备好承载所需的资源,避免恢复依赖临时创建基础设施。[4] 应用于本例,备用环境不仅要能启动,还要在主路径失效时承受约定峰值、取得获准数据及身份。平时能跑少量健康检查,并不足以证明关账高峰切换可用。
降级路径也必须有明确定义。若模型不可用时可以返回已经审核的固定报表,并准确显示截止批次,业务可能仍完成任务;但不能把昨日数据包装成实时答案来改善在线率。允许哪些固定问题、谁确认替代结果、如何回到正常服务,应在试点前写入方案并独立验收。
用同一业务需求比较三条投入路径
继续沿用20000项任务的假设。为讨论预算,另设三种完整路径:A维持现有服务并保留人工补做;B增加经批准的固定报表降级、关键依赖检查和演练;C在B基础上增加已准备容量的独立备用路径。三者都保留原数据质量与权限要求,不能让便宜方案只算低峰、昂贵方案却承担全部高峰。
为演示年度预算,另假设12个预算月各自需补做的受影响任务分别为A的200项、B的100项、C的60项,每项人工补做8分钟,内部时间成本按每小时150元。B每年新增资源与维护支出24000元、40小时演练,C分别为72000元、80小时;这些都是构造输入,不是厂商报价、测得故障频率或预计节省。
A年度补做成本为200乘12乘8除60再乘150,得到48000元。B为24000元资源维护、6000元演练和24000元补做,合计54000元;C为72000、12000和14400,合计98400元。比较只列相对共同基础服务的这些差异项,不能把它称为企业整体采购总价。
在只计人工补做、接受本例剩余故障的条件下,A比B少6000元,比C少50400元。B每年少影响1200项任务,所以若每项还存在超过5元的可避免延迟后果,B可能反超A;C相对B每年少影响480项,需超过92.5元的额外后果才抵消44400元差额。这里假设单位后果可加且由该路径避免,不能直接用订单销售额替代损失。
数字不是结论本身。如果100项剩余故障恰好全部影响关键关账,B仍可能不合格;如果任务可以隔天处理,额外后果可能接近零。上线前应以故障分类和试运行记录替换三种路径的假设影响量,再检查补做成本是否真的减少,而不是把人工等待误算成全部可节省工时。
两种情况会推翻看似划算的冗余方案
第一种是共同故障占主导。假设A的200项中,只有80项来自可被备用实例隔离的计算故障,另外120项来自共享身份、错误数据或相同发布。即使完全消除前80项,也不能把未达目标任务压到100项以内。应先取得按任务去重的故障证据,再改变共同依赖;不能将200项全部记成新增机器能避免的损失。
发现这一边界的方法是重放代表性故障:仅断主实例、仅阻断共享身份、发布有误数据版本,分别观察两条路径。若主备一起失败,记录共同节点与影响,修复隔离或调整降级范围后按同样条件复验。演练应在获准环境进行,不能用生产破坏来补一份验收报告。
第二种是备用路径改变了业务含义。主系统允许按最新批次查询,备用报表却少了退货;或者备用账号权限更宽,恢复时绕过区域限制。发现依据是同输入、同身份、同版本的结果对照,而不是健康检查。修正数据同步和权限配置,再同时复验正常答案、拒绝用例和切换后的截止时间提示。
还要考虑低流量和故障聚集:一个部门一个月只有十项任务,失败一项就是90%,不能据此精确推断长期故障概率;全月平均良好也不能证明下一次关账安全。记录样本量、时间分布和尚未演练的故障,必要时延长观察或缩小承诺。没有这些证据,应将目标标为试运行目标,而非已被证明的稳定能力。
把采购目标变成可执行的服务目标卡
目标卡第一组写业务:使用者、关键任务、服务时段、截止期限、最低可接受结果、必须单列的高后果风险。第二组写计量:逻辑任务标识、分母规则、成功条件、未知状态、重试归并、测量位置和窗口。对于本例,填20000项、20秒、已发布批次和28天,不只填99.5%。
第三组写责任:业务负责人批准降级范围;应用团队记录用户交付结果;数据负责人确认批次;运维团队维护故障证据;采购核对供应方承诺及未覆盖项。企业 AI 故障定位与诊断证据可帮助准备这些记录,但记录齐全仍需由本卡决定何时扩大运行、修复或缩小范围。
第四组写行动与复验:每个主要故障关联检测信号、处置人、备用路径、恢复条件和费用;至少演练主计算路径中断、共享依赖中断、旧数据降级和观测记录缺失。每项保留触发输入、用户实际结果、剩余容量、所用版本和未通过项,修复后重放同一场景。
第五组写投入判断:列A、B、C各自剩余影响、增量支出、内部工时和待确认损失;硬性业务条件未达成的方案先剔除,再比较成本。Google 的风险讨论提醒可靠性还占用工程机会成本。[5] 因而一个合理结果可能是先完善固定报表和责任,再采购冗余,而非所有服务都追求同一数量的“9”。
卡片应在业务期限、数据源、身份体系、模型依赖或峰值负载变化时重新打开。当前任务能否按时可信交付、哪类失效仍会一起发生、增加一笔预算能消除哪种影响,才是下一轮投入所需的三个答案。本文的比例与费用用于复算方法,实际承诺须由本企业证据和服务约定形成。
参考资料
- Google SRE Workbook — Implementing SLOs(2018;查阅2026-11-15)
- UK GDS — Make data-driven decisions with service level objectives(查阅2026-11-15)
- Microsoft Azure Well-Architected — Failure mode analysis(查阅2026-11-15)
- AWS Builders’ Library — Static stability using Availability Zones(2019-12-05;查阅2026-11-15)
- Google SRE — Embracing Risk(2016;查阅2026-11-15)
