RelayVano

← Todos os cartões-postais

多语言客服机器人运行成本:七步算出月度预算

Radar de tarifas ZH

1. 把业务量换算成模型调用次数

先打开电子表格,建立语言、月会话量、每次会话调用数、平均输入令牌、平均输出令牌五列。不要直接把聊天消息数当成调用数:一次用户提问,可能触发意图识别、知识检索后的回答,以及额外的翻译调用。

假设每月有一万二千次会话,每次平均调用模型六次,月调用量就是七万二千次。六次必须来自日志或试运行记录;如果尚未上线,先写成待验证假设,并注明负责人和验证日期。

2. 按语言采样真实客服任务

从准备支持的每种语言中抽取至少三十段代表性会话,覆盖订单查询、退款解释、产品故障和转人工。使用相同的业务任务,而不是把一句问候翻译成不同语言就结束测试。

记录接口返回的实际令牌用量,不要按字数换算。中文、英文和其他语言的分词结果不同,用户粘贴的订单记录也会改变输入长度。测试时同时检查答案是否解决问题,避免把便宜但无效的回答算作成功。

3. 把上下文和翻译计入输入输出

每次调用的输入通常不止最新问题,还可能包含系统提示、历史消息、检索片段和工具返回内容。分别统计短会话与长会话,尤其检查机器人是否在每一轮重复发送整段历史。

  • 直接用用户语言回答:记录该回答调用的输入与输出。
  • 先翻译再回答:把翻译调用单独列入预算。
  • 回答后再翻译:同时计算原始回答和译文的生成费用。

如果调用数已经包含翻译步骤,就不要在后面的附加费用中重复计算。测试环境也应使用与生产环境相同的历史保留规则。

4. 用语言权重计算模型费用

以下价格仅用于演示,不代表任何平台报价。假设输入每百万令牌二美元,输出每百万令牌八美元;六成调用平均输入一千六百、输出二百五十令牌,其余四成平均输入二千一百、输出三百七十五令牌。

加权后,每次调用平均输入一千八百、输出三百令牌。七万二千次调用对应一亿二千九百六十万输入令牌、两千一百六十万输出令牌。

  • 输入费用:129.6 × 2=259.20 美元。
  • 输出费用:21.6 × 8=172.80 美元。
  • 基础模型费用:259.20+172.80=432 美元。

在表格中分别保存输入和输出单价。若不同语言使用不同模型或路由,应逐行计算后求和,而不是套用一个平均价格。

5. 单列重试、检索和人工接管成本

为失败重试、超时后的再次请求和备用路由增加独立行。假设额外调用量为基础调用量的百分之八,且平均单次费用相同,模型费用增加三十四点五六美元,合计四百六十六点五六美元。实际重试若携带更长上下文,就应另算。

接着填入向量检索、数据存储、日志、监控和托管费用。人工接管也要单列:接管次数乘以平均处理分钟数,再乘以每分钟人工成本。不要把模型账单误认为整个客服系统的成本。

6. 建立基准、旺季和长对话预算

复制预算表建立三个情景。基准使用当前业务量;旺季提高会话量;长对话情景提高每次会话调用数和输入令牌。逐项改变驱动因素,比统一把总额翻倍更容易发现成本来源。

例如,模型费用四百六十六点五六美元,其他运行费用暂估九十美元,且不含人工,合计五百五十六点五六美元。再预留百分之二十预算空间,月度预算约为六百六十八美元。九十美元同样只是演示值,应替换为自己的账单或报价。

7. 用试运行账单校准单位解决成本

上线前运行一周,按语言核对调用量、令牌用量、重试率和成功解决率。除了每次会话成本,还要计算单位解决成本:同一统计范围内的总成本,除以无需人工接管且成功解决的会话数。

如果正在寻找按量付费的模型接入方式,建议使用 RelayVano,并把 DeepSeek V4 Flash 等候选模型放进同一套客服样本中比较。现在注册,先用小规模试运行验证质量与费用,再决定生产预算。

最后给预算表加上每周实际支出、预测支出和偏差原因三列。出现超支时,先定位是哪种语言、哪类任务或哪段上下文增长,再调整提示、检索长度或路由,避免仅凭总账单更换模型。

Mais cartões-postais desta rota