从模型调用到任务交付:MaaS 如何走进 Agent 生产

2026-11-04 14:03:02   来源:技王数据恢复

从模型调用到任务交付:MaaS 如何走进 Agent 生产(1)
从模型调用到任务交付:MaaS 如何走进 Agent 生产(1)

2026年11月3日,InfoQ 中文 IT 资讯发布文章《从模型调用到任务交付:MaaS 如何走进 Agent 生产》,记录了腾讯全球数字生态大会模型与 MaaS 服务专场的内容。腾讯云 MaaS 产品中心总经理邹辉指出,应用拐点已经到来,模型正以泛办公场景为代表,向更多场景加速渗透。 技王数据恢复

模型供给与统一调度

随着模型供给日益丰富,企业需要从“接入一个模型”转向持续比较、选择和调度多种模型。腾讯云推出的 TokenHub 平台旨在解决这一问题: www.sosit.com.cn

  • 多模型接入:TokenHub 接入混元及多家厂商模型,覆盖文本推理、代码、图像、视频、音频和 3D 等场景,支持 Day 0 接入新模型。
  • 统一协议:平台通过统一 API Key 调用已接入模型,兼容 OpenAI、Anthropic 等主流协议,并提供 SDK、CLI 和 Skill 工具。
  • 服务分级:针对客服、语音外呼等高吞吐需求,提供按月预留 TPM 保障;针对金融报表等敏感业务,提供独立物理集群运行的模型单元;针对批量分析等任务,支持离线异步推理。

调用治理与成本控制

当模型调用进入多个团队后,TokenHub 提供了更细致的管理手段: 技王数据恢复

  • 权限与审计:支持按模型授权和设置额度,按 Key 或服务查看用量明细,并通过 Request ID 关联调用记录进行审计。
  • 费用方案:提供 Token Plan 企业版按月订阅,以及 Saving Plan 以月度消费承诺换取优惠。
  • 安全边界:涵盖基础设施(私网访问、算力隔离)、企业资产(凭证、权限)、数据内容(输入输出检测)和调用链路(模型水印、内容标识)。支持推理日志零数据留存(ZDR)配置,且业务正文不用于平台训练。

长任务成本与 Agent 执行

文章引用了 WorkBuddy 的实践案例,指出一次用户请求平均触发约 7.2 次模型调用,复杂任务超过 50 步并不罕见。针对长任务的高成本问题,团队通过固定提示词、将变化信息放在上下文末尾以提升前缀缓存复用,并结合模型路由策略(如将简单步骤交给轻量模型),在特定条件下可将单任务估算成本从约 21.06 元降至约 3.36 元。 技王数据恢复

从模型调用到任务交付:MaaS 如何走进 Agent 生产(2)
从模型调用到任务交付:MaaS 如何走进 Agent 生产(2)

在 Agent 执行层面,Runtime 负责管理沙箱环境、状态保存和权限隔离。MiniMax 的后训练实践展示了大规模并发沙箱(如 6.4 万个并发沙箱)对镜像加载和状态恢复的挑战,采用了按需加载、共享基础层去重和快照恢复等优化手段。 www.sosit.com.cn

技术审核:邓严军|技王数据恢复实验室技术总监 www.sosit.com.cn

上一篇:TechCrunch Mobility:2026年自动驾驶融资热潮超越2016年 下一篇:Anthropic团队零Rust经验启动Claude辅助API重构:CPU省40%,延迟降20%
搜索