跳到正文
10月20日周二
  1. AWS Machine Learning Blog

    AWS 博客:vLLM 双向 KV 传输可降低多轮 Agent 首 token 延迟

    AWS Machine Learning Blog 发文介绍,多轮 agent 负载每轮都会重复处理不断增长的对话上下文,推高延迟。文章称,双向 KV cache 传输让 prefill 与 decode 节点跨轮复用已计算的上下文,在配备 EFA 的 Amazon EC2 P5en 实例上,Qwen3-32B 的首 token 时间最高改善 1.6 倍,GLM-5-FP8 最高改善 3.3 倍。

    为什么值得看:对运行多轮 AI 助手或 agent 流程的企业,首 token 延迟直接影响交互体验和流程效率。该信息提供了推理侧复用上下文的具体优化方向及厂商披露的量化效果,可作为评估推理部署架构的参考;但需注意测试环境特定、版本与部署要求未说明,效果不能直接视为自身业务收益。

10月17日周六
  1. OpenAI News

    两名工程师用 Codex 数周上线 Stack Overflow for Agents,ChatGPT 插件带动最高 10 倍增长

    据 OpenAI 披露,两名工程师用 Codex 在数周内开发出 Stack Overflow for Agents,其 ChatGPT 插件帮助 agent 创建量最高增长 10 倍。

    为什么值得看:该案例展示了 Codex 在快速产品开发中的作用,以及 ChatGPT 插件作为分发渠道对 agent 创建增长的拉动。企业负责人可据此评估 AI 辅助开发缩短上线周期、插件生态获客的可行性,但增长数据为厂商披露,且未披露功能、定价与适用范围,需谨慎对待。

12月1日周一
  1. DeepSeek 官方动态

    DeepSeek V3.2 正式版发布:强化 Agent 能力并融入思考推理

    据 DeepSeek 官方动态,DeepSeek V3.2 正式版发布,官方称其强化了 Agent 能力,并融入思考推理。

    为什么值得看:企业负责人可关注该版本在智能体与推理任务上的能力更新,用于评估自动化流程、智能体应用及模型选型。但官方未披露具体性能数据、价格、部署方式与合规支持,落地前需进一步核实。

11月6日周四
  1. Kimi 开放平台官方动态

    Kimi 发布并开源 K2 Thinking 模型,主打 Agent 与推理能力提升

    Kimi 开放平台官方动态显示,Kimi 于 2025 年 11 月 6 日发布并开源 K2 Thinking 模型,官方称其在 Agent 和推理能力方面有全面提升。

    为什么值得看:对企业负责人而言,开源模型意味着可评估私有化部署与数据可控性,Agent 与推理能力提升可能影响智能客服、流程自动化、知识处理等场景的选型。但来源信息有限,模型规格、性能数据、许可证与部署成本均未披露,需进一步核实后再评估是否纳入技术栈。