跳到正文
10月20日周二
  1. AWS Machine Learning Blog

    AWS 博客:vLLM 双向 KV 传输可降低多轮 Agent 首 token 延迟

    AWS Machine Learning Blog 发文介绍,多轮 agent 负载每轮都会重复处理不断增长的对话上下文,推高延迟。文章称,双向 KV cache 传输让 prefill 与 decode 节点跨轮复用已计算的上下文,在配备 EFA 的 Amazon EC2 P5en 实例上,Qwen3-32B 的首 token 时间最高改善 1.6 倍,GLM-5-FP8 最高改善 3.3 倍。

    为什么值得看:对运行多轮 AI 助手或 agent 流程的企业,首 token 延迟直接影响交互体验和流程效率。该信息提供了推理侧复用上下文的具体优化方向及厂商披露的量化效果,可作为评估推理部署架构的参考;但需注意测试环境特定、版本与部署要求未说明,效果不能直接视为自身业务收益。

10月19日周一
  1. 雷峰网 · 人工智能

    Anthropic 自研 Scion 替换 Git,GitHub 用 ModernBERT 改造密钥扫描

    雷峰网报道,Anthropic 为承接 Claude 持续生成的代码,由 7 名工程师用 5 个月开发版本控制系统 Scion 并迁移核心代码仓库。报道称其日均合并代码变更从 5 月约 2500 项增至 9 月超过 3 万项,CI 每天约执行 2500 万次代码检出;Scion 将提交、合并、变基和历史查询放到中心服务,客户端按需展开工作目录。Anthropic 披露迁移后相较旧 Git 镜像体系 CPU 和内存需求约缩小 200 倍,检出从分钟级降至秒级,CI 释放约 25% CPU 容量。同期 GitHub 用微调后的 ModernBERT 替换密钥扫描中的通用 LLM 判断;哥伦比亚大学与 Google DeepMind 等机构通过 BTTF 将芯片仿真波形转换为 SQLite,供 Agent 用 SQL 排查异常。

    为什么值得看:对大量使用 AI 编码的企业,这篇报道提示了工具链层面的真实压力:代码生成量上升会放大仓库检出、CI 和历史查询成本,传统为人类开发节奏设计的 Git 与扫描流程可能成为瓶颈。Anthropic 的 Scion 和 GitHub 的密钥扫描改造,分别对应基础设施降本与安全判断效率两个可评估方向;BTTF 则展示了把大体量专业数据转成 Agent 可查询接口的思路。企业负责人可据此审视自身 AI 编码规模化后的 CI 容量、仓库架构和安全扫描成本,但厂商披露的量化效果需结合自身负载验证,Scion 的在线化取舍和新增运维成本也应纳入评估。

10月17日周六
  1. OpenAI News

    两名工程师用 Codex 数周上线 Stack Overflow for Agents,ChatGPT 插件带动最高 10 倍增长

    据 OpenAI 披露,两名工程师用 Codex 在数周内开发出 Stack Overflow for Agents,其 ChatGPT 插件帮助 agent 创建量最高增长 10 倍。

    为什么值得看:该案例展示了 Codex 在快速产品开发中的作用,以及 ChatGPT 插件作为分发渠道对 agent 创建增长的拉动。企业负责人可据此评估 AI 辅助开发缩短上线周期、插件生态获客的可行性,但增长数据为厂商披露,且未披露功能、定价与适用范围,需谨慎对待。

10月16日周五
  1. 机器之心

    苹果与CMU提出SSR框架:把Agent推理从逐token生成改为做选择题

    苹果与卡内基梅隆大学研究团队提出SSR(Selection-based Structured Reasoning)框架,重新设计智能体工作流中的推理环节。ReAct范式下模型每执行动作前需生成自由形式推理,带来推理开销;SSR改为让模型从一组预定义推理选项中选择,而非逐token生成推理。来源称该方式可使Agent推理快约10倍。

    为什么值得看:企业若部署Agent类应用,推理环节的延迟与算力成本是实际支出项。该框架提供了一种降低单步推理开销的思路,值得在评估Agent架构与成本优化时关注。但需注意其效果基于论文实验,预定义选项的构建与场景泛化能力尚不明确,落地前应结合自有任务验证。

12月1日周一
  1. DeepSeek 官方动态

    DeepSeek V3.2 正式版发布:强化 Agent 能力并融入思考推理

    据 DeepSeek 官方动态,DeepSeek V3.2 正式版发布,官方称其强化了 Agent 能力,并融入思考推理。

    为什么值得看:企业负责人可关注该版本在智能体与推理任务上的能力更新,用于评估自动化流程、智能体应用及模型选型。但官方未披露具体性能数据、价格、部署方式与合规支持,落地前需进一步核实。

11月6日周四
  1. Kimi 开放平台官方动态

    Kimi 发布并开源 K2 Thinking 模型,主打 Agent 与推理能力提升

    Kimi 开放平台官方动态显示,Kimi 于 2025 年 11 月 6 日发布并开源 K2 Thinking 模型,官方称其在 Agent 和推理能力方面有全面提升。

    为什么值得看:对企业负责人而言,开源模型意味着可评估私有化部署与数据可控性,Agent 与推理能力提升可能影响智能客服、流程自动化、知识处理等场景的选型。但来源信息有限,模型规格、性能数据、许可证与部署成本均未披露,需进一步核实后再评估是否纳入技术栈。