The Decoder· Matthias Bastian·· 3 小时前精选
Anthropic 推出 Message Threads：长对话首 token 时间约降 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 为 Messages API 发布 Message Threads。据来源，智能体不再每轮重发完整对话，只传输变化内容；在 50 万至 100 万 token 的请求中，首 token 时间下降约 35%。
为什么值得看
对使用长上下文智能体的企业，这项 API 变化可能改善多轮交互的响应速度并减少重复上下文传输，值得评估现有长对话流程的接入方式；但效果为厂商披露数据，且价格、可用范围和迁移成本尚不明确，需以官方文档核实后再决策。
来源：The Decoder · the-decoder.com