The Decoder· Matthias Bastian·· 2 小时前精选AI 评分73
Anthropic 推出 Message Threads,将长对话首字延迟缩短 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 在 Claude 平台推出公开测试版功能 Message Threads,通过仅传输自上一条消息以来的更改,将 50 万至 100 万 token 请求的首字延迟缩短了约 35%。该功能面向 Claude 平台及 AWS、Microsoft Foundry 和 Google Cloud 提供,在 5 分钟不活动后过期,主要使编码和计算机使用代理等场景受益。
推荐理由
原文介绍了 Anthropic 推出 Message Threads 的技术细节和性能提升幅度,适合开发者了解长对话优化的实际效果。
来源:The Decoder · the-decoder.com