跳到正文
The Decoder· Matthias Bastian·· 3 小时前AI 评分62

Anthropic 推出 Message Threads 公测版,长对话首 Token 延迟降低 35%

Anthropic's Message Threads cut time to first token by 35 percent for long conversations

AI 导读

Anthropic 在 Claude 平台推出 Message Threads 公共测试版,通过仅传输自上一条消息以来的变化内容,使 50 万至 100 万 Token 请求的首 Token 时间(TTFT)减少约 35%。

来源:The Decoder · the-decoder.com