跳到正文
Simon Willison·· 3 小时前AI 评分15

llm-echo 0.5 发布,模拟 token 用量支持工具调用与推理

llm-echo 0.5

AI 导读

llm-echo 0.5 版本发布,该调试插件的模拟 token 用量统计现已涵盖工具调用、系统提示词及推理 token。作为不涉及真实 LLM 的 echo 模型,它通过重复输入来辅助测试,此次更新提升了在复杂交互场景下的用量估算准确性。

来源:Simon Willison · simonwillison.net