我正在推进新的 LLM 版本发布,测试 PR 时重新审视了 llm-echo 调试插件。该插件提供了一个完全不涉及 LLM 的“模型”——它只是重复反馈输入的提示。新版本现在更新了模拟令牌使用计数,以考虑工具调用、系统提示和推理令牌。
示例用法:
uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage
输出:
首先我考虑提示,然后决定说什么。 { "prompt": "hi there", "system": "", "attachments": [], "stream": true, "previous": [] } 令牌使用情况:2 输入,24 输出