Token Saver

工具介绍

## 这是什么 Token Saver 是一个开源的自托管缓存代理工具，专为频繁调用大语言模型（LLM）API 的开发者设计。它通过在本地或服务器上缓存重复的 API 请求和响应，避免向 OpenAI、Anthropic 等服务商重复发送相同查询，从而显著降低 token 消耗和 API 费用。 ## 核心功能 - **智能缓存机制**：自动识别并缓存重复的 LLM API 请求，相同输入直接返回缓存结果 - **自托管部署**：完全掌控数据和缓存策略，无需依赖第三方服务 - **透明代理**：作为中间层运行，无需修改现有代码即可接入 - **开源可定制**：基于 GitHub 开源，可根据团队需求调整缓存规则和存储方式 ## 适合谁 适合有一定技术能力、需要频繁调用 GPT/Claude 等 LLM API 的开发团队或个人开发者。特别适用于测试环境、批量处理或有大量重复查询的场景（如客服机器人、内容审核）。需要自行搭建部署环境，不适合纯小白用户。