rtk - 開源 LLM Token 消耗削減工具

解決什麼

AI 程式設計助手(如 Claude Code、Cursor)在處理專案時會將大量檔案內容作為上下文傳送給 LLM,導致 Token 消耗激增。一箇中型專案的單次查詢可能消耗數十萬 Token,按 Claude 3.5 Sonnet 定價計算,頻繁使用者月成本可達數百美元。rtk 通過在 CLI 層面代理 AI 工具的檔案讀取請求,智慧過濾掉 node_modules、.git、編譯產物等無關內容,在保持功能完整性前提下將 Token 用量削減 60-90%。

為何火

專案在 GitHub 獲得 8 萬+ stars,核心吸引力在於"零配置降本"。開發者無需修改現有 AI 工具配置,僅需在命令前加 rtk 字首即可生效。Rust 實現保證了毫秒級過濾延遲,單二進位制分發消除了 Python/Node.js 環境依賴問題。據公開案例,某 React 專案從單次 15 萬 Token 降至 2 萬,成本直降 86%。在 AI 程式設計工具普及但 API 費用高企的背景下,該工具切中痛點。

核心功能

1. 智慧檔案過濾:基於 .gitignore 規則自動排除依賴目錄、日誌、快取等,支援自定義黑名單
2. 增量上下文:通過 SQLite 快取已傳送內容,僅傳輸變更部分
3. 多編碼支援:處理 Windows 內碼表(ANSI/OEM)和 UTF-8 混合場景,避免亂碼
4. 透明代理:攔截 AI 工具的檔案系統呼叫,對上層應用無感知
5. 統計報告:即時顯示節省的 Token 數量和成本

安裝

從 GitHub Releases 下載對應平臺的二進位制檔案(Linux/macOS/Windows),賦予執行許可權後移動到 PATH 目錄:

# macOS/Linux
curl -L https://github.com/rtk-ai/rtk/releases/latest/download/rtk-$(uname -s)-$(uname -m) -o rtk
chmod +x rtk && sudo mv rtk /usr/local/bin/

# 使用
rtk claude-code analyze-project

無需安裝 Rust 工具鏈或其他依賴,配置檔案自動生成在 ~/.config/rtk/。

適合誰

• 高頻 AI 程式設計使用者:每日使用 Claude Code/Cursor 超過 10 次的開發者,月省數百元 API 費用
• 大型專案團隊:程式碼庫超過 10 萬行,常規上下文視窗無法容納全部檔案
• 成本敏感場景:創業公司或個人開發者,需嚴格控制 LLM 開支
• 離線優先需求:本地快取機制減少重複網路請求

中國使用者注意:Claude API 需梯子訪問,國內 AI 工具(如通義靈碼)整合需自行適配。

社群評價

HN 討論熱度中等(18 點),主要爭議集中在命名衝突:多位開發者指出 "rtk" 已被 RTK GPS 定位庫和 Redux Toolkit 廣泛使用,README 首段專門宣告"與 RTK GPS 無關"反映作者意識到問題但未更名。有無人機 LiDAR 開發者表示"心智負擔很大"。

技術層面獲正面認可:Rust 實現的效能和零依賴特性被稱讚。有使用者提問"能否支援 Gemini 等其他 Agent",暗示需求存在但當前主要針對 Claude 最佳化。1603 個 open issues 顯示活躍但也反映功能請求和 bug 報告積壓,需關注維護節奏。

選型對比

維度	rtk	手動 .clignore	Cursor 內建過濾
自動化	CLI 代理透明	需逐專案配置	依賴編輯器實現
跨工具	支援任意 CLI	僅特定工具	僅 Cursor
效能	Rust 原生	無額外開銷	JavaScript 層
增量快取	內建 SQLite	無	部分支援

取捨:rtk 適合多工具切換場景,但引入額外程序;手動配置更可控但維護成本高;編輯器內建方案最便捷但鎖定生態。

已知坑

1. 命名混淆:與 RTK GPS/Redux Toolkit 重名,搜尋和討論易產生歧義
2. API 相容性:主要測試 Anthropic Claude,其他 LLM(Gemini/GPT-4)支援需驗證
3. Windows 編碼:雖支援內碼表轉換,但非 UTF-8 專案可能遇到邊緣情況
4. 配置透明度:預設過濾規則較激進,可能誤排除關鍵檔案(如自定義構建指令碼),需檢查 ~/.config/rtk/filters.toml
5. 網路依賴:中國大陸使用者需穩定梯子,否則 Claude API 呼叫失敗時工具無法降級

建議首次使用時對比原始 AI 工具輸出,確認過濾未影響程式碼理解準確性。