從訂閱焦慮到本地自由：一個程式設計師的AI工具遷移實錄

一位老哥用了半年Claude Code，最終還是因為"離譜的使用限制"（原話：almost unusable usage limits）怒退20刀月費訂閱。他的解決方案很硬核：直接在VS Code裡搭了個本地大模型（LLM）工作流，用開源模型平替雲端服務。雖然體驗打了點折扣，但無限白嫖的特性反而讓他產出更多程式碼了。

痛點暴擊：雲端AI的隱形天花板

作者日常就是修bug、加小功能、調優程式碼，這些活兒根本用不著頂級模型的推理能力。Claude Code雖然強，但那個"5小時限額"簡直要命——debug時反覆試錯都不敢放開手腳。這波啊，是訂閱制AI的通病：說是按需付費，結果用起來處處受限。

---

選型指南：效能與硬體的極限拉扯

老哥的裝備是M5 MacBook Air（16GB記憶體），直接pass了那些龐然大物。以下是他的實測體驗：

• GPT-OSS 20B：能力線上，但光模型就吃掉16GB記憶體，開個VS Code直接卡成PPT
• Codestral 22B：量化後勉強能跑，程式碼補全還行，但處理多檔案專案就拉胯
• DeepSeek Coder V2 Lite：9GB記憶體佔用，算是備胎之一
• Qwen2.5 Coder 7B/14B：7B版本快是快，但容易跑偏；**14B版本（Q4量化後9GB）**在程式碼生成、推理和修復上表現均衡，還支援工具呼叫——這可是Continue外掛實現檔案操作的核心能力

最終選擇：Qwen2.5 Coder 14B。用作者原話：雖然比不上Claude那種專案級理解能力，但修bug加功能這種明確需求完全hold住，響應速度也能跟得上coding節奏。

---

落地實操：Docker+Continue組合拳

1. 推理引擎：Docker Model Runner

用Docker Model Runner當模型底座，負責下載和執行模型。在Docker Desktop裡一鍵啟動後，通過OpenAI相容API（埠12434）提供服務，直接拉取Qwen2.5 Coder 14B。

2. VS Code對接：Continue外掛

Continue這外掛堪稱神隊友：

• 聊天視窗、行內編輯、自動補全全都有
• Agent模式：能搜專案檔案直接改程式碼
• 雲端本地模型通吃

配置檔案~/.continue/config.yaml示例：

- name: Qwen2.5 Coder 14B
  provider: openai
  model: ai/qwen2.5-coder:14B
  apiBase: http://localhost:12434/engines/v1
  apiKey: not-needed
  contextLength: 8192
  maxTokens: 2048
  temperature: 0.1
  capabilities:
    - tool_use
  roles:
    - chat
    - edit
    - apply

這套配置讓本地模型化身編碼助手，查專案、找檔案、改程式碼一條龍服務，全程資料不出本地。

3. 騷操作最佳化

• 大小模型組合拳：小模型負責補全（速度快），14B大模型主攻程式碼編輯
• 專案規則庫：在.continue/rules/裡存專案結構、測試命令和禁改檔案清單，讓模型少犯二

---

真實體驗：夠用但別指望太爽

作者直言，本地方案和Claude Code比確實糙：

• Qwen2.5 Coder 14B理解大專案慢半拍，得多給明確指令
• 別指望它自己搞定複雜需求

但修bug、加小功能這種明確需求基本穩了。Continue會自動關聯專案檔案，建議的程式碼改動能直接應用，不用來回複製貼上。

效能表現（M5 MacBook Air 16GB）：

• 響應比雲端慢，長時間跑機器能煎雞蛋
• 跑14B模型時記憶體吃緊，其他吃記憶體的軟體得關一關
• 最大亮點：徹底告別用量焦慮——隨便試錯、反覆追問、批次修bug，真·為所欲為

---

國內開發者の快樂指南

1. 成本暴降：20刀月費變一次性硬體投入，越用越回本
2. 隱私無憂：程式碼不出本地，企業敏感專案隨便搞
3. 網路自由：再也不用擔心API抽風
4. 國產優勢：Qwen2.5 Coder對中文註釋理解更溜，工具生態也更接地氣

適用場景：日常維護中小專案、個人練手、對響應速度要求不極致的場景。架構設計或大型重構還是得找更專業的模型。

常見問題

16GB 記憶體的裝置能流暢執行 Qwen2.5 Coder 14B 嗎?

根據原文實測,Q4 量化版本佔用約 9GB 記憶體,在 M5 MacBook Air 16GB 裝置上可執行,但會限制其他應用的可用記憶體,長時間使用會導致裝置發熱。建議關閉記憶體密集型應用(如多個 Docker 容器)以保證流暢性。

本地模型與 Claude Code 的核心差距在哪裡?

原文指出三點:1)理解大型專案的速度和準確性較弱;2)錯誤率更高,需更具體的指令;3)無法處理模糊需求。但對於明確定義的 bug 修復、小功能開發等佔日常工作 80% 的任務,14B 模型已足夠勝任,且無使用次數限制。

Continue 外掛的 Agent 模式可靠嗎?

原文提到 Continue 支援檔案搜尋和終端命令等工具呼叫,但效果高度依賴模型能力。Qwen2.5 Coder 14B 支援 tool_use,可執行基本的檔案檢查和程式碼變更,但複雜的多步驟自主操作仍不如雲端大模型穩定。

如何降低本地模型的響應延遲?

原文建議:1)用更小的模型(如 Qwen2.5 Coder 7B)處理自動補全;2)通過 .continue/rules/ 提供專案結構等上下文,減少模型推理負擔;3)避免同時執行其他高負載任務。硬體層面,更大記憶體或 GPU 加速(如 NVIDIA 顯示卡)可顯著提升速度。

這套方案對中國開發者有哪些獨特優勢?

三點核心價值:1)規避國際 AI 服務的網路訪問限制;2)程式碼隱私完全可控,適合企業敏感專案;3)Qwen 系列模型由阿里雲開源,對中文程式碼註釋和文件理解更優,且國內社群支援活躍。成本方面,一次性硬體投入後無持續訂閱費用。

---

本文基於 GNews:XDA Developers 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.xda-developers.com/ditched-claude-codes-20-plan-local-llm-vs-code-getting-more-done/