本地 qwen3-coder 模型连接失败并报 502 错误 - cc-switch
Quick fix
Claude Code 要求 Anthropic Messages 格式,需在 cc-switch 与本地模型之间加一层格式转换代理(如 LiteLLM)。
Symptom
Section titled “Symptom”CC-Switch发送的请求与这个成功的curl请求有差异,导致502错误。问题的根本原因在于 API 格式不兼容。Claude Code 使用的是 Anthropic 特有的 Messages API 格式,而用户通过 llama-server 部署的本地 qwen3-coder 模型提供的是 OpenAI 兼容的 Chat Completions API 格式。虽然 curl 和 Cherry Studio 可以成功调用该 OpenAI 格式接口,但 Claude Code 发送的是 Anthropic 格式请求,导致本地服务器无法解析,进而引发 502 错误。维护者明确指出这是输出格式问题,即 chat 格式与 anthropic messages 格式之间的不匹配。
部署格式转换代理(如 LiteLLM)作为中间层,将 Claude Code 的 Anthropic 格式请求转换为本地模型支持的 OpenAI 格式。运行命令示例:litellm --model openai/qwen3-coder --api_base http://localhost:8080/v1 --port 4000
cc-switch 配置\n{ "env": {"ANTHROPIC_BASE_URL": "http://localhost:4000","ANTHROPIC_MODEL": "qwen3-coder"}}在 cc-switch 中将 ANTHROPIC_BASE_URL 指向本地转换代理的地址(如 http://localhost:4000),而不是直接指向 llama-server 的 OpenAI 兼容端点。
cc-switch 配置\n{ "env": {"ANTHROPIC_BASE_URL": "http://localhost:4000"}}确保本地 llama-server 保持正常运行,代理层将处理格式转换并转发请求到 http://localhost:8080/v1。
Affected Versions
Section titled “Affected Versions”Source Issues
Section titled “Source Issues”本页汇总自 1 个真实 issue
- 为什么 curl 和 Cherry Studio 能成功调用本地模型,但 cc-switch 不行?
- 因为 curl 和 Cherry Studio 使用的是 OpenAI 兼容的 Chat Completions 格式,而 cc-switch 配置的 Claude Code 发送的是 Anthropic Messages 格式,两者不兼容。
- 我可以直接在 cc-switch 里配置本地 llama-server 的 OpenAI 兼容端点吗?
- 不可以。Claude Code 强制使用 Anthropic 格式,直接配置 OpenAI 端点会导致格式不匹配和 502 错误,必须通过格式转换代理中转。
这是一个非官方社区 wiki,与 cc-switch 作者及项目本身无隶属关系。内容整理自项目公开的 GitHub issues。本站不分发任何软件。