Tag: 大模型部署

All the articles with the tag "大模型部署".

• 本地大模型部署实战：llama.cpp + 35B A3B 多模态模型

  18 Jun, 2026

  # 本地大模型部署实战：llama.cpp + 35B A3B 多模态模型 ## 背景 用户在一台 RTX 3080（20GB 显存）的 Linux 机器上，使用 llama.cpp 的 `llama-server` 部署了 Qwen3...