Tag: 大模型部署
All the articles with the tag "大模型部署".
-
本地大模型部署实战:llama.cpp + 35B A3B 多模态模型
# 本地大模型部署实战:llama.cpp + 35B A3B 多模态模型 ## 背景 用户在一台 RTX 3080(20GB 显存)的 Linux 机器上,使用 llama.cpp 的 `llama-server` 部署了 Qwen3...
All the articles with the tag "大模型部署".
# 本地大模型部署实战:llama.cpp + 35B A3B 多模态模型 ## 背景 用户在一台 RTX 3080(20GB 显存)的 Linux 机器上,使用 llama.cpp 的 `llama-server` 部署了 Qwen3...