支持部署AI大模型

支持本地部署开源大模型Deepseek各版本，比如：7B、8B、14B、70B等。

支持本地部署Google公司开源的Gemma3、Gemma4大模型的各版本（4B、12B等）。

支持Meta公司开源的Llama3.2各版本本地部署，比如：1B、3B

支持阿里巴巴开源的Qwen3各版本（Qwen3.6、Qwen3.7、Qwen3.8等），各种参数量：0.6B、1.7B、4B、8B等均支持。

UpHub AI支持embedding部署，比如：nomic-embed-text等。

在UpHub AI可以支持Q4、Q8、FP16、FP32等量化版大模型部署。

Qwen3.5本地部署，硬件资源有限，优先选择小权重版本，比如：0.8B/2B/4B/9B。

快速根据需要本地部署LLM的参数、上下文、并发等参数估算所需显存、内存、CPU核心数。本工具完全免费使用。