UpHub AI个人版本地部署AI大模型安装教程
本地化部署AI大模型安装教程。支持的推理大模型有:开源的Deepseek-R1 1.5B、7B、8B、14B;Llama2,Llama3等,int4量化版在CPU上直接推理运行。
本地化部署AI大模型安装教程。支持的推理大模型有:开源的Deepseek-R1 1.5B、7B、8B、14B;Llama2,Llama3等,int4量化版在CPU上直接推理运行。
本视频介绍UpHub AI大模型推理解决方案个人版如何安装与本地化实施。
Windwos 10或Windows 11上部署:0代码、0配置、0命令行,全程可视化安装。
架构:纯CPU架构;
支持的推理大模型有:开源的Deepseek-R1 1.5B、7B、8B、14B;Llama2,Llama3等,int4量化版在CPU上直接推理运行。
支持多模态:Gemma3 4B,12B在普通CPU或消费级GPU上推理。