Windows 系统

有没有可以在Windows系统纯CPU环境中实现AI大模型本地部署的方案？

有的，UpHub AI已经实现在Windows系统（Windows 10及以上桌面版或服务器端版）本地部署AI大模型。同时UpHub AI还提供该部署方式的一键安装包，全程可视化安装和部署，不需要执行命令和编译软件即可快速在该组合同本地部署AI大模型和对话。本方案采用纯CPU部署AI大模型，适用于小权重AI大模型量化版本本地部署，比如0.6B、0.8B、1.6B等Q4量化版AI大模型本地部署。

UpHub AI 适用于部署在 Windows 系统，最低版本Windows 10，同时支持Windows Server版本。