UpHub AI 本地部署AI大模型,实现开源大模型的运行和管理,多模型动态切换,个人知识库管理。实现在Windows系统中快速可视化安装,在Mac中只需运行几个简单命令即可安装。
Windows CPU版适用于X86_64架构的Windows 10及以上的桌面或服务器系统,属于纯CPU部署AI大模型,适用于简单的对话、本地知识库。
Windows CUDA版适用于X86_64架构的Windows 10及以上的桌面或服务器系统,通过英伟达GPU部署AI大模型,适用于企业内部GPU算力共享、API支持、AI知识库、AI助手,企业级AI智能体运行与支持。
本文介绍UpHub AI在苹果arm芯片中的安装方法。Mac OS M芯片版适用于苹果M2、M3、M4、M5等arm64芯片。常见部署设备比如:Mac Book Pro、Mac Mini等M芯片的苹果系统。部署UpHub AI在苹果M芯片,实现AI大模型本地化部署。
