本地部署AI大模型 - 个人版(基础对话免费) - Mac OS(M芯片,arm64) - Metal版
UpHubAI 现已经发布苹果系统(MAC OS, M2-M5芯片,arm64)版本。
安装步骤:
(1) 打开命令终端,并确保homebrew软件包管理工具已经安装;
(2) 首先安装uphub-cli命令行工具(依次运行以下命令);
curl -fsSL "https://www.zhetao.com/downloads/macm/uphub-cli.zsh" -o "uphub-cli.zsh"
zsh uphub-cli.zsh
(3) 安装UpHub AI (苹果版,M芯片),该安装程序会自动安装JDK、OpenSSL3等必要环境
uphub-cli install uphubai
(4) 启动uphubai。
uphub-cli run uphubaistart
(5) 停止uphubai。
uphub-cli run uphubaistop
(6) 可选,安装AI助理基础软件,如果不使用AI助理功能,不需要安装(主要安装miniconda3, nodejs, agent-browser等工具)
uphub-cli install base
使用UpHub AI,浏览器打开以下网址就可以使用了:
http://127.0.0.1:59810
详细使用流程,请打开软件后,根据界面提示操作(比如下载大模型、运行大模型等)。
如果您没有英伟达GPU,可下载纯CPU-Windows版(点击这里查看安装要求和下载):https://www.zhetao.com/content1599.html
如果您有英伟达GPU,可下载GPU版(点击这里查看安装要求和下载CUDA版):https://www.zhetao.com/content1626.html