LOGO
首页 >> UpHub AI >> UpHub AI - FAQ - 常见问题

UpHub AI - FAQ - 常见问题

更多内容...

UpHub AI是什么?

UpHub AI是企业级的AI大模型和智能休本地部署解决方案,目标是快速安装AI推理环境和部署,实现保护隐私、企业资料不外流、可以内网或外网安全地使用AI大模型。UpHub AI专为AI大模型本地部署而开发的AI本地推理引擎,具有便捷部署和安装、安全、保护隐私、网页Chat(AI对话)、知识库、SKILL技能管理、本地化运行大模型,UpHub AI是企业级AI推理部署引擎。

适用于哪些操作系统本地部署AI?

UpHub AI采用Java开发,具有跨平台特点,支持Windows、Linux、MacOS、Ubuntu等主流操作系统本地部署。

为什么要本地部署AI大模型?

本地部署AI大模型可以有效防止重要资料泄露,内部分级分权管理知识库,实现本地AI助手与企业内部ERP、OA等软件安全对接。

UpHub AI有什么特色?

UpHub AI采用Turnllm架构,Turnllm是哲涛工程师设计的多层AI本地部署方案。同时UpHub AI的部署采用开箱即用,不需要进行复杂的命令行安装。

UpHub AI如何收费?

UpHub AI根据使用群体不同,设计了多个版本,个人版基础功能为完全免费(支持免费下载)、个人版高级功能(个人助理、个人知识库)为在线按需订阅、小型企业版、大中型企业版等。

UpHub AI支持云端任务编排吗?

是的,UpHub AI结合哲涛的UpHub AI Agent(云端编排系统),可以实现企业本地助手、本地技能、电脑自动操作、对接ERP等软件功能,云端系统实现编排,本地执行。UpHub AI 智能体是云端编排系统,支持个人、企业按需在线订阅。

AI任务编排系统支持本地部署吗?

支持。对有本地部署需求的企业,我们也提供任务编排系统本地部署服务。

AI任务编排系统和UpHub AI是同一个软件吗?

不是。AI任务编排系统是一个基于AI的任务编排系统,适用企业级应用,包括技能管理、知识库管理、AI助手、AI应用对接等能力。UpHub AI则是AI本地运行管理软件,内置有AI大模型本地推理(基于llama.cpp开发,采用turnllm架构),UpHub AI还内置AI大模型API调用,方便个人或企业免开发对接公共大模型API。

UpHub AI自带推理软件吗?

是的。UpHub AI默认自带有推理软件turnllm,基于llama.cpp开发。

UpHub AI支持哪些GPU硬件?

支持英伟达GPU、苹果Metal、国产GPU等,支持企业级GPU(比如:A100, H200、A10等)和消费级GPU(比如RTX 3060、RTX 4090、RTX 5090等),同时支持纯CPU推理(纯CPU推理适用于参数较小的大模型)。国产GPU请咨询。

支持哪些大模型本地部署?

UpHub AI自带推理支持大量开源大模型包括但不限于Deepseek、QWen、Gemma、llama、Phi等的本地部署。

去哪里下载和安装大模型?

UpHub AI自带有Modelscope、Hugging Face开源大模型仓库下载器,开箱即用,不用安装额外软件,选择大模型即可下载。同时支持自主下载大模型,投放到models目录即可。

UpHub AI是否只支持本地部署AI大模型?

不是。UpHub AI不仅支持本地部署,同时还支持API调用公共大模型、企业大模型,同时还支持其它大模型部署方式(即不限制大模型推理方式)。

UpHub AI个人版知识库需要安装向量数据库吗?

不需要。UpHub AI已经内置向量数据库,默认安装,不需要额外任何操作,开箱即用。

UpHub AI个人版技能管理支持在线编辑吗?

支持。
电话图标 点我咨询