使用UpHub AI在纯CPU上运行Gemma3 4B多模态大模型（Vision）对图片进行描述
在普通CPU上，在没有GPU的情况下如何运行Gemma3 4B版本。通常运行大模型的步骤：（1）准备硬件环境；（2）安装推理方案的程序（比如：UpHub AI）；（3） 下载大模型权重文件（比如从：modelscope、Huggingface等仓库中下载）；（4） 运行大模型；（5） 输入问题，即可。
Gemma3 4B是Google公司发布的开源、多模态大模型（Vision），它可以对图片进行描述和分析，比如可用于辅助分析X光片、风景等。
在UpHub AI中，如果运行了Google的Gemma 3（4B或12B或27B），可以在对话中提交一张图片，然后提问“请使用XXX语言描述这张图片。”，为了让AI使用使用特定的语言描述，在提问时建议加入希望的语言。比如：请使用中文描述这张图片。否则它可能是纯英文描述。
点我咨询