其它量化版本大模型

在UpHub AI可以支持Q4、Q8、FP16、FP32等量化版大模型部署。