alay DeepSeek火了以后,其蒸馏版本也出了好多,公司让调研和本地部署,完全不知道如何下手?部署哪个参数量的?如何判断,需要多少多少GPU资源,是否支持量化,准确性怎么样? 接下来这篇文章将给你答案,快拿去用吧。 参数量与适用场景 硬件配置与量化技术支持 性能指标与适用人群