华为昇腾Pangu Light技术突破:推理加速1.6倍,打破大模型部署瓶颈
2025-05-27
华为诺亚实验室提出Pangu Light框架,通过结构化剪枝技术解决大模型推理部署难题。该技术在昇腾NPU硬件平台上实现推理加速1.6倍,保持98.9%原始模型性能,优于英伟达方案。实验显示其在32B模型下推理吞吐量提升16.2%,证明软硬协同优化有效性,降低大模型应用门槛。


本页面内容由AI提炼生成,无法确保完全真实准确,不代表希财网官方立场,不构成投资建议。如需阅读详细说明,请点击此处
