上交大突破向量量化技术，国产AI芯片需另辟蹊径

上海交通大学冷静文团队与魔形智能合作的VQ-LLM框架在HPCA 2025会议上发表，通过向量量化技术将大模型推理延迟降低超50%，为国产芯片发展提供新思路。冷静文指出，国内需突破英伟达GPU架构依赖，探索数据流芯片等创新路径，但当前国产芯片在FP8训练等关键技术上仍落后，需开放生态与硬件协同。