025年8月21日，国际知名图计算赛事Graph Challenge揭晓了2025年的比赛结果，实验室“面向稀疏神经网络推理加速赛道”的论文《Towards Efficient Sparse Deep Neural Network Inference via Multi-level Concurrency Orchestration》荣获冠军，这也是实验室继2023年“面向稀疏神经网络推理加速赛道”的《Adaptive Sparse Deep Neural Network Inference on Resource-Constrained Cost-Efficient GPUs》、2024年“面向静态子图匹配赛道”的《Mercury: Efficient Subgraph Matching on GPUs with Hybrid Scheduling》后再次蝉联冠军殊荣。

  Graph Challenge于2017年由IEEE、麻省理工学院、亚马逊公司共同创办，旨在号召全球科研人员开发新的解决方案，提升对不断增长的图应用需求的处理效率。Graph Challenge至今已经成功举办九届，每年有百余支队伍参与，吸引了包括MIT、哥伦比亚大学、新加坡国立大学、北京大学、南京大学、华中科技大学、英伟达、华为等海内外知名院校和公司参赛，已经成为图计算领域最具影响力的国际赛事之一。该比赛共包含稀疏神经网络推理、静态子图匹配、动态图划分和匿名网络分析四个赛道，冠军将从所有赛道的投稿论文中择优产生。

  论文主要完成人是实验室工程师敦明和硕士生周杰，指导教师是曹华伟副研究员和叶笑春研究员。随着深度神经网络（DNN）参数的爆炸式增长，模型部署的计算和存储开销也在飞速上升。为了解决过参数化问题，各类模型稀疏化技术（如剪枝等）受到了广泛关注，由此产生的稀疏神经网络(SpDNN)也成为了研究热点。该论文提出的CoSpDNN框架针对SpDNN推理中存在流水线阻塞以及资源利用率低下等问题，设计了多层次、多维度的高效资源并发机制。在单个SpDNN推理计算任务内部，通过高吞吐、细粒度的流水线机制以提升GPU多级存储和计算资源的利用率；同时在多个SpDNN推理计算任务之间，提出了以层为粒度的混合调度机制，在避免资源过载的前提下尽可能提升任务的并发效率。相比于之前获得冠军的工作，CoSpDNN在单个推理任务、同构推理任务和异构推理任务上均取得了加速效果，证明了优化方案的有效性。