
近期,由中国互联网协会担任指导单位、上海人工智能实验室担任技术指导单位,蚂蚁密算与浙江大学计算机科学与技术学院共同主办的“第二届隐语杯数据挑战赛”落下帷幕。处理器芯片全国重点实验室路航副研究员指导的研究生获得2个赛道的二等奖。
本届赛事设置三大赛道,参赛队伍逾320支,参赛选手逾600人,分为初赛和决赛两个阶段。只有初赛队伍成绩在性能、安全性等指标达到赛题要求并排名前6才有资格进入决赛。决赛中,经过评委对代码和方案进行严格审查后,才最终确定获奖队伍。
其中,赛道二聚焦于可信执行环境(TEE)技术在大模型推理中的应用,旨在探索如何构建安全、高效的云端大模型推理服务。参赛者需在确保模型参数和用户输入隐私性的同时,尽可能减少安全措施对性能的影响,优化现有推理服务,提升计算效率和降低延迟。实验室研究生携“MortarTEE:密态大模型推理的隐私保护”方案夺得该赛道总成绩二等奖,获奖队伍主要成员为硕士生彭宣尧、雷昊川和博士生潘尚杰。
MortarTEE是基于机密虚拟机技术的大模型隐私推理系统,包括远程证明技术、推理加速技术和全链路模型加密技术。系统通过远程证明对模型数据、推理框架代码和硬件固件版本进行认证,保证了可信、可控、可证的大模型推理系统;通过充分利用多核并行和向量指令集加速,系统提高了在机密虚拟机中的大模型推理效率;通过对静态、动态的数据进行全链路的加密保护,对用户数据和和模型参数同时保护,系统达到了全链、全程、全域的数据保护。本方案通过结合多种隐私保护技术和计算加速技术,在机密虚拟机中部署了高效的大模型隐私推理服务,未来可向多虚拟机协同、多机密硬件加速器协作等方向发展。

赛道三聚焦于全同态加密(FHE)技术在KNN算法中的创新应用,参赛者需设计并实现一种基于全同态加密的KNN解决方案,确保在不泄露用户原始数据的前提下,完成高效的加密查询与结果返回。实验室研究人员携“SpeedyKNN:基于Poseidon全同态计算库的快速K临近算法”方案夺得该赛道总成绩二等奖,获奖队伍主要成员为硕士生郭帅、博士生徐熙程和杨英豪特别研究助理。
SpeedyKNN是基于团队自研Poseidon计算库的快速密态K近邻算法,以轻量化、灵活性高和全栈自研为特点。在传统基于同态排序的密态KNN方案中,由于在密态下进行频繁的数据两两之间的比较以及交换操作,需要较大的乘法电路深度,因此会引入高昂的自举开销造成极低的计算效率。SpeedyKNN通过“编码换旋转”、“空槽换比较”、“求和换排序”和“K值换索引”四大核心思想降低KNN中每个步骤的计算开销,使得算法在距离计算时无需同态旋转、在全对比较时仅需一次同态比较操作、在积分定序时仅需简单求和、在K值筛选时能够零开销自由切换K值。多种优化策略使得SpeedyKNN相较于传统密态KNN算法具有无需自举、旋转数量少、存储需求低、密文槽利用率高等诸多优势,多维度地提升了算法效率,为密态KNN在实际场景中的应用提供了高效的解决方案。

为积极响应国家数据要素战略,加速相关领域数据的开发利用,2024年,蚂蚁密算与浙江大学网络空间安全学院携手举办了首届“隐语杯”大赛,并被国家数据局认定为首批获得“数据要素×”大赛全国总决赛推荐资格的第三方赛事,今年是大赛第二届。