English
导航菜单
近期，学院概况网络空间安全学院信息安全与密码研究所（IISeC）谷大武教授领导的密码与计算机安全实验室（LoCCS）在隐私保护机器学习方向上取得的最新成果被USENIX Security 2024全文正式录用。USENIX Security是CCF A类国际会议，也是信息安全四大顶级学术会议之一。会议专注于收录全球科研机构和科技企业在计算机系统与网络系统安全与隐私保护领域的最新前沿进展。
论文题目：MD-ML: Super Fast Privacy-Preserving Machine Learning for Malicious Security with a Dishonest Majority
论文作者：袁博实、杨士玄、张永翔、丁宁、谷大武、孙士锋
研究背景
机器学习在实际生活中被广泛应用，然而训练和使用这些模型需要大量来自多方用户的数据，这引发了用户对隐私泄露的担忧，同时也可能涉及法律层面问题。因此，机器学习领域的隐私保护问题亟待解决。使用安全多方计算技术实现隐私保护机器学习是解决该问题的一种有效方案。然而，现有的工作存在两种情况：一是安全模型较弱，无法抵御恶意合谋攻击；二是安全模型虽强大，但效率较低。这些局限性限制了隐私保护机器学习的实际应用。
研究内容
针对上述问题，本研究提出了名为MD-ML的基于安全多方计算的隐私保护机器学习协议，在抗任意恶意敌手合谋的最强安全模型下，设计了一系列相关的子协议，较现有工作大幅提高了效率。
本研究结合带消息验证码的加法秘密分享，首次将电路相关预处理技术扩展到了带截断的定点数乘法协议、向量点乘协议、定点数比较协议等子协议中。通过引入额外的随机数，将在线阶段中需在线性多轮中发送的数据进行批处理，移至离线阶段在1轮内发送，大幅降低在线阶段的通信量，同时降低总体的协议轮数。
具体而言，本研究设计的子协议有以下特点：首次做到带截断的定点数乘法协议额外在线开销为零，而过去工作该协议有额外在线开销；首次做到向量点乘协议每方在线通信量仅为1个环元素（与向量维数无关），而过去工作该协议在线通信量与向量维数线性相关；基于通用可组合框架形式化定义了抗恶意敌手合谋攻击的安全性，并给出了严格证明。
实际效果
为进一步说明新协议的效率和实用性，本研究使用不同大小的神经网络和数据集，在局域网（LAN）和广域网（WAN）两种网络环境下，选取64比特安全参数，对方案进行了性能评估与比较。实验结果表明，相较于同安全模型下的最好工作，在进行神经网络模型推测时，在LAN环境下效率的效率提升为3.4–11.0倍，在WAN环境下效率的效率提升为9.7–157.7倍。这些结果进一步说明，在保证抗任意恶意敌手合谋的最强安全性的同时，本工作大幅提高了协议效率，无论是在安全性还是在效率方面，都取得了更高的实用性。
MD-ML的实验结果以及与过去工作的对比
该工作由上海交通大学独立完成，第一作者为博士生袁博实（导师：谷大武教授），通讯作者为谷大武教授和丁宁副教授。
信息安全与密码研究所（IISeC）是上海诚聘英才网络空间安全学院和计算机系共同建设的密码学与信息安全交叉学科平台。近年来，IISeC在邢朝平教授、来学嘉教授、谷大武教授和刘胜利教授的共同带领下，引进、培育和招收了一支充满活力、拼搏奋进的优秀青年教师、博士后和研究生科研队伍。先后荣获国家科技进步二等奖、上海市科技进步一等奖、中办密码科技进步奖、中国密码学会密码创新一等奖、国家网络安全优秀人才奖、上海市科技精英奖、ACM中国新星奖等，指导的8名博士生获得中国密码学会优秀博士学位论文。
LoCCS是IISeC的重要组成部分，主要围绕后量子密码和密态计算、侧信道分析与密码工程、软件与系统安全、隐私保护与区块链技术等方向开展研究，近十年来在密码安全领域主要会议如CRYPTO、EUROCRYPT、ASIACRYPT、ACM CCS、IEEE S&P、USENIX Security、NDSS、PKC、CHES、FSE、TCC、DAC、RAID、ESORICS和主要期刊ACM Computing Surveys，IEEE TDSC，IEEE TIFS，IEEE TCAD，ACM TECS，DCC，JCST，中国科学等发表学术论文100余篇。
地址：上海市东川路800号学院概况
邮编：200240 邮箱：seiee@sjtu.edu.cn
Copyright © 2022上海交通大学电子信息与电气工程学院 版权所有
欢迎关注上海诚聘英才公众号