隐语实训第二讲 · 隐私计算全局概览
一、政策背景与应用驱动
国内政策法规提出要在保护数据安全和用户隐私地前提之下参与数据价值开发。不仅强调加快培育数据要素市场,加强数据资源整合和安全保护,加强对政务数据、企业商业秘密和个人数据地保护,也强调促进数据高效流通使用,赋能实体经济。
面对似乎是相互对立的数据流通需求和隐私保护诉求,面对实际应用需求,唯有隐私计算技术可以维持平衡,打破数据孤岛实现数据流通的同时保障数据安全,使其可用而不可见。
二、数据流通与隐私计算
1. 数据流通:
数据的流通可以分为个人数据的生产融合、机构数据的开放流通以及数据提供者和数据消费者通过数据流通市场进行的数据交易。
2. 隐私计算:
①. 隐私计算基本概念:隐私计算包含对原始数据、计算过程、计算结果的隐私保护。计算过程中要求计算环境具有安全性保障,多方交互信息中不包含隐私数据信息;隐私结果要求无法反推出原始数据信息,且非结果拥有方无法获取计算结果信息。由此可知,隐私计算可以实现对计算的正确性、保密性、完整性等安全属性的保护。
②. 隐私计算与传统数据生产融合链路中的隐私保护的区别:

三、隐私计算技术分类
1. 隐私计算技术可以分为三类:
基于可信执行环境等可信硬件的机密计算,采用服务器端集中计算的模式;以差分隐私、联邦学习、拆分学习为代表的客户端与服务器联合协同计算的模式;以多方安全计算、同态加密、零知识证明等密码学技术为代表的,一般不通过服务器,实现客户端交互、协同计算的去中心化模式。这三类技术各有优缺点:

2. 常见技术概述:
①. 机密计算:数据通过远程认证建立的安全通道发送给飞地(安全的执行环境),集中式计算,然后通过安全通道发送给用户。
②. 差分隐私:加入随机噪声,保证无论数据集中是否存在给定样本,统计分析输出的概率分布最多相差一个小的指定值,同时保证在一定精度损失条件下计算结果的正确性。
③. 联邦学习:可以采用数据并行或模型并行。数据并行是指共享一个深度神经网络架构和共同的训练目标,用户独立训练本地模型,将梯度提交给服务器,聚合梯度,然后聚合的梯度返回用户,用户更新本地模型参数,反复迭代直至模型收敛。而模型并行是指和服务器维护一个共同模型,用户下载模型参数后对本地数据进行训练,将更新后模型参数上传服务器,服务器更新模型参数,然后用户下载更新后的模型参数,更新本地模型,反复迭代直至达到共同训练目标。
④. 多方安全计算:它的核心思想是通过密码学协议将计算过程分解为多个步骤,每个参与方仅能获取与自己输入相关的部分信息,而无法推断出其他参与方的原始数据。隐私集合求交是多方安全计算的一个典型应用,允许两方或多方在不泄露各自数据集的前提下,计算两个集合的交集。匿踪查询是多方安全计算的另一个重要应用,允许用户在不泄露查询内容的前提下,从数据库中获取信息。
⑤. 全同态加密:它是一种加密技术,允许在密文上直接进行任意计算(如加法、乘法等),且计算结果解密后与明文直接计算的结果一致。
⑥. 零知识证明:零知识证明是一种密码学协议,允许证明者向验证者证明某个陈述为真,若陈述为假,证明者也无法骗过验证者,同时验证者无法获取任何额外信息(即“零知识”)。
⑦. 可信密态计算:它是多方安全计算等密码技术与可信执行环境技术的安全融合,计算过程中数据表现为密态形式。它利用可信执行环境技术提升半诚实协议的安全性、抵抗恶意敌手攻击和合谋攻击、提高协议运行效率,同时利用密码技术降低可信硬件潜在的安全风险。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐

所有评论(0)