一、隐私计算

1.1 隐私计算的定义：

隐私计算（Privacy-Preserving Computation）是一系列技术的总称（包括联邦学习、安全多方计算、可信执行环境TEE、同态加密等），这些技术运行在物理的计算机硬件（CPU、内存、芯片）上，但处理和运算的对象是数字化的数据。它的核心目标是实现"数据可用不可见"。它允许多个参与方在不泄露各自原始数据的前提下，能够共同计算和分析数据，并得到计算结果。

1.2 隐私计算的应用场景

隐私计算的应用场景涉及金融、医疗、教育、交通、物联网等领域。例如：

1、医疗：如医院和诊所积累了大量的患者数据，包含病史、诊断信息、治疗方案等敏感信息。直接共享这些数据存在很大的隐私风险；各医疗机构的数据往往分布在不同地理位置，使得数据孤岛问题愈发严重。

解决方案：联邦学习技术被应用于医疗领域。联邦学习允许各医疗机构在本地进行模型训练，只需共享模型的参数，而无需共享原始数据。

联邦聚合：

为了进一步增强算法的隐私性，我们可以使用各种隐私保护技术来保证联邦聚合的隐私性。

• 在本案例中，我们应用基于安全多方计算（MPC）的联邦聚合方案来加强联邦聚合的安全属性。
• 各医院可以通过安全多方计算技术进行安全的模型参数聚合，确保在聚合过程中各医院的数据隐私得到充分保护。

具体操作：

1. 本地训练和秘密共享：每个医院在本地数据集上进行模型训练，得到更新后的模型参数。使用秘密共享方法将模型参数分成若干份共享片。
2. 安全聚合：中央服务器不参与具体计算，各医院在MPC协议下进行参数聚合。假设使用的是加法秘密共享，每个医院将其收到的共享片进行加法操作，得到聚合后的共享片。
3. 重建全局模型：中央服务器收到所有医院的聚合共享片后，进行重建操作，得到新的全局模型参数。

2、金融：纵向联邦学习在银行风控中的应用

基于医保DRGs建模的蚂蚁隐私计算智能服务

二、可信执行环境

2.1 可信执行环境的定义

可信执行环境(Trusted Execution Environment,TEE)：是计算系统中运行在隔离环境的一块区域，是一系列硬件和软件的集合。

• 隔离环境：意味着计算系统中的其他区域（比如其他应用、虚拟器管理程序等）无法对其进行访问，也无法纂改其中的代码和数据。
• 可以保护代码、数据和运行时状态（比如CPU寄存器、内存和敏感I/O等）的机密性和完整性；通常，可信执行环境还需要提供远程认证以向第三方证明其可被信任。

2.2 可信执行环境的工业实现

2004年

ARM推出了TrustZone

• TrustZone主要针对移动设备的安全需求场景。
• 系统分为两个世界：正常世界和安全世界。
• 缺点时需要确保多个应用运行在同一个实例中时安全的。

2015年

Intel推出了SGX

• 可信基（Trusted Computing Base,TCB）比较小。
• 安全模型是所有软件（包括操作系统、虚拟机管理程序等）甚至包括部分硬件组件都不被信任，只有CPU硬件本身和CPU微码可信。
• 将应用程序分为可信和非可信两部分。

2016年

AMD推出了SEV

• 安全模型是除了机密虚拟机和AMD硬件外，不信任其他硬件和组件。
• 提供系统级的可信执行环境和更好的应用移植能力，代价是可信基更大。

2.3 可信执行环境在隐私保护计算中的作用

1. 具有优秀的通用计算能力：基于通用CPU实现，理论上可以支持任意计算。
2. 更容易支持大规模计算：更需要依赖大量复杂计算。
3. 需要额外信任硬件厂商：基于安全硬件，其信任根是硬件厂商。
4. 可能遭受软件或硬件攻击：可能遭受软件或硬件攻击，比如侧信道攻击。

可信执行环境 可以保护计算过程中数据的安全，是隐私保护计算中的一条重要技术路线。既可以单独用于隐私保护计算，也可以和其他技术路线（比如MPC、联邦学习等）配合使用。

2.4 可信执行环境原理

2.5 基于可信执行环境的计算系统架构

可信执行环境提供了数据的机密性和完整性保护。

构建一个基于可信执行环境且安全可靠的计算系统，需要考虑什么？

• 远程认证：确保程序的执行环境为可信执行环境，并且程序本身是按照预期运行。
• 安全存储：程序在可信执行环境运行时，其内存数据是加密的，能保证数据的安全性。
• 安全通信：可信执行环境程序之间或者与非可信环境之间的网络通信需要确保通信的安全。
• 构建应用：将远程认证、安全存储与通信结合起来，构建一个典型应用。

2.6 潜在攻击和防御手段

常见攻击：

• 基于页表的侧信道攻击；
• 分支预测攻击；
• 缓存侧信道攻击；
• 瞬态执行攻击；
• Foreshadow是在Intel SGX上实施的攻击。

防御手段：

软件层面的防御措施：

• 更新微码
• 恶意行为检测

应用程序设计的防御措施：

• 模糊分支语句
• 应用程序算法中引入随机噪声