矩阵元 | 谷歌开发者社区讲座 | 谢翔博士：隐私AI应用如何「无门槛」？

矩阵元 • 22 6 月, 2021 15:15 • PlatON生态 • 阅读 1026

本文转载自微信公众号：矩阵元

原创：GDG 矩阵元

6月19日，矩阵元算法科学家谢翔博士应邀参加谷歌开发者社区举办的AI隐私保护专题活动并做题为「Rosetta：密码学与人工智能隐私保护」的主题讲座。

谢翔博士重点讲解了密码学方向的理论知识和Rosetta框架。隐私计算是在数据使用和融合过程中保护数据隐私的综合性技术，包括密码学、联邦学习，可信执行环境等。

自1976年现代密码学诞生以来，其主要的研究进展包括1977年诞生的公钥加密技术 RSA，1978诞生的同态加密HE，1982年诞生的安全多方计算MPC和1989年诞生的零知识证明ZKP等。

他讲到，零知识证明由 Goldwasser, Micali, Rackhoff 于1989年提出，可以证明知道某个复杂方程的解，该模型是由自己的隐私数据训练而成的。我们可以进行一个思想实验，称为阿里巴巴洞穴。下图的整个过程重复100次，如果每次Alice都正确，则相信Alice拥有门的钥匙。

零知识证明可以用于验证人工智能算法的准确性，和奖励程序漏洞的发现者。在漏洞发现奖励机制中，白帽可以证明模型漏洞的存在，但不披露具体的漏洞。

谢翔博士提出，目前行业中面临的挑战是，密码学算法较为复杂，学习门槛较高。如何让没有密码学背景的人也可以方便地使用隐私计算技术？如何让AI开发者在尽可能不改变开发习惯的前提下开发隐私AI的应用？

他介绍到，Rosetta框架以商用为目的，支持主流的AI框架，以TensorFlow为主；以AI工程师为目标人群，可以快速无门槛地从传统模式切换为隐私计算的模式。支持多种隐私计算技术，保持算法性能，并可按需进行配置。Rosetta框架具有易用性、高效性和可扩展性的特点。下图为Resetta框架执行时的运行图。从整体视角看，各方在本地同步执行相同的图，「密文」数据在图上从前向后流动协同，「密文」数据在多方之间按协议进行通信。