本文转载自微信公众号 ：矩阵元
原创：GDG 矩阵元
6月19日，矩阵元算法科学家谢翔博士应邀参加谷歌开发者社区举办的AI隐私保护专题活动并做题为「Rosetta：密码学与人工智能隐私保护」的主题讲座。
谢翔博士重点讲解了密码学方向的理论知识和Rosetta框架。隐私计算是在数据使用和融合过程中保护数据隐私的综合性技术，包括密码学、联邦学习，可信执行环境等。
自1976年现代密码学诞生以来，其主要的研究进展包括1977年诞生的公钥加密技术 RSA，1978诞生的同态加密HE，1982年诞生的安全多方计算MPC和1989年诞生的零知识证明ZKP等。
他讲到，零知识证明由 Goldwasser, Micali, Rackhoff 于1989年提出，可以证明知道某个复杂方程的解，该模型是由自己的隐私数据训练而成的。我们可以进行一个思想实验，称为阿里巴巴洞穴。下图的整个过程重复100次，如果每次Alice都正确，则相信Alice拥有门的钥匙。
零知识证明可以用于验证人工智能算法的准确性，和奖励程序漏洞的发现者。在漏洞发现奖励机制中，白帽可以证明模型漏洞的存在，但不披露具体的漏洞。
谢翔博士提出，目前行业中面临的挑战是，密码学算法较为复杂，学习门槛较高。如何让没有密码学背景的人也可以方便地使用隐私计算技术？如何让AI开发者在尽可能不改变开发习惯的前提下开发隐私AI的应用？
他介绍到，Rosetta框架以商用为目的，支持主流的AI框架，以TensorFlow为主；以AI工程师为目标人群，可以快速无门槛地从传统模式切换为隐私计算的模式。支持多种隐私计算技术，保持算法性能，并可按需进行配置。Rosetta框架具有易用性、高效性和可扩展性的特点。下图为Resetta框架执行时的运行图。从整体视角看，各方在本地同步执行相同的图，「密文」数据在图上从前向后流动协同，「密文」数据在多方之间按协议进行通信。
Rosetta能够有效降低AI开发者使用基于密码学的隐私计算技术的门槛，并覆盖行业落地中大部分联合查询、联合建模、联合训练等场景，充分解决人工智能与数据隐私保护之间的「矛盾」，使数据在不泄露的状态下亦能实现数据的流动与交互，真正做到数据「可用而不可见」。
本文转载自https://mp.weixin.qq.com/s/DFLAkP7jf2CvZSykJBN0ag
