矩阵元 | 谷歌开发者社区讲座 | 谢翔博士:隐私AI应用如何「无门槛」?

本文转载自微信公众号 :矩阵元

原创:GDG 矩阵元

矩阵元 | 谷歌开发者社区讲座 | 谢翔博士:隐私AI应用如何「无门槛」?

6月19日,矩阵元算法科学家谢翔博士应邀参加谷歌开发者社区举办的AI隐私保护专题活动并做题为「Rosetta:密码学与人工智能隐私保护」的主题讲座。

谢翔博士重点讲解了密码学方向的理论知识和Rosetta框架。隐私计算是在数据使用和融合过程中保护数据隐私的综合性技术,包括密码学、联邦学习,可信执行环境等。

自1976年现代密码学诞生以来,其主要的研究进展包括1977年诞生的公钥加密技术 RSA,1978诞生的同态加密HE,1982年诞生的安全多方计算MPC和1989年诞生的零知识证明ZKP等。

他讲到,零知识证明由 Goldwasser, Micali, Rackhoff 于1989年提出,可以证明知道某个复杂方程的解,该模型是由自己的隐私数据训练而成的。我们可以进行一个思想实验,称为阿里巴巴洞穴。下图的整个过程重复100次,如果每次Alice都正确,则相信Alice拥有门的钥匙。

矩阵元 | 谷歌开发者社区讲座 | 谢翔博士:隐私AI应用如何「无门槛」?

零知识证明可以用于验证人工智能算法的准确性,和奖励程序漏洞的发现者。在漏洞发现奖励机制中,白帽可以证明模型漏洞的存在,但不披露具体的漏洞。

谢翔博士提出,目前行业中面临的挑战是,密码学算法较为复杂,学习门槛较高。如何让没有密码学背景的人也可以方便地使用隐私计算技术?如何让AI开发者在尽可能不改变开发习惯的前提下开发隐私AI的应用?

他介绍到,Rosetta框架以商用为目的,支持主流的AI框架,以TensorFlow为主;以AI工程师为目标人群,可以快速无门槛地从传统模式切换为隐私计算的模式。支持多种隐私计算技术,保持算法性能,并可按需进行配置。Rosetta框架具有易用性、高效性和可扩展性的特点。下图为Resetta框架执行时的运行图。从整体视角看,各方在本地同步执行相同的图,「密文」数据在图上从前向后流动协同,「密文」数据在多方之间按协议进行通信。

矩阵元 | 谷歌开发者社区讲座 | 谢翔博士:隐私AI应用如何「无门槛」?

Rosetta能够有效降低AI开发者使用基于密码学的隐私计算技术的门槛,并覆盖行业落地中大部分联合查询、联合建模、联合训练等场景,充分解决人工智能与数据隐私保护之间的「矛盾」,使数据在不泄露的状态下亦能实现数据的流动与交互,真正做到数据「可用而不可见」。

本文转载自https://mp.weixin.qq.com/s/DFLAkP7jf2CvZSykJBN0ag

(0)
上一篇 6月 22, 2021 11:38
下一篇 6月 23, 2021 11:01

相关推荐

发表评论

登录后才能评论