PlatON Cross | 基于PlatON的去中心化隐私AI网络

本文转载自微信公众号 PlatON Cross

原创作者:PlatON Cross小编

PlatON Cross | 基于PlatON的去中心化隐私AI网络

人工智能与密码学,犹如两条深邃的河流,在历史的时光中各自奔涌。基于密码学的隐私计算能够在不可信环境构建可信的协同算力,与此同时,随着人工智能近年来开始逐步由单点智能走向了群体协同,两者之间开始有了相互结合、相互促进的天然契机。而得益于团队提前的预见与长期的布局,PlatON隐私AI网络在当下精准地承接了这个契机。

[ lEh ]

技术现状——没有隐私的AI

2017年,伯克利在报告中[1]明确提出,下一代人工智能的问题,需要通过体系结构、软件和算法的系统创新来实现。在保密数据上进行共享学习,就是其中一个重要的研究方向。

在体系结构方面,Google在2017年首次提出了联邦学习架构[2],将智能模型的训练过程,以分布式的方式,转移到训练数据所在的端上,中心采集每轮训练的模型更新信息进行更新归并,所有参与者共享智能模型。

联邦学习方式非常适合在大型机构的牵引下,完成多方协同。然而,基于每轮训练的梯度更新信息,依然能够从中推断出一定程度的用户隐私[3]。

区块链的出现,为真正的去中心化协同带来了新的思路,目前这方面研究更多的是将梯度归并过程,在链上[4]通过分布式账本,或智能合约完成。然而,不可信个体之间信任的缺失、数据隐私和主权保护的缺失、链上计算算力的匮乏等问题,导致个体参与意愿不足,链上AI应用落地困难

在此背景下,PlatON全球隐私AI网络应运而生,以其完备的隐私计算技术体制,为个体协同提供信任机制,确保数据隐私和主权的安全。同时,以其独创的元智能合约、计算通道,结合VC(可验证计算),无限扩展链下算力,真正带来了隐私AI的脱虚入实

去中心化+隐私+AI运行机理

以深度学习为研究热点的现代人工智能技术,本质上属于数据驱动的归纳方法。考虑这样一种简化了的典型场景:A为AI模型的研究者,B为数据提供者,C为算力提供者。首先,A研究出了一种AI模型,但缺乏训练数据和训练算力,同时不想完全公开自己模型。B拥有训练模型所需的数据,但希望在不公开数据含义的情况下,提供数据服务。由于训练过程必然涉及到对数据的操作,如果不经处理,必然带来与数据隐私的矛盾。在此场景中,模型训练,需要A、B、C三方进行协同才能完成。

那么有没有能够隐藏数据真实含义,模型的具体细节,又能顺利完成训练的方法呢?对同态加密[5]的灵活应用(准确的说是多密钥同态加密[6])就能达到这样的效果。A对模型进行同态加密,发送给C(严格的说,是模型和损失函数);B对数据进行同态加密,发送给C;C在无需了解模型、数据真实面貌的情况下,完成训练,将结果发送给B;B完成数据同态加密的解密,将结果发送给A;A对结果进行解密,即可获得想要的结果。

然而,同态加密虽然保护了模型和数据的隐私,却无法解决C的欺骗行为。C可以在完全没有进行任何计算的情况下,对外声称自己完成了模型训练,最终A只能得到一个无效的结果。可验证计算[5]是解决这个问题的关键。C除了返回计算结果,同时向A发布该计算结果的证明,由于验证过程仅需较少的算力即可,A可轻松完成对结果的验证。简单的说,通过可验证计算,C发布的计算结果,是不可欺骗的。

最后,实际情况中还可能存在C单点算力不足的问题,以及A、B担忧模型和数据的加密被C单点破解的问题。因此,实际应用中C一般同时由多个节点共同承担,通过安全多方计算[5],以去中心化的方式完成每轮训练中模型的归并和更新。这样不仅能够通过并行化,提高计算速度,同时每个参与方,仅仅能够掌握局部的模型、数据,无法完成对个体隐私的推断,有效的保护了隐私。

以上便是模型、算力,数据使用权、所有权,自己处理操作完全分离的去中心化典型应用场景

基于PlatON的去中心化隐私AI

从PlatON的技术白皮书中可以看到,其密码学技术体系,涵盖了可验证计算、安全多方计算、同态加密,因此从技术上可以推断,PlatON非常可能成为未来第一个去中心化隐私AI落地实践的标杆。当然,在实际的工程实践中,还有非常多的技术细节需要研究,例如PlatON就将隐私计算的密码学技术体系,与门电路编译、分解、加密,以及专用的硬件结合在一起,通过软硬结合的方式来实现的。

当然,从PlatON角度看,隐私计算网络基础设施可以覆盖的计算类型非常的广,并不仅仅局限于基于归纳的机器学习方法。同时,机器学习也仅仅是人工智能枝繁叶茂的技术脉络之一。AI发展的主线,一直以来是要让机器通过观察、决策的自主迭代回环,建立强人工智能的方法。近期,贝叶斯网络之父朱迪亚.珀尔便提出了面向强人工智能的因果推断方法[7],其核心要素因果模型——P(Y|do(X))的计算,与PlatON提出的隐私计算密码学技术体系,也是天然契合的。

PlatON的未来

PlatON为用户提供了低门槛参与到AI全行业生态(模型设计、算力服务、数据服务)中的有效路径。未来,PlatON隐私AI网络,将承载着区块链、人工智能、密码学先辈们的基因,以更加澎湃的波涛,继往开来,奔涌向前

本文转载自https://mp.weixin.qq.com/s/gx3kl1hu7aajxd_jPAoFdg

(1)
上一篇 5月 29, 2021 14:34
下一篇 6月 1, 2021 09:33

相关推荐

发表评论

登录后才能评论