基于移动边缘计算,区块链,联邦学习,众包的智能隐私保护系统

系统简介

物联网(IoT)公司致力于从用户那里获得反馈,以改善其产品和服务。但是,由于问题有限,传统调查无法反映客户的实际情况。此外,调查结果还受到各种主观因素的影响。相反,记录IoT设备的使用情况则能够更全面,更准确地反映出客户的行为。本文介绍了一个智能系统,通过使用联邦学习技术以帮助IoT设备制造商利用客户的数据,建立一种机器学习模型,以预测客户的需求以及可能的消费行为。联邦学习包含两个阶段:在第一阶段,客户使用边缘设备(如:手机)和边缘计算服务器协同训练初始模型。移动边缘计算服务器的强大计算能力可以协助客户进行本地模型训练。客户首先使用IoT设备收集数据,然后使用其数据下载并训练初始模型。在训练期间,客户首先使用边缘设备提取特征,然后基于差分隐私(一种正式且流行的量化隐私的的概念),将拉普拉斯噪声(Laplacian noise)添加到提取的特征中。在获得本地模型后,客户分别在其模型上签名并将其发送到区块链。我们使用区块链来替换属于联邦学习中第三方的集中式聚合服务器。在第二阶段,矿工收集并使用从客户端发送来的模型计算平均模型。到众包工作(crowdsourcing job)结束时,其中一名被选为临时负责人的矿工将模型上传到区块链。此外,为了吸引更多的客户参与众包联邦学习,本系统设计了一种激励机制,向参与者提供可用于购买公司提供的其他服务的虚拟币。

基于移动边缘计算,区块链,联邦学习,众包的智能隐私保护系统

基于众包的联邦学习

联邦学习是一种安全的协作式的机器学习,它的目标是通过使用具有不可靠且相对较低网络连接的客户端构成的分布式网络来训练全局模型。联邦学习通过使用分布在众多移动终端的分布式数据来辅助训练机器学习模型。众包联邦学习的参与者定期交换和更新模型参数,而不发送数据。在联邦学习的许多设置中,用户下载神经网络模型,在本地训练模型,然后将其更新上传到聚合器。中央聚合器将计算更新的平均值,并将其应用到模型中。因此,联邦学习保护了用户训练数据的隐私和安全。该系统将一个家庭中相同品牌的IoT设备视为一个单元,因此需要一个移动设备来帮助定期从IoT设备收集数据并训练模型。由于移动电话具有有限的计算能力和电池寿命,因此许多家庭很难在本地训练模型。为了鼓励更多的客户参与到训练任务中来,可以使用移动边缘计算服务器来增强计算能力来加速训练,使训练更接近于数据源。

基于区块链的模型存储

传统的众包系统由第三方托管,向参与者收取昂贵的服务费用,而本系统使用区块链来记录众包活动。因此,参与者和请求者可以在保持众包系统正常运行的同时节省高额的服务费用。区块链帮助众包请求者审核是否有来自参与者的恶意更新。由于块大小的限制,建议在模型大小较大时使用星际文件系统(IPFS)作为分布式存储解决方案。

系统流程

4.1 第一阶段

客户使用设计好的CNN网络从使用手机提取出数据的特征,并在正式的隐私保证下添加噪声来干扰提取的特征,以防泄露原生的数据。

4.2 第二阶段

客户在移动边缘计算服务器上训练具有扰动特征的模型的全连接层。

4.3 第三阶段

训练结束后,客户应使用自己的私钥在加密的模型哈希码上签名,并将本地训练的模型传输给区块链。

4.4 第四阶段

挖矿者验证发送者的身份,下载模型并计算所有模型参数的平均值以得到最终的模型。被选为临时的矿工将加密并上传将最终的模型至区块链。此外,为了激励更多的客户参与到众包任务中来,减少恶意更新,考虑设计一个基于声誉的众包激励机制。如果客户成功上传自己的模型,将获得虚拟币和声誉奖励。


分享到:


相關文章: