隐私计算FATE-核心概念与单机部署
wptr33 2025-05-22 14:11 13 浏览
一、说明
Fate 是一个工业级联邦学习框架,所谓联邦学习指的就是可以联合多方的数据,共同构建一个模型;
与传统数据使用方式相比,它不需要聚合各方数据搭建 「数据仓库」,联邦学习在联合计算建模的过程中,多方机构之间的数据是不会进行共享的,实现数据的 「可用不可见」;本文主要分享隐私计算平台 Fate 的相关基本概念,以及基于 Docker 的单机部署。
二、隐私计算
隐私计算 是指在保护数据本身不对外泄露的前提下实现数据分析计算的技术集合,实现数据的 「可用不可见」 的目的;在充分保护数据和隐私安全的前提下,实现数据价值的转化和释放。
图灵奖得主姚期智院士在1982年提出的 百万富翁 问题:
假设有两个百万富翁,都想比较谁更富有,但是他们都想保护自己的 「隐私」 不愿意让对方或者任何第三方知道自己真正拥有多少钱。如何在保护双方隐私的情况下,计算出谁更有钱呢?
此问题开创了安全多方计算领域,在如今以区块链为先导的一系列可信架构中,多方计算问题是建立机器信任的关键技术之一。
目前实现隐私计算的主流技术主要分为三大方向:第一类是以 多方安全计算 为代表的基于密码学的隐私计算技术;第二类是以 联邦学习 为代表的人工智能与隐私保护技术融合衍生的技术;第三类是以 可信执行环境 为代表的基于可信硬件的隐私计算技术。
不同技术往往可以 「组合」 使用,在保证原始数据安全和隐私性的同时,完成对数据的计算和分析任务。
三、联邦学习
在联邦学习当中主要有两种模式:
横向联邦
指的是在联合的多方当中,「特征」 是相同的,但是 「用户」 不一样;那么通过联合呢,就可以在训练模型时 「扩展样本数量」;
例如:有两家不同地区银行(北京与广州)由于银行间的业务相似,所以数据的特征(字段)大概率是相同的;但是它们的用户群体分别来自北京与广州的居住人口,用户的交集相对较小;这种场景就比较适合使用 「横向联邦」 用于增加模型训练的用户数据 「扩展数据量」。
纵向联邦
指的是在联合的多方当中,各方的 「用户」 重叠较多,但是它们的 「特征」 是不一样的,那么通过联合呢,就可以在训练模型时 「扩展特征维度」;
例如:同一地区的商场与银行,它们的用户群体很有可能包含该地的大部分居民,用户的交集可能较大;由于银行记录的都是用户的收支行为与信用评级,而商场则保有用户的购买历史,因此它们的用户特征交集较小;这种场景就比较适合使用 「纵向联邦」 用于增加模型训练的特征数量 「扩展模型能力」。
四、Fate
FATE (Federated AI Technology Enabler)是微众银行人工智能团队自研的全球首个联邦学习工业级开源框架,它提供一种基于数据隐私保护的安全计算框架,为机器学习、深度学习、迁移学习算法提供强有力的安全计算支持。并内置保护线性模型,树模型以及神经网络在内的多种机器学习算法。
github地址:https://github.com/FederatedAI/FATE
在 Fate 里面存在以下三种角色:
Guest
为数据的应用方,指的是在实际的建模场景中有业务需求去应用这些数据;并且在纵向算法中,Guest 往往是有标签 y 的一方。
Host
为数据的提供方,通常它只是一个合作的机构负责提供数据来辅助 guest 完成这个建模,只是帮助提升训练效果。
Arbiter
为第三方协作者,用来辅助多方完成联合建模的,不提供数据主要是负责发放公钥,加解密,还有聚合模型等功能。
五、部署
5.1. 安装镜像
首先设置环境变量 version 用于后面指定 Fate 的版本,执行以下命令:
export version=1.8.0
使用的是当前最新版本,可按需修改。
镜像有 「两种安装」 方式,选其一即可;
「方式一」 如果服务器能访问公网的话,可直接拉取腾讯云容器镜像:
docker pull federatedai/standalone_fate:${version}
docker tag ccr.ccs.tencentyun.com/federatedai/standalone_fate:${version} federatedai/standalone_fate:${version}
「方式二」 如果服务器没有公网,则可以通过下载镜像然后导入的方式: 在有网络的机器上下载镜像包:
wget https://webank-ai-1251170195.cos.ap-guangzhou.myqcloud.com/fate/${version}/release/standalone_fate_docker_image_${version}_release.tar.gz
在目标机器导入镜像:
docker load -i standalone_fate_docker_image_${version}_release.tar.gz
查看已安装的镜像:
docker images | grep federatedai/standalone_fate
5.2. 启动容器
执行以下命令启动:
docker run -d --name standalone_fate -p 8080:8080 federatedai/standalone_fate:${version};
六、测试
Fate 里面自带了测试任务;
首先执行以下命令,进入 Fate 的容器中:
docker exec -it $(docker ps -aqf "name=standalone_fate") bash
执行以下命令,启动 toy 测试:
flow test toy -gid 10000 -hid 10000
成功后显示以下内容:
success to calculate secure_sum, it is 2000.0
七、图形化界面
FATE Board 是 Fate 里面负责可视化的服务组件,在单机版容器中已经集成了该服务,可以通过 8080 端口访问:
账号和密码都是 admin
通过右上角的 JOBS 按钮可以查看我们 Toy测试 所运行的任务:
因为是联邦学习所以看到 guest 和 host 两方角色的任务。
相关推荐
- 用Java实现RAG的3大核心模块与7个必知细节
-
一、真实场景驱动:某制造企业的知识管理之痛某汽车零部件企业有超过20万份技术文档(PDF/HTML/Word),工程师每天平均花费2小时查找资料。我们为其构建的Java版RAG系统,将查询耗时缩短至1...
- 在 C# .NET 中从 PDF 中提取表数据
-
概述:...
- 【分享】教你如何使用 Java 读取 Excel、docx、pdf 和 txt 文件
-
在Java开发中,我们经常需要读取不同类型的文件,包括Excel表格文件、"doc"和"docx"文档文件、PDF文件以及纯文本文件。其中最常用的是A...
- Spring AI 模块架构与功能解析
-
SpringAI是Spring生态系统中的一个新兴模块,专注于简化人工智能和机器学习技术在Spring应用程序中的集成。本文将详细介绍SpringAI的核心组件、功能模块及其之间的关...
- 告别付费!一站式服务,PDF多功能工具!
-
大家好,我是Java陈序员。今天,给大家介绍一个PDF多功能在线操作工具,完全免费开源!...
- 本地PDF操作神器:永久告别盗版和破解,再也不用担心安全问题
-
前言PDF(便携式文档格式)目前已经成为了文档交换和存储的标准。然而,找到一个功能全面、安全可靠、且完全本地化的PDF处理工具并不容易。...
- Python rembg 库去除图片背景
-
rembg是一个强大的Python库,用于自动去除图片背景。它基于深度学习模型(如U^2-Net),能够高效地将前景物体从背景中分离,生成透明背景的PNG图像。本教程将带你从安装到实际应用...
- 31个必备的python字符串方法,建议收藏
-
字符串是Python中基本的数据类型,几乎在每个Python程序中都会使用到它。...
- python学习day1——输出格式化
-
print一般在控制台中我们用print进行输出,默认情况下,使用格式为:print(*objects,sep='',end='\n')第一个参数是我们要在控制台...
- 一张图认识Python(附基本语法总结)
-
一张图认识Python(附基本语法总结)一张图带你了解Python,更快入门,一张图认识Python(附基本语法总结)Python基础语法总结:1.Python标识符在Python里,标识符有字...
- 学习编程第188天 python编程 字典格式化
-
今天学习的是刘金玉老师零基础Python教程第84期,主要内容是python字典格式化。...
- Python基础数据类型转换
-
Python中的基础数据类型转换可以分为隐式转换和显示转换。隐式转换是python解释器自动转换,显示转换是通过内置函数实现。无论哪种方式进行的转换,均为转换为对应类型的数据,而非改变原数据的类型。...
- python之json基本操作
-
1.概述JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式,它具有简洁、清晰的层次结构,易于阅读和编写,还可以有效的提升网络传输效率。Python标准库的...
- Python之迭代器及其用法
-
前面章节中,已经对列表(list)、元组(tuple)、字典(dict)、集合(set)这些序列式容器做了详细的介绍。值得一提的是,这些序列式容器有一个共同的特性,它们都支持使用for循环遍历存储...
- 从初始化一个现代 python项目学习到的东西
-
uv我准备用uv初始化一个python项目环境我用的是苹果笔记本MacBookPro,具体的操作系统及硬件参数如下:...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
因果推断Matching方式实现代码 因果推断模型
-
git pull命令使用实例 git pull--rebase
-
git 执行pull错误如何撤销 git pull fail
-
面试官:git pull是哪两个指令的组合?
-
git fetch 和git pull 的异同 git中fetch和pull的区别
-
git pull 和git fetch 命令分别有什么作用?二者有什么区别?
-
还可以这样玩?Git基本原理及各种骚操作,涨知识了
-
git pull 之后本地代码被覆盖 解决方案
-
git命令之pull git.pull
-
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)