位来 发自 凹非寺
量子位 报道 | 公众号 QbitAI
脱了马甲我照样儿认识你！
这句在2000春晚赵本山的经典台词，放在隐私圈有了新的解释：在不看到数据“真面目”的情况下，照样能得到答案。
数据的进击与人工智能的野望
随着人工智能（AI）技术的不断发展和各种产品落地，数据作为各种人工智能算法的原材料，其价值已经普遍得到大家认可。各个公司能够采集到的数据毕竟有限，想得到更精准的训练模型，就需要将数据联合起来挖掘更大的价值。
但真正让数据“流动”并不简单，对于拥有数据的各个企业来说，面临着很大的矛盾：通过数据分享和交互显然可以提升AI算法的效果，但同时又必须要保障自己的数据不泄露出去。
Rosetta让隐私计算与AI攻守结合
而解决数据的动态使用、分享中的安全问题，正是“隐私计算+AI”技术的专长。其融合在数据的使用、处理过程之中，保障计算过程本身（广义的讲，还包括计算结果）不会泄露原始明文数据本身的信息。
国内首个自主研发的基于主流TensorFlow框架的隐私AI框架可以解决以上种种问题：Rosetta （https://github.com/LatticeX-Foundation/Rosetta）
“Rosetta”名称取自古埃及的罗塞塔石碑（Rosetta Stone）。其上记载着古埃及象形文字、埃及草书和古希腊文三种文字。
这里寓意着Rosetta框架将承载和结合AI、隐私AI和区块链三种典型的技术。这使得Rosetta的发展方向聚焦在以下三个方面：
面向AI需求，服务AI开发者
完全开源，透明开放
持续集成高效、可扩展的隐私保护技术后端
目前开源的 Rosetta 0.2.0版本中，以TensorFlow这一流行AI框架为基础，深度改造其python前端和后端kernel，融合了最前沿的安全多方计算（MPC）算法协议。
那么让我们揭开Rosetta的神秘面纱，先睹为快，举一个简单的“硬核”例子：
假设现在有三个个体A，B和C各自都具有自己采集到的一批私有数据，并且已经各自经过标准的特征工程等方式将其表达为三个矩阵
，
和
，正如大部分的AI算法（比如推荐系统）那样，某一个步骤中需要执行矩阵乘法这样的算子操作。
显然为了保护数据的隐私，三方之间是不能将各自的数据直接明文的传输给其他参与者的，而这样的计算又必须要进行数据的交互，这时，用户可以引入Rosetta框架后很快的解决这一问题。
Rosetta框架实例分析
比如，各方在本地有一样的如下脚本rosetta_demo.py (这里为了更加直观的体验，我们以各方通过console输入简单的数据来示例，真实场景下可以调用隐私数据文件读取接口来输入)：
#!/usr/bin/env python3
# Import rosetta packageimport latticex.rosetta as rtt
import tensorflow as tf# You can activate a backend protocol, here we use SecureNN
rtt.activate("SecureNN")
# Get private data from every party
matrix_a = tf.Variable(rtt.private_console_input(0, shape=(3, 2)))matrix_b = tf.Variable(rtt.private_console_input(1, shape=(2, 1)))
matrix_c = tf.Variable(rtt.private_console_input(2, shape=(1, 4)))# Just use the native tf.matmul operation.
cipher_result = tf.matmul(tf.matmul(matrix_a, matrix_b), matrix_c)
# Start executionwith tf.Session() as sess:
sess.run(tf.global_variables_initializer())
# Take a glance at the ciphertext cipher_result = sess.run(cipher_result)
print('local ciphertext result:', cipher_result) # Set only party a and c can get plain result
a_and_c_can_get_plain = 0b101
# Get the result of Rosetta matmul print('plaintext matmul result:', sess.run(rtt.SecureReveal(cipher_result, a_and_c_can_get_plain)))
A 、B和C方在完成配置好网络拓扑配置文件后，分别运行
python rosetta_demo.py --party_id=0
python rosetta_demo.py --party_id=1
python rosetta_demo.py --party_id=2
然后，各方分别按照提示在终端中输入各自的私有数据，比如A方可以按照如下提示输入其对应的矩阵元素值：
[2020-07-29 20:10:49.070] [info] Rosetta: Protocol [SecureNN] backend initialization succeeded!
please input the private data (float or integer, 6 items, separated by space): 2 3 1 7 6 2
假设A方输入的私有矩阵为
, B 方输入的私有矩阵为
, C 方输入的素有矩阵为
。
我们先直接打印出算子计算的结果，此时各方本地输出的是各不相同的被编码后的密文信息,比如：
local ciphertext result: [[b'D©Pþul#' b'Ëj*D#' b'ïÛ¢ÝSÿÿ#' b'ª:¼Dÿÿ#']
[b'³ö©@x#' b'4ÿ/É»ÿÿ#' b'8ú¡Y<�#' b'_9>ê6#']
[b'ë)ó úÆÿÿ#' b"'ì¡%#" b'ôÍĶû#' b'BîNdæÿÿ#']]
在上述脚本的最后我们显式的调用了SecureReveal接口来将隐私AI的结果“解密”出来，且通过设定参数为5来要求只有A和C可以得到明文值，所以A方和C方将得到类似如下的正确明文结果：
plaintext matmul result: [[b'8.000000' b'14.000000' b'18.000000' b'4.000000']
[b'4.000000' b'7.000000' b'9.000000' b'2.000000']
[b'24.000000' b'42.000000' b'54.000000' b'12.000000']]
[2020-07-29 20:11:06.452] [info] Rosetta: Protocol [SecureNN] backend has been released.
而B方则不会得到正确的明文计算结果，其输出是：
plaintext matmul result: [[b'0.000000' b'0.000000' b'0.000000' b'0.000000']
[b'0.000000' b'0.000000' b'0.000000' b'0.000000']
[b'0.000000' b'0.000000' b'0.000000' b'0.000000']]
[2020-07-29 20:11:06.558] [info] Rosetta: Protocol [SecureNN] backend has been released.
可以看出除了必要的数据预处理接口外，我们完全的复用了TensorFlow中的算子，在更复杂的计算逻辑图中，你可以像这个trivial例子中的Matmul一样，直接使用native TensorFlow的算子即可，不需要感知任何后端复杂的隐私协议！
AI开发者能在不需要对隐私AI技术有任何了解的情况下，只需要改动两三行代码即可将现有AI代码转换为具备数据隐私保护功能的程序，Rosetta可以说是AI开发者的“贴心小马甲”。
为了更相近了解这种隐私保护技术，量子位邀请到矩阵元算法科学家谢翔博士进行直播分享， Rosetta如何将隐私计算能力赋予人工智能，让我们的隐私更安全。
分享内容
隐私计算背景介绍
如何实现隐私保护
什么是Rosetta
Rosetta运行原理
Rosetta的应用场景
未来的规划
嘉宾介绍：
格密码理论、同态加密、零知识证明、安全多方计算等密码学算法和协议设计的专家。发表论文10余篇，曾在密码学的顶尖学术会议Eurocrypt，CCS上发表论文。
直播&报名
直播时间：
2020年8月6日（周四），19:00-20:30
其中分享时间为60分钟，问答交流环节30分钟
报名方式：
扫码添加小助手，备注“隐私”，将邀请您加入直播群。欢迎大家与谢翔老师、更多开发者一起探讨和交流隐私AI，也欢迎分享给需要的朋友：
— 完 —
本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容，未经账号授权，禁止随意转载。
原标题：《代码改动两三行，AI数据秒换隐身衣！隐私计算+AI？中科院博士实践分享一键切换》
