联邦学习——诚实与好奇
联邦学习——诚实与好奇
在联邦学习论文中看到两个频繁出现的词honest和curious,也就是诚实和好奇。几度思考未果,请教博士师兄,明其大意:
诚实即为参与者不会伪造数据,服务器也不会对参与者上传的数据进行攻击、破译或逆向工程等恶意操作。
好奇是,服务器方对用户的原始数据有一定程度的好奇,并且可能会绕过一些安全措施直接访问用户的原始数据。
另外,在联邦学习环境下,服务器因为能够获得多方上传的更新梯度,所以能够获得他人的数据。成员之间不会互相传递数据,但可以串通。多个成员传统可以大规模的伪造数据,从而导致最终模型的失败或被恶意方控制。
论文内容如下,论文题目:Federated Machine Learning: Concept and Applications
最后,膜拜一下,希望自己也可以进步多一点,能够强一点!博观而约取,厚积而薄发。