论文笔记 - Neurotoxin: Durable Backdoors in Federated Learning

阅读量：

Neurotoxin: Durable Backdoors in Federated Learning

1. 基本信息

论文标题	Neurotoxin: Durable Backdoors in Federated Learning
论文作者	Zhengming Zhang, Ashwinee Panda, Linyue Song, Yaoqing Yang, Michael W. Mahoney, Joseph E. Gonzalez, Kannan Ramchandran, Prateek Mittal
科研机构	Southeast University, Princeton University, University of California at Berkeley
会议年份	ICML 2022
摘要概括	联邦学习的客户端本地数据不共享的性质，是联邦学习系统容易受到后门攻击的重要原因。在前人提出的联邦学习后门攻击中，当恶意用户停止上传恶意模型更新时，随着迭代轮数增强，后门触发器的作用会削弱。本篇论文围绕者上述问题，提出Neurotoxin 算法，该算法有效解决了联邦学习后门攻击持久性问题
开源代码	https://github.com/jhcknzzm/federated-learning-backdoor

2. 研究动机

在联邦学习系统中, 当参与者退出训练模型的迭代过程时, 后门攻击点会随着正常用户的参与度提升而减弱. 其持续存在是这项研究的核心目标.

3. 攻击模型

基本思想

基本方法

基本思想

攻击者获取了上一轮聚合过程中的梯度信息，并对恶意客户端本地模型参数进行了重新设置；随后收集了排名前 k% 小幅度的梯度值所对应的参数集合（即所谓的约束集）。
攻击者通过利用中毒样本对恶意客户端本地模型进行了训练，并获得了相关的梯度信息。需要注意的是，在该过程中需要特别关注那些不属于约束集的梯度变化 $g_{i}^{t}\cup S=\empty$ 。

4. 实验结论

评判标准

全部评论 (0)

还没有任何评论哟~

论文笔记 - Neurotoxin: Durable Backdoors in Federated Learning

Neurotoxin:DurableBackdoorsinFederatedLearning 1\.基本信息论文标题Neurotoxin:DurableBackdoorsinFederatedLea...

Blind Backdoors in Deep Learning Models 论文笔记

论文笔记 1\.论文信息论文名称BlindBackdoorsinDeepLearningModels 作者EugeneBagdasaryanVitalyShmatikovCornellTech 出版...

FL Backdoor Defense (Ⅰ) - FLAME: Taming Backdoors in Federated Learning

文章目录论文笔记FLAME:TamingBackdoorsinFederatedLearning 1\.基本信息 2\.研究动机 3\.基本原理 3.1面临挑战分析 3.2FLAME算法总体概述 3...

ChatGPT生成论文笔记：Planting Undetectable Backdoors in Machine Learning Models

标题：重新定义机器学习的安全性：在模型中植入不可检测的后门引言：在当前技术趋势下，机器学习（ML）模型已成为解决复杂问题和优化决策过程的核心。然而，随着我们对这些模型的依赖日益增加，它们的安全性也...

Collaborative Fairness in Federated Learning论文阅读笔记

论文地址：<https://arxiv.org/abs/2008.12161 1.介绍大多数现有的分布式或FL框架忽略了参与的一个重要方面：协作公平性。特别是，所有参与者都可以收到相同或类似的模型，...

《Unlearning Backdoor Attacks in Federated Learning》论文阅读笔记

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录摘要一、Introduction 二、防御方法 1.前提条件 2.EraseHistoricalParameterUpda...

Secure Federated Transfer Learning(论文笔记）

论文链接：<https://arxiv.org/pdf/1812.03337.pdf 一、概述众所周知，机器学习依靠大量用于训练的数据。然而，在现实中存在的数据存在以下特点：数据分散（各行各业都有...

论文笔记 - Can You Really Backdoor Federated Learning?

文章目录联邦学习后门攻击操作细节CanYouReallyBackdoorFederatedLearning？ 1\.基本信息 2\.基本原理 2.1联邦学习后门攻击场景 2.2恶意模型更新 2.2....

【论文阅读笔记】A Stability-Enhanced Dynamic Backdoor Defense in Federated Learning for IIoT

个人阅读笔记，如有错误欢迎指出！期刊：IEEETRANSACTIONSONINDUSTRIALINFORMATICS（TII）AStabilityEnhancedDynamicBackdoorDef...

论文笔记 SCAFFOLD Stochastic Controlled Averaging for Federated Learning

论文题目：《SCAFFOLDStochasticControlledAveragingforFederatedLearning》论文地址：<https://arxiv.org/pdf/1910.06...

是否确定退出登录?

论文笔记 - Neurotoxin: Durable Backdoors in Federated Learning

Neurotoxin: Durable Backdoors in Federated Learning

1. 基本信息

2. 研究动机

3. 攻击模型

4. 实验结论

全部评论 (0)

相关文章推荐

论文笔记 - Neurotoxin: Durable Backdoors in Federated Learning

Blind Backdoors in Deep Learning Models 论文笔记

FL Backdoor Defense (Ⅰ) - FLAME: Taming Backdoors in Federated Learning

ChatGPT生成论文笔记：Planting Undetectable Backdoors in Machine Learning Models

Collaborative Fairness in Federated Learning论文阅读笔记

《Unlearning Backdoor Attacks in Federated Learning》论文阅读笔记

Secure Federated Transfer Learning(论文笔记）

论文笔记 - Can You Really Backdoor Federated Learning?

【论文阅读笔记】A Stability-Enhanced Dynamic Backdoor Defense in Federated Learning for IIoT

论文笔记 SCAFFOLD Stochastic Controlled Averaging for Federated Learning