对抗攻击相关术语

﹏ヽ暗。殇╰゛Y 2022-12-13 09:55 207阅读 0赞

在阅读对抗攻击相关文献的时候，经常遇到一些专业术语，经过查找资料在这里整理下相关笔记。

1.对抗样本/图片（Adversarial Example/Image）

对抗样本/图片指的是在原始样本添加一些人眼无法察觉的噪声，这样的噪声不会影响人类的识别，但是却很容易愚弄模型，使其做出与正确答案完全不同的判定。

2.对抗干扰（Adversarial perturbation）

使得原始图片成为对抗样本所需要添加的噪声。

3.对抗训练（Adversarial Training）

除了原始图片样本之外还使用到对抗样本作为训练数据的一种训练方式。

4.对手（或者对抗方）（Adversary）

广泛地来说，对抗方指的是产生对抗样本的代理（agent）。然而，有的时候对抗样本 本身也被称作对抗方。

5.探测器（Detector）

探测器用来判断一张图片是否是对抗样本

6.愚弄率（Fooling ratio/rate）

愚弄率指的是一个被训练过的模型在图片被干扰之后改变其原本预测的类别的比例。

7.单步方法（one-shot/one-step methods）

单步方法通过执行单步计算来产生对抗干扰，比如：计算一次模型的loss的梯度。与之对应的是**迭代方法**，这类方法为了得到一次扰动需要多次执行相同的计算。迭代方法毫无疑问在计算代价上是十分昂贵的。

8.外观不可感知的（Quasi-imperceptible）

对抗样本引入的干扰可以微小到不被人类感知。

9.修正器（Rectifier）

修正器会将对抗样本在特定模型上的预测结果修正成与原始样本的预测结果一致。

10.有目标攻击（Targeted attacks）

**有目标攻击**会让模型将对抗样本错误地分成某种特定的类别。与之相对的是**无目标攻击**。无目标攻击的目的相对简单，它只追求让模型分错，并不追求到分成何种类型。

11.威胁模型（Threat model）

威胁模型指的是被一种方法所考虑到的潜在的攻击。（比如：黑盒攻击）

12.迁移性（Transferability）

**迁移性**指的是对抗样本即便在攻击**其他模型**（指的是不是用来生成该对抗样本的模型）时仍能够保持其有效的一种品质。

13.通用干扰（Universal perturbation）

**通用干扰**能够在任意的图片上愚弄到模型。需要指出的是：通用性指的是**干扰**在对“图像没有任何知识”的情况下的性质，与之前提到的迁移性是不一样的。

14.黑盒攻击（Black-box attacks）

不知道被攻击模型的具体细节，称之为**黑盒攻击**。在一些情况下，也会假设对抗方对模型有十分有限的了解（比如：模型的训练过程和/或其结构），但是绝对不知道模型的参数。在另外的一些情况下，使用到任何与目标模型相关的信息都被认为是 **半黑盒攻击**（semi-black-box attack）。

15.白盒攻击（White-box attacks）

是指被攻击的模型是已知的，包括网络结构及权值参数信息。

16.无目标（Non-targeted）攻击

非定型攻击指被攻击的模型的输出只要是错误的，就可以了。如原图像是小猫，添加干扰形成对抗样本输入到模型中，模型输出错误，输出结果可以是小狗也可以是小羊或者是其他，只要求是错误的。

17.有目标（Targeted）攻击

定向攻击指被攻击模型的错误输出为特定类别。如原图像是小猫，生成的对抗样本使DNN模型错误分类为攻击者想要的小狗。

发表评论取消回复

表情：

评论列表（有 0 条评论，207人围观）

还没有评论，来说两句吧...

相关阅读

相关半导体行业相关术语

目录 1.晶圆（wafer） 2. 自动化测试设备（ATE = Automatic Test Equipment） 3.晶盒（Cassette） 4. 待测设备(DUT

待我称王封你为后i/ 2024年03月30日 14:06/ 0 赞/ 94 阅读

相关理解AOP及相关术语

什么是aop aop即面向切面编程，也叫面向方面编程。 aop的作用不通过修改源代码实现功能扩展，从而将非业务代码和业务代码分离，降低代码耦合，提高程序复用

太过爱你忘了你带给我的痛/ 2023年07月03日 02:59/ 0 赞/ 16 阅读

相关什么是对抗样本、对抗攻击（详解）

1.对抗样本所谓对抗样本就是指：在原始样本添加一些人眼无法察觉的扰动（这样的扰动不会影响人类的识别，但是却很容易愚弄模型），致使机器做出错误的判断。如下所示，这两张图片

布满荆棘的人生/ 2022年12月16日 04:00/ 0 赞/ 671 阅读

相关对抗攻击相关术语

在阅读对抗攻击相关文献的时候，经常遇到一些专业术语，经过查找资料在这里整理下相关笔记。 1.对抗样本/图片（Adversarial Example/Image）对抗样本/

﹏ヽ暗。殇╰゛Y/ 2022年12月13日 09:55/ 0 赞/ 208 阅读

相关性能测试相关术语

性能测试相关术语 ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ib

比眉伴天荒/ 2022年12月11日 15:10/ 0 赞/ 207 阅读

相关对抗样本无法被重建！CMU提出通用的无监督对抗攻击检测方法

![对抗样本无法被重建！CMU提出通用的无监督对抗攻击检测方法][CMU] 作者 | Ben Dickson 编译 | 琰琰机器学习在应用程序中的广泛使用，引起了人们对

╰+攻爆jí腚メ/ 2022年09月10日 01:28/ 0 赞/ 131 阅读

相关云计算相关术语整理

云计算相关术语整理 <table> <thead> <tr> <th>术语</th> <th>英文</th> <th>中文</th>

你的名字/ 2022年07月12日 10:09/ 0 赞/ 188 阅读

相关 Spring AOP相关术语

1：Joinpoint：连接点。指的是可以被拦截的点，在Spring AOP中可以简单的理解为Bean的方法。（忽略AspectJ) 2：Pointcut：切入点。指的是对哪

灰太狼/ 2022年05月18日 00:47/ 0 赞/ 242 阅读

相关 [work] 什么是对抗攻击

谷歌大脑(Google Brain)最近的研究表明，任何机器学习分类器都可能被欺骗，给出不正确的预测。Google Brain是Google内部用于训练大规模深度神经网络的构架

た入场券/ 2022年04月12日 10:53/ 0 赞/ 260 阅读

相关对抗粉尘攻击——CashShuffle正在保护BCHer隐私

自最近混币服务（CashShuffle）上线Electron Cash钱包后，社区再次点燃起讨论粉尘攻击（Dust Attack）的热潮。粉尘攻击使得BCH用户匿名性遭到致命打

柔情只为你懂/ 2021年07月28日 22:11/ 0 赞/ 369 阅读