DeepFool - 程序员宅基地

火炬电阻_火炬神经网络的对抗性攻击和防御

火炬电阻The rise of deep learning and neural networks brought various opportunities and applications such as object detection and text-to-speech into the modern society. Yet, despite the seemingly ...

【论文学习】《Adversarial examples for generative models》

标签：对抗样本生成式模型深度学习

《Adversarial examples for generative models》论文学习文章目录《Adversarial examples for generative models》论文学习  摘要  1 介绍  2 相关工作与背景    2.1 关于对抗的相关工作...

文本对抗攻击入坑宝典

标签：算法机器学习人工智能

点击上方，选择星标，每天给你送干货！文 | 阿毅编 | 小轶如果是咱家公众号的忠实粉丝就一定还记得之前咱家一篇关于NLP Privacy的文章，不出意外的话，你们是不是现在依然还担心自己的...

深度学习的对抗攻击与防御方法综述_笔记

标签：深度学习机器学习人工智能

一、概述由于深度学习广泛的应用，深度学习模型的安全问题也受到普遍关注，模型算法的安全隐患更是加剧了被对抗样本欺骗以及隐私泄露等安全风险。现有的对抗攻击方法主要面向对抗样本的生成方法以及最终达到对...

论文阅读 (53)：Universal Adversarial Perturbations

标签：对抗样本信息安全深度学习

要点如下：1）展示了对于给定的一个前沿神经网络分类器，只需要一个普适且极小的扰动就可以引发高概率的自然图像误分类；2）提出了一种计算通用扰动的系统算法，并表明最先进的深度神经网络非常容易受到这种扰动的...

有关对抗攻击的论文整理

标签：深度学习

对抗攻击对抗攻击对抗攻击的概念对抗攻击原理新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、...

对抗攻击与防御 (2)：对抗样本的反制策略

标签：对抗攻击与防御对抗样本反制因吉与皮卡墨

为了保证神经网络算法的安全性，不同类型的反制策略被相继提出：1）梯度屏蔽/混淆 (gradient asking/obfuscation)：相当一部分攻击者利用分类器的梯度信息进行攻击，因此屏蔽或者混淆梯度可以同样混淆攻击者；...

对抗攻击算法中，属于定向攻击有哪些

对抗攻击算法中，属于定向攻击的攻击方式有以下几种： 1. FGSM（Fast Gradient Sign Method），即快速梯度符号方法； 2. BIM（Basic Iterative Method），即基础迭代方法；...7. DeepFool 攻击方法等。

2019_IJCAI_Deep Adversarial Social Recommendation

标签：人工智能深度学习推荐系统

[论文阅读笔记]2019_IJCAI_Deep Adversarial Social Recommendation 论文下载地址： https://www.ijcai.org/Proceedings/2019/0187.pdf 发表期刊：IJCAI Publish time: 2019 作者及单位: Wenqi Fan1, Tyler Derr2, ...

高频vs低频—频率派对抗防御全总结

近年来，对抗攻击与防御的研究为理解深度神经网络提供了一些新的启发，在探究攻击手段和防御方法的同时，我们对网络鲁棒性、泛化性的来源也有了更加深入的认识。本文是梳理了近期图像识别领域对抗攻击与防御的主要...

torch代码运行时显存溢出问题

标签： pytorch oom

在实验室参与开发了一个评测平台。在使用的时候有部分攻击算法会出现显存溢出的情况。同时随着样本数增加，这种显存占用比会同比增加。而不是和预先设定的一样，仅和设置的batch_size相关。如此一来，对于一些占用...

paper—Effectiveness of Adversarial Examples and Defenses for Malware Classification

标签：机器学习网络安全生成对抗网络

恶意软件分类中对抗性示例和防御的有效性摘要人工神经网络已经成功地用于许多不同的分类任务，包括恶意软件检测和区分恶意和非恶意程序。虽然人工神经网络在这些任务上表现得很好，但它们也容易受到敌对例子的...

CW Attack论文阅读与总结

标签：深度学习神经网络机器学习

本文创建了一组可用于构造神经网络鲁棒性上界的攻击，防御蒸馏方法无法抵抗我们的攻击。在普遍的模型上与其他攻击进行比较时，本文的方法生成了对抗样本在每种情况下总失真都较小。此攻击方法是评估防御性能的最佳...

[论文阅读] (04) 人工智能真的安全吗？浙大团队外滩大会分享AI对抗样本技术

标签：论文分享 AI安全对抗样本

AI技术蓬勃发展，无论是金融服务、线下生活、还是医疗健康都有AI的影子，那保护好这些AI系统的安全是非常必要也是非常重要的。目前，AI安全是一个非常新的领域，是学界、业界都共同关注的热门话题，本论坛将邀请AI...

七月论文审稿GPT第2.5和第3版：分别微调GPT3.5、Llama2 13B以扩大对GPT4的优势

标签：论文审稿GPT 微调GPT3.5 turbo 微调llama2 13B

我司自去年7月份成立大模型项目团队以来，至今已有5个项目组，其中所有项目均为会对外上线发布的商用项目，而论文审稿GPT至今在过去的半年已经迭代两个版本，其中第二版的效果甚至超过了GPT4(详见《)，为了持续累积...

【论文翻译_对抗攻击、知识蒸馏】AGKD-BML: Defense Against Adversarial Attack by Attention Guided ...

标签：人工智能

AGKD-BML: Defense Against Adversarial Attack by Attention Guided Knowledge Distillation and Bi-directional Metric Learning Hong Wang, Yuefan Deng, Shinjae Yoo, Haibin Ling, Yuewei Lin ...

[半监督学习] Virtual Adversarial Training: A Regularization Method for Supervised and SSL

标签：深度学习机器学习

提出一种基于虚拟对抗损失的新正则化方法, 虚拟对抗性损失被定义为每个输入数据点周围的条件标签分布对局部扰动的鲁棒性. 与对抗训练不同, VAT 方法在没有标签信息的情况下定义了对抗方向, 因此适用于半监督学习.

Paper reading (十一)：Deep Learning in Biomedical Data Science

标签： deep learning biomedical data science

论文题目：Deep Learning in Biomedical Data Science scholar 引用：16 页数：27 发表时间：2018.07 发表刊物：Annual Review of Biomedical Data Science 作者：Pierre Baldi 摘要：Since the 1980s, deep ...

白盒攻击算法

白盒攻击算法一.概述分类对抗样本按照攻击成本可以分为白盒攻击，黑盒攻击和物理攻击。白盒攻击白盒攻击需要完整获取模型，了解模型的结构以及每层的具体参数，攻击者可以控制模型的输入，甚至对输入数据进行...

对抗样本之JSMA原理&coding

标签：对抗样本生成之JSMA JSMA代码实现 torch实现JSMA算法

目录1 引言2 JSMA原理3 coding3.1 训练模型3.2 JSMA对抗样本生成3.3 测试鲁棒性3.4 可视化展示附录 1 引言本文代码完成生成JSMA对抗样本的完整过程。直接复制代码就能跑。相信我，不骗你。使用pytorch实现JSMA。...

《TEXTBUGGER: Generating Adversarial Text Against Real-world Applications》论文笔记

标签：人工智能对抗攻击深度学习

论文来源：NDSS-2019 主要内容：近年来，基于深度学习的文本理解（DLTU）技术已经被应用到了很多场景，如机器翻译、问答系统、文本分类等。尽管这些DLTU技术的应用场景很广，效果很好，但是它背后的安全性却是未知...

生成对抗样本的方法|攻击方法

对抗样本 1.Biggio′s attack Biggio[22]等人首先针对传统机器学习分类器（如SVM和三层全连接神经网络）的MNIST手写数字识别数据集生成对抗样本。它通过优化判别函数来误导分类器。 2. Szegedy′s limited-memory ...

机器学习------安全与隐私问题综述

标签：机器学习人工智能

近年来机器学习的发展十分迅速，机器学习被用在很多场景。机器学习的学习方式 1.集中学习即传统的机器学习训练，在模型训练之前，各方的数据需要被数据收集者集中收集，然后由数据分析者进行模型训练。...

新书推荐 |《AI安全之对抗样本入门》

新书推荐《AI安全之对抗样本入门》点击上图了解及购买AI安全三部曲作者兜哥又一力作，对抗样本的入门知识，AI安全必备。内容简介本书系统介绍对抗样本的基本原理，从相关的背景知识开始，包含搭...

NLP领域的首次Hard Label黑盒攻击！

标签：算法机器学习人工智能

文 | 阿毅编 | 小轶背景前段时间已经和大家分享了两篇关于NLP Privacy的文章。今天，我们又来给大家推送优质论文了（公众号学习法）。其实，NLP与其他方向的跨界结合这段时间层出不...

cleverhans与foolbox的对比使用（pytorch+python3）

标签： pytorch 深度学习

cleverhans与foolbox的对比使用（pytorch+python3）一、最新版cleverhans Although CleverHans is likely to work on many other machine configurations, we currently test it with Python 3.6, Jax 0.2, PyTorch...