Hi,are you ready?

准备好开始了吗?
那就与我们取得联系吧

有一个品牌项目想和我们谈谈吗?您可以填写右边的表格,让我们了解您的项目需求,这是一个良好的开始,我们将会尽快与你取得联系。当然也欢迎您给我们写信或是打电话,让我们听到你的声音!

地 址:

电 话:

E-mail:

全球“黑客大赛”冠军霸气讲述:我是如何让50个文件一起骗过AI安防系统的?

作者: 时间:2019-10-04

黑客

声明:本文来自于微信公众号大数据文摘,编译:邢畅、张睿毅、钱天培,授权转载发布。

你有没有想过当黑客呢?

破解手机密码,黑入公司系统,甚至…控制全球电脑。

打住打住!违法犯罪的念头显然不能有。再退一步讲,咱也不一定有这本事。

尤其是在今天,AI安防早已司空见惯,想要当黑客的难度也越来越高了。

有趣的是,网络安全平台Endgame,MRG-Effitas和VM-Ray在近日联手发起了一场“黑客征集”大赛。号召机器学习工程师们一起来攻击他们的安防系统。

比赛的目标是,让 50 个恶意Windows可移植可执行文件逃避三个机器学习恶意软件分类器的检测。这些文件不仅需要躲避检测,而且还能实现它们原来的功能和行为。

在这场比赛中,一位名叫William Fleshman的小哥拔得头筹——他成功让所有 50 个文件都逃过了AI模型的过滤。

他是怎么做到的呢?让我们一起来听听他的分享。

知己知彼

这是一场白盒比赛,这意味着我可以访问所有模型的参数和源代码。因此,要做的第一件事就是看看模型后台发生了什么。

利来最老牌MalConv

第一个模型是基于Windows可执行文件的原始字节训练的神经网络。

表示文件字节的整数序列被传递给MalConv。MalConv中的嵌入层将每个字节映射到一个数字向量。然后通过另外的神经网络层处理向量序列。该模型输出两个数字,分别表示输入是良性和恶意的概率。

关于MalConv的研究早已层出不穷。最简单的攻击就是在可执行文件的末尾添加一些字节。这是一个特别好的技巧,因为添加的数据不会在恶意软件执行时加载到内存中。因此,我们可以在不改变文件功能的情况下在Overlay中放入任何我们想加的内容。

MalConv同时查找良性和恶意字节的不同模式,以便做出决策。Overlay攻击的目的是用与良性文件相关的模式包装它。

非负MalConv

第二个模型实际上与第一个模型相同,但分配给各层的权重不同。

顾名思义,非负MalConv在训练过程中被限制为具有非负权重矩阵。这样做是为了防止针对MalConv创建的攻击。如果处理得当,非负权重使二元分类器单调;这意味着添加新内容只会增加恶意得分。这将使规避模型变得非常困难,因为大多数规避攻击确实需要向文件添加内容。

“幸运”的是,非负MalConv的实现有一个微小但关键的缺陷。

非负防御只适用于二分类器,其输出分数表示样本的恶意程度。然而,这个版本将输出分成两个分数,分别表示恶意和良性。之后,一个softmax函数将每个类的分数转换为概率。这种结构使得非负权重的训练变得毫无意义。附加内容仍然可以将良性评分推到任意高。当良性评分越高,即使存在相同数量的恶意内容,softmax函数也会将把恶意评分推得越低。因此所有针对MalConv的攻击在这里也会起作用。

论文:

http://ci.louisville.edu/zurada/publications/chor-zur-tnnls.pdf

Ember

Ember其实是Endgame维护的一个数据集。和数据集一起发布的还有一个训练好的基准模型,也称为Ember。Ember是一个lightgbm模型,它根据Windows PE文件解析的几个特征训练得到。

Ember特征解析的源代码在GitHub上可以找到。

代码链接:

https://github.com/endgameinc/ember/blob/master/ember/features.py

了解如何解析特征对制造攻击非常有用。提取的特征包括:

字节直方图

字节熵

Section信息

导入表库及入口信息

导出函数

一般文件信息

文件头信息

字符串信息

数据目录

数值特征可以直接使用,其他特征可用哈希转换为数值向量。乍一看,Ember似乎难以愚弄,它解析的许多特征都与文件结构,或者与我们无法更改的特征相关。我们必须在维持原功能的同时还要避免被检测到!

Ember的漏洞是攻击者可以任意控制某些特征。lightgbm模型在集成树的多个位置使用这些特征。我们可以利用模型的复杂性,通过操纵特征来推动导致逃避的决策。

返回列表

RELATED CASE

相关案例

行业新闻

全球“黑客大赛”冠军霸气讲述:我是如

声明:本文来自于微信公众号大数据文摘...

行业新闻

周杰伦,魔兽....第一批90后开始怀旧了

声明:本文来自于微信公众号谷岛,作者...

行业新闻

华为方舟编译器今日开源:网站上线 网友

8月31日,华为方舟编译器将正式开源。据...

行业新闻

公布第二批适龄提示游戏

近日, 游戏适龄提示 平台公布了第二批...

行业新闻

“一部手机游武隆”上线试运行,首期推

在游客端,“一部手机游武隆”着力于以...

Are you interested in ?

感兴趣吗?

有关我们服务的更多信息,请联系

与我们合作

与我们合作,您将会得到更成熟的品牌建设服务。我们以客户至上,同时也相互挑战,力求呈现最好的品牌建设成果。

品牌咨询热线:

TOP