McAfeeCTO人工智能如何改变网络安全和网络攻击

  • 2020年6月20日

2月21日报道(编译:圈圈)

编者注:本文整理自外媒对McAfee首席技术官Steve Grobman的采访。

Grobman:使用复杂AI技术的准入门槛已经降低,这意味着几乎所有处理数据的网络安全公司都将考虑并可能以一种或另一种形式使用AI技术。我认为AI之所以会如此受追捧,是因为围绕它的炒作太多了,尤其是那些初创公司或成立不久的公司,它们没有其他基础技术也没什么名气,就想着借AI搏一搏眼球。要想在2019年和2020年成立这样的公司并不难,因为我们正在将复杂的AI功能用于网络安全防御。

Q:我与人工智能公司Nvidia的工作人员通话,询问他们对AI的跟踪情况。他们说,现在有1.2-1.5万个AI初创公司。可不幸的是,他们却没有专注于安全问题的AI初创公司的名单。可这似乎是一个非常吸引创业者的领域。我想知道,从你的角度来看,我们怎么能区分致力于网络安全的AI初创公司呢?因为其中不乏有很多公司是为了获得投资而进行炒作。

Q:我想知道区块链是否非常重要。人们指出它是一种可以确保身份的技术。如果你引入区块链,那么你就可以更加确定你想要验证的东西。但是,我看到的另一个与此有关的问题,即勒索软件的蔓延,勒索支付已经变得越来越难以追踪。而使用区块链也是好坏并存。

AI正出现在另一个领域:内容的创造。在安全性方面,我们担心的一件事是使用AI来自动执行自定义的网络钓鱼邮件,因为有了AI的协助,你基本上可以大规模部署鱼叉式网络钓鱼。你有一个自定义便笺,受害者很可能会因此上当,这个便签就是使用AI制作的。同样地,我们很难查看网络钓鱼邮件并知道它们是否是人为确定生成的,或者是在基于AI算法的帮助下生成的。很多研究领域都在发生这样的事情,有大量自动生成的文本和音频。从信息战的角度来看,深度伪造是我们非常感兴趣的东西。

报道称,尽管重新开放边界的决定权属于各国政府,但欧盟敦促27个成员国采取协调一致的方式来解除限制。欧盟提出了一个分三个阶段解除限制的方法,在第一阶段,将从放松禁止大多数不必要的跨境旅行开始。

当然,使用AI的好处在它可以检测到你从未见过的东西。但是,为了获得较高的检测率,通常需要较高的假阳性率。要想得到更高的检测率,你往往会得到很多错误的检测结果。而McAfee发现,比起单独使用任何一种技术而言,将威胁情报和AI结合在一起,你可以获得更高的检测率和更低的误报率。

Q:是Facebook或Twitter上的东西吗?还是McAfee有理由注意这种欺诈行为?

“目前已经全面恢复了招聘工作,求职者会通过电话和视频模式进行面试,不过终面尤其是重要岗位的招聘启动还要等到疫情结束。”某公募基金人士向《每日经济新闻》记者透露道。

记者发现,去年10月拿到基金投顾试点资格的某公司,近期启动投资顾问总部社招工作,包括产品设计、人工智能研究员、大类资产研究、合规、法务、信批等多个岗位招聘,目前在其官网已经可以进行线上信息填报。

欧盟委员会执行副主席玛格丽特•韦斯特格表示:“今天的指导可能为许多欧洲的旅游业从业者,当然还有那些想在今年夏天旅行的欧洲人,开启一个更好的季节。”

另一方面,如果你仅使用AI,则基本上是让AI模型在你知道答案的那90%的场景中做出决定。如果你仔细想一下,你会觉得威胁情报还是几乎能让你得到完美的检测率。如果你知道有什么不好的地方,那么你就是真的知道这很不好。那如果这样,单独使用AI的目的又在哪里呢?你为什么要让你的模型对一些明知不好的东西进行评估呢?

也有部分基金公司因在家办公而尚未进入招工状态。某公募基金HR称,“本周我们公司才算正式开工,符合规定的本周都上班了,对于新一轮的招聘目前还没确定面试形式,还需要开会讨论。”

Grobman特别关注使用改进的计算能力和AI来进行深度伪造,这种伪造技术甚至可以伪造出人们“真的”说过或做过某件事。以下就是外媒对Grobman就AI在网络安全领域进行使用的采访:

Grobman:这项活动开展比较广泛,尤其是在学术界和研究界。与其他一些观点类似,很难知道目前有多少人在集中精力使用这些对抗性技术。大多时候,都是先开始于某些研究领域;然后逐步发展为主动开发,这就是为什么McAfee和业内其他负责任的公司必须做到这一点,并确保在攻击日益普遍时,我们的技术已经准备好开始反击了。

一家合资公募基金招聘的行业研究员明确行业研究需要相关理工科基础背景,包括电子、矿冶或材料、光伏、风电、半导体等,年薪在24w~48w。

Grobman:我们基本可以推测出哪些类型的攻击是通过AI的引导,可要想准确地做出判断还是有一定难度。我们看的是事件产生的结果,而不是事件的组合方式。例如,对手会使用AI来优化他们关注的对象,也就是受害者。如果你认为AI可以很好地解决分类问题,让一个有不良行为的人来识别最脆弱的受害者或者能带来最高投资回报的受害者,这就是他们如何使用AI来发动攻击。

Q:我跟踪了这个领域中一些初创公司的创立,例如2017年的Deep Instinct。他们从英伟达获得了一些奖项,并获得了投资。他们说的一些话很有道理。我想知道他们的方法在整个行业中到底有多广泛。我知道有很多公司都在筹集资金,承诺如果将AI投入网络安全,能从投资者那里获得一些更好的东西。因为传统的安全保护具有被动性,是你发现哪里存在问题,然后将其放入数据库中并加以保护。而AI技术则是用来超越它并预测你从未见过的威胁。

如果以McAfee为例,我们在整个产品线中都使用了AI。我们将其用于后端分类,将其用于检测端点上的未知恶意活动和未知恶意软件。我们将所谓的人机团队和安全操作员与AI结合使用,以进行调查并了解威胁。我们必须准备好让所有人都可以使用AI,这其中自然也包括我们的对手。

Grobman:该技术将以其他的一些新方式投入使用。这样来看:我们关注的一部分是如何解决现有的问题;另一部分是我们怎样采用全新的方法来使用全新技术来防御威胁。人工智能可以在这两个方面为我们提供帮助。

其他中后台人员上也是率先招聘的重点,记者注意到,基金公司对稽核、风控等部门要求是,重点院校研究生学历和两到三年相关工作经验成为标配。如国内某知名公募基金监察稽核部稽核岗要求:全日制研究生及以上学历,3年以上公募基金监察稽核相关工作经验,职位年薪24w~30w;还有公司标榜风控经理要求金融、经济及相关专业985、211重点院校毕业研究生及以上学历,且同时具备三年以上公募基金风控工作或相关行业工作经验。

2019年医药、电子行业牛股辈出,这些热门行业的长期投资趋势正逐渐成为业内共识。Wind数据显示,近一年时间,公募基金调研最多的行业板块集中在电子设备、医疗保健行业。比如,第一大调研股海康威视在一年时间里被122家公募基金调研;另外,迈瑞医疗、广联达、汇川技术也被百余家基金调研,这些接受调研的高频公司分属于电子设备、医疗保健领域。

过去几年中,一大批新兴公司(例如以色列的Deep Instinct)都获得了资金,以将最新的AI技术集成到企业和消费者的安全解决方案中。但McAfee首席技术官Steve Grobman说,对于那些使用AI来阻止网络攻击的保护者来说,目前还没有一个真正的强者技术。

Grobman:这一点非常有趣。同样的技术可以用于不同的目的,有好也有坏。如果你可以使虚拟人的外表和声音跟真人十分相似,则可以考虑将其很好地利用起来。如果你能让处于帕金森晚期或是有其他语言障碍的人能跟身边的亲人交流,那显然是在积极使用这项技术。

这轮疫情对急需人员扩充的基金公司并不友好,视频面试会降低效率。某资深基金人士称,“以前业务部门招聘,是要人力部门和业务部门同时初步筛选,转移到网络上相对没那么方便,我们公司过了网络筛选还要实地面试。目前比较急的岗位在年前都招完了,就目前来讲,新的招聘实地面试往后还要看疫情的情况。”

报道称,旅游业对欧盟极其重要,占整体GDP的10%并提供了2300万个工作岗位。然而,抵制病毒的旅行限制已经对该行业造成了毁灭性的影响,整个欧洲的航空公司已被迫裁掉数万个工作岗位。

热招医药、电子专业背景研究员

新冠肺炎疫情的影响不断褪去,金融机构陆续开工,部分公募基金招聘没有丝毫懈怠——开工后不久即开启线上远程面试,公募人才争夺战悄然打响。

据另一家大型基金公司透露,复工后公司近期没有面试安排。“我们并不会大批量招人,都是哪里缺位补哪里,所以这样看疫情的影响并不大。”

AI本身的双向性是将其用于改善网络安全存在的一个问题,这就好像是猫和老鼠的游戏。如果安全研究人员使用AI来捕获黑客或防止网络攻击,则攻击者也可以使用AI隐藏或发动更有效的自动攻击。

Q:如果这些攻击成功了,你能找出存在哪些危险吗?他们攻击的数据会作何处理?

Grobman:我们使用了多种AI技术。其中一些是工程学习,其中一些是深度学习。但是,我们关注这一技术已经五年了,当时它还并不是特别受关注的领域。该技术已经发展了许多年,我们始终将其视为实现目标的一种工具,而AI本身实则并不等同于目标。我们关心的是它对我们有什么作用。我们的客户关心我们防御威胁的能力。我们发现AI是一项强大的技术,可帮助我们更有效地做到这一点。但总的来说,只要能达到预期的效果,客户就不会真正在乎我们的做法。

此外,我们还将2019年视为开始通过云对金融机构进行攻击的一年。去年夏季,发生了一次重大泄漏事故,这是由于云的渗透导致的。

其实这种情况经常发生在我们身边,比如虚假账户。有人会创建一个名为“AP Newsx”的帐户,或者他们会稍微修改Twitter句柄并从正确的帐户中窃取图像。乍一看,大多数人都会以为是AP发布的视频。一个组织的信誉会影响内容的可信程度,这就是为什么信誉良好的组织需要工具和技术来帮助他们确定一些应该相信的基本事实,而不是应该更加怀疑什么东西。

原因如下:从威胁情报的角度出发对内容进行分类,然后仅将未知的内容传递给AI分类器,这将使你处于同时用这两种技术模式工作的状态,让它们一起为你提供更好的结果。

Grobman:的确存在一些与面部识别有关的元素。例如,我们已经进行了一些研究,以供查看。你能制作出一张与某个真人仿真度极高的图像,并且图像上的信息与面部识别系统里这个人的预留信息差别不大,从而来糊弄这个系统让它以为这就是自己一直寻找的人吗?我认为,这是信息战的一个方面;但除此之外,还要能做到说服人们某些事情已经发生了,也就是把实际没有发生的事情描绘地跟真实说过或做过的一样。越是临近2020年的选举周期,我们越是认识到以信息战为目的的伪造品是我们需要重点关注的事情。

“我们现在主要是电话和视频面试,已经在全面开展了,不过只是前期的面试,一般面试需要人力、业务总监、分管副总三轮。通过人力的可以先期在线上完成,但是最后的录用程序可能不会像之前那么快,终面要等疫情过去当面进行。另外,重要岗位比如总监级别、总经理、副总级别的岗位还是要去现场,目前公司并没有披露相关招聘信息。”北京某公募基金HR告诉记者。

Q:你已经识别出一种称为“模型黑客”的东西,它是对机器学习系统本身的攻击吗?

推广:猎云银企贷,专注企业债权融资服务。比银行更懂你,比你更懂银行,详情咨询微信:zhangbiner870616,目前仅开通京津冀地区服务。

Grobman:AI网络安全这一现象在行业中已经很普遍了。但接下来会发生的事情是,威胁形势将继续发展并变得更加复杂,这将继续要求我们复杂化已有的威胁检测方式。我们不需要看到终点,因为随着威胁形势的不断变化和发展,好的技术也会随之出现。

在下一个阶段,欧盟希望处于疫情发展相似阶段、状况正在好转的国家和地区之间取消边界限制。

Grobman: McAfee之所以这么认为的原因有很多。第一,我们试图了解检测技术的最新发展,以便有类似视频出现后,我们能够提供最佳评估,以评估该视频是否是经过深度伪造过程而被篡改的,或存在其他问题。除社交媒体之外,其他类型的组织也可能具有取证能力,比如新闻媒体。如果有人给你一个视频,你就希望自己有能力辨别这个视频的真伪。

对我们来说,不一定能了解到他们是如何选择受害者就是一个难题。我们只能看到哪些受害者成为了目标。我们可以推测,他们之所以能做出这样明智地选择是利用AI进行了某些分析,但是很难明确断定这一点。

Q:要想完全实现AI网络安全集成,还需要多久?

疫情没能阻挡公募人员跳槽更替,在某招聘平台猎头人士看来,如果有岗位变动的打算,目前仍是跳槽时机。“一些年前招聘的企业正陆续恢复招聘流程,可能有些还没有做规划,不过大部分还是会继续招的,除非岗位内部提拔或者组织架构发生调整。”对于线上沟通这种方式的效果,上述猎头补充道,“视频的效果肯定没有见面聊的好。不过因为现在的面试流程会比较长,所以大部分已经开始看起来了。一般年后职位变动会更大,金三银四,这个时候机会比较多。”

Q:现在有多少公司有能力将二者结合呢?有多少公司能在AI这个板块有所突破呢?我相信你们能做到。

Grobman:还是有几件事值得一提。2019年,勒索软件的问题依然存在并且是安全领域的一个重大问题。一款名为“Sodinokibi”的勒索病毒作祟,它使用的是会员业务模式。你仔细想想,在商业领域中,有各种各样的特许经营业务模式,大多公司都拥有销售或执行其服务的合作伙伴或分支机构,并且存在利润分享。借助Sodinokibi,一个小组创建了底层勒索软件技术,然后将其提供给不同的组织,以影响个人和组织。一旦赎金支付后,相关联的组织就有了利润分享。许多勒索软件都是针对州和地方政府。

Grobman:是的,两者兼而有之。我们已经雇用了很多数据科学家。我们有专门的数据科学团队。同时,我们在整个公司范围内进行了许多交叉培训,以使不是数据科学家的工程师也能了解该技术,并能够有效地使用该技术。

Grobman:我们在这方面做的很好。其实你不仅仅需要拥有出色的AI技术,还需要掌握世界上正在发生的事情的良好数据并具有良好可见性。McAfee拥有十亿个威胁传感器,它们从各种各样的角度出发,着眼于威胁遥测。我们使用CASB(云访问安全代理)解决方案,从设备、网络、组织范围甚至云计算方面遥测威胁。除了了解如何有效使用AI以外,知道使用该威胁感知和威胁遥测信息来帮助建立模型也是你需要了解的事情。

而消极使用这一技术,就比如一位首席执行官似乎在声明要召回其产品,或者虚假提供公司的收益信息并以此来推动公司股价上涨。其实这是为各种金融犯罪开辟了道路,犯罪分子可以不必通过窃取信息来操纵市场,而是通过AI技术直接采用这些虚假信息。

Q:在网络安全的未来方面,相比其他的一些发展,你觉得AI技术的发展如何?

Grobman:针对消费者的一些说明性指南表示,如果你要注册任何账户,最重要的是拥有一个独一无二的密码。Zynga就是一个很好的例子,如果你使用的账户信息仅限于登陆Zynga,那就没什么十分有价值的信息可以从Zynga窃取;但如果有人使用与他们银行账户相同的账号和密码登录,那么入侵者就可以通过获取的这些信息访问有价值的东西。所以,如果用户正在访问休闲类型的网站,请使用密码管理器或使用唯一的密码来确保自己信息的安全,哪怕发生信息泄漏这样的事件,被盗信息也只是某一网站的注册信息。

因为它们各自都存在一些根本问题。如果你只是进行威胁情报处理,这意味着你将基于对世界上存在的威胁的了解来寻找威胁,而问题就在于新的威胁会随时出现。McAfee每分钟都会发现500种新的恶意软件。要想领先于所有新威胁一直都是个难题,如果仅基于威胁情报进行检测,则充其量只能检测到大约90%的威胁。

Grobman:我们在对抗性AI技术和防御方面做了大量的工作。我们正准备让犯罪分子使用能使AI模型失效的技术。我们正在做的一些研究是为了能最佳地了解这些对抗性技术的工作原理,然后我们还需致力于缓解措施,以使我们的模型更健壮,更不容易受到其中某些功能的影响。这是一个非常活跃的重点领域。

Grobman谈到了AI在网络安全方面的优缺点,他指出在发现最新攻击方面,人为参与仍然是不可或缺的,AI还无法独立完成。

Q:就你了解的而言,这样的活动目前开展情况如何?

Q:就你所知道的而言,当深度学习开始成为现实时,你们何时开始接触这一领域呢?

线上抢人大战悄然开始

Q:你是否觉得需要招聘大量与AI相关的人员才能实现这一目标呢?而不是只拥有传统的工程师。

Q:好像你已经准备好看到某种违规行为是使用了深度伪造一样,因为我们已经习惯了虚拟人的想法。

3月24日消息,为防止新冠肺炎病毒的传播,欧洲多国封锁边境。两国民众隔着铁丝网聚餐聊天。

Grobman:完全正确。区块链非常适合加密货币。那你觉得加密货币是好还是坏呢?实际上两者都有。他们这样做是为了使没有能力与传统金融机构和工具合作的个人(例如在第三世界国家/地区)能够与货币合作。另一方面,这也是使勒索软件能更加有效运行的催化剂。它为犯罪分子提供了一种手段,使他们的受害者可以用难以追踪的货币直接向他们付款。

在最后阶段,将取消所有与新冠疫情有关的边境管制,并再次允许整个欧盟间的自由流动。

人工智能几乎正在席卷每个行业,在提供更好的网络安全软件方面,人工智能的确帮了很大的忙。网络安全公司McAfee是该行业中的佼佼者,该公司正在将AI功能添加到自己的工具套件中,以保护用户免受日益发展的自动化攻击。

Q:我们经常提到攻击者和防御者之间的猫鼠游戏,你也参与了这场竞赛:能否说一下攻击者对这项技术的使用呢?

Grobman:主要是要规避AI的意图。就拿一个典型的网络安全用例来说,AI模型会分析一个以前从未见过的文件,以将其分类为恶意或良性。使用对抗性AI技术会将一些特定特征放入文件中,从而使模型混淆,即使模型是恶意的,也会将其错误地分类为良性。

Q:社交游戏巨头Zynga的Words With Friends数据库遭到黑客入侵,约2亿人的个人纪录遭到侵犯,而且还只是在最后一个季度。你怎么看待这个事情。

而在渠道方面则更加强调工作经验,要求自带“人脉”。如某大型基金公司对渠道销售的要求为具备资产管理、银行、保险、投资银行等领域工作经验,其中至少1年以上金融行业销售管理经验,拥有当地银行、券商渠道资源者优先,职位年薪为36w~60w。

“金三银四”,春节之后常是职位更替跳槽频繁的时间段,一场突如其来的疫情打断了很多人的求职轨迹。不过《每日经济新闻》记者注意到,不少招聘网站并没有受远程办公的影响,目前很多公募基金公司的非投研岗位招聘开始大面积启动,涉及监察稽核岗、信评岗、合规岗、风控经理、交易员、渠道、行业研究员等多个业务板块。那么现在哪类行业研究员最好跳槽?各类公募岗位待遇如何呢?

热门行业板块自然带动了相关研究员需求量的大增。《每日经济新闻》记者翻阅多家招聘平台发现,部分公司行业研究员岗位招聘重启,求职的行业研究员多要求有医药、电子等理工科专业背景加持,年薪20万起步。如某老牌公募基金行业研究员任职要求,重点高校金融、经济、计算机、医药生物等理工科专业全日制硕士或以上学历,3年或以上买方或卖方研究经验,年薪24w~36w。

某公募行业研究员岗位开出更高薪资待遇,要求金融、TMT(电子、计算机),通讯、医药等相关专业,能对行业和公司进行深入研究、趋势判断和前瞻研究,薪资为36w~60w。另一家公募基金行业研究员在职位介绍中写道,需独立覆盖和深度研究电子及部分计算机行业二级市场标的相关研究,年薪为30w~50w。

Grobman:我们发现,最好的效果是将AI与一些传统的威胁研究和威胁情报功能相结合。如果将威胁情报和AI相结合,则比单独做任意一个要好很多。

Q:最近该领域还有什么事情引起了你的注意吗?

Q:这与面部识别安全有关,对吗?

例如,在第一个示例中,我们可以使用AI的改进来更好地检测恶意行为和恶意内容。同时,我们也可以使用AI回答以前从未能够回答的问题,例如:攻击是否旨在针对特定组织?它是有针对性的攻击吗?在有人意识到这是一个组织之前,我们可以考虑使用AI来检测新组织的形成。现在,我们可以用AI来回答所有的这些问题。

deangroom.com

E-mail : mail@deangroom.com