在去年夏天的黑帽网络安全会议上，美国的网络安全专家DARPA网络挑战赛让自动化系统相互竞争，试图找出其他系统代码中的弱点并利用它们。
“这是一个很好的例子，说明机器可以多么容易地发现和利用新的漏洞，随着时间的推移，我们可能会看到这种情况的增加，并变得更加复杂，”大卫吉布森(David Gibson)说，他是微软战略和市场发展副总裁Varonis系统。
他说，他的公司还没有看到任何黑客利用人工智能技术或机器学习的例子，但没有人比罪恶和黑客行业更快地采用新技术。
他说:“因此，可以肯定地说，黑客已经在利用人工智能达到他们的邪恶目的。”
妖怪从瓶子里出来了。
“对于白帽和黑帽来说，获取和学习机器学习工具从来没有像现在这样容易，”惠普首席网络安全技术专家唐·麦克林(Don Maclean)说DLT的解决方案。“软件很容易获得，成本很低，甚至不需要，机器学习教程也很容易获得。”
以图像识别为例。
它曾经被认为是人工智能研究的一个关键焦点。如今，像光学字符识别这样的工具是如此广泛的使用和普及，以至于它们甚至不再被认为是人工智能，微软的产品副总裁Shuman Ghosemajumder说形状的安全。
他说:“人们不再认为他们拥有和以前一样的魔力。”“人工智能永远是未来的东西，而不是我们现在拥有的东西。”
例如，今天的计算机视觉已经足够好，可以让自动驾驶汽车在繁忙的街道上行驶。
他补充说，图像识别技术也足够好，可以解决经常出现在网站用户面前的证明他们是人类的谜题。
例如，去年春天，谷歌验证码团队的产品经理Vinay Shet告诉谷歌I/O会议的与会者，在2014年，他们有一个扭曲的文本验证码，只有33%的人可以解决。相比之下，当时最先进的OCR系统已经能以99.8%的准确率解决这个问题。
Ghosemajumder说，犯罪分子已经在使用图像识别技术，结合“验证码农场”绕过这一安全措施。他补充称，广受欢迎的Sentry MBA证书填塞工具就内置了这种机制。
他说，到目前为止，他还没有看到任何基于机器学习的、旨在绕过其他安全机制的公开工具包。
但他补充说，有间接迹象表明，犯罪分子开始使用这种技术。
例如,大公司已经知道,如果有一个惊人的数量的流量从一个IP地址,这很有可能是恶意的,所以罪犯使用僵尸网络来绕过这些过滤器,和后卫寻找更微妙的迹象表明交通自动化,而不是人类,他说。
他说，他们不能仅仅加入更多的随机性，因为人类行为实际上并不是随机的。从大量数据中发现细微的模式正是机器学习的强项，也是犯罪分子为了有效模仿人类行为所需要做的。
智能电子邮件诈骗
根据McAfee Labs 2017威胁预测报告在美国，网络犯罪分子已经在使用机器学习来锁定商业电子邮件入侵的受害者，自2015年初以来，这种情况不断升级。
Steve Grobman，英特尔安全技术总监英特尔
“人工智能能做的就是让他们自动定制针对受害者的内容，”英特尔首席安全技术官史蒂夫·格罗伯曼(Steve Grobman)说英特尔该报告是由该公司撰写的。“坏角色能够使用AI的另一个关键领域是分类问题。人工智能非常擅长将事物分类。”
例如，黑客可以自动寻找最有可能的受害者。
这项技术还可以用来帮助攻击者隐藏在公司网络内，并找到易受攻击的资产。
然而，识别使用人工智能或机器学习的具体情况可能比较棘手。
他说:“罪犯们对他们的作案方法并不怎么坦率。”他也不知道有什么确凿的证据，比如运行机器学习模型的电脑被执法部门没收。
“但我们已经看到了一些迹象，表明这类工作正在进行，”他说。“有明显迹象表明，坏人正开始朝这个方向行动。”
运动鞋恶意软件和假域名
安全提供商越来越多地使用机器学习来区分好的软件和坏的域名。
现在，有迹象表明，坏人正在使用机器学习自己，以找出防御系统正在寻找的模式，埃文赖特(Evan Wright)说Anomali。
他说:“他们将通过杀毒软件测试大量的好软件和坏软件，看看杀毒引擎发现了哪些模式。”
类似地，安全系统在域生成算法中寻找模式，以便更好地识别恶意域。
“他们试图模拟好人在做什么，并让他们的机器学习模型产生那些规则的例外，”他说。
同样，没有什么确凿的证据表明这种情况正在发生。
他说:“我们已经看到了领域生成算法的有意设计，使得它更难被检测。”但他们本可以用几种不同的方式来实现这一点。这可能是经验之谈。他们尝试了几种不同的方法，这个成功了。”
他说，他们也可能有特别敏锐的直觉，或者雇佣了以前在安全公司工作过的人。
攻击来自机器，而不是聪明(或腐败)的人类的一个指标是攻击的规模。举个例子，一个常见的骗局就是创建虚假的约会账户来引诱受害者去卖淫服务。
聪明的部分不是机器人与受害者的自动对话，而是首先创建档案的方式。
at的首席执行官和联合创始人Omri Iluz说:“它需要动态地创建一个个人资料，加上一张来自Facebook的非常吸引人的照片，以及一个吸引人的职业，比如空乘或学校老师。PerimeterX。
他说，每个档案都是独一无二的，但都很有吸引力。
“我们知道这不只是自动化，因为真的很难，”他说。“我们仅凭数量就排除了人工流程。我们也不认为他们会推出数以百万计的个人资料和做自然选择，因为它会被约会平台识别。这些都是非常智能的软件。”
黄牛党也会做类似的事情，他们会自动购买门票再出售以获取利润。
“他们需要挑选那些他们知道能在二级市场上卖个好价钱的东西，”他说。因为没有时间，他们不能手动操作。这不可能是一个数字游戏，因为他们不可能买所有的存货，那样他们就会赔钱。这背后有智慧。”
他说，这些活动带来的利润超过了研发费用。
他说:“当我们看一看这些欺诈者创造的收入时，它比许多真正的公司都要大。”“他们不需要杀人，也不需要做一些像贩毒这样的冒险事情。”
为图灵测试做准备
在有限的、特定的应用中，计算机已经通过了图灵测试(Turing Test)。图灵测试是一个经典的思维实验，在这个实验中，人类试图判断自己是在与另一个人交谈，还是在与一台机器交谈。
英特尔的Grobman说，应对这类攻击的最佳防御是关注基本面。
他说:“大多数公司仍在努力应对甚至是中等程度的攻击。”“现在，公司能做的最重要的事情是确保他们有一个强大的技术基础设施，并继续练习模拟和红队攻击。”
这个故事，“人工智能不再是好人的专利”最初是由方案 。