虽然看起来生成人工智能AI的唯一用例在今天,仅仅几年前,deepfakes穿着地幔的关注和炒作AI的宇宙。今天大幅跌落,但我们可能会看到复苏的兴趣基于攻击使用deepfakes诈骗、骗取企业很快,因为现在货币化的道路是明确的。我们已经预测deepfakes对企业的影响2020年。我们也写中使用的策略如何影响操作将成为对企业武器化。

有害的用例deepfakes针对企业包括:

  • 欺诈行为。Deepfake技术克隆的面孔和声音,两种常见的方法来进行身份验证和授权的活动。使用deepfake技术克隆和模拟个体将导致欺诈迫害个人金融交易,但它也将发生在企业(冒充高级执行官授权电汇罪犯,例如)。今天这个场景中已经存在,很快就会增加频率。
  • 股价操纵。股票价格波动基于有新闻价值的事件。例如,当德高望重的高管离开一家上市公司,股票价格将减少由于新领导人焦虑。首席执行官宣布离职的deepfake CFO可能导致股票遭受短暂的价格下降。虽然这看起来小,如果时机正确,这可能会影响员工薪酬和公司的融资工作。
  • 声誉和品牌。想象一个multiminute-long长篇大论从一个知名经理人使用攻击性语言,侮辱客户,指责合作伙伴和产品或服务的信息。这个场景是你的董事会和公关团队害怕,它太容易人为创造今天的场景。的时候贵公司对这个假设的事件,损害已经完成。如果视频病毒,就不可能完全删除。这类错误对你的品牌将会持续数年,重修的偶尔,迫使你的公司反复回应。
  • 员工的经验和人力资源。的历史和起源deepfakes总是会被使用在创建国际色情,因为1)这就是使其突出和2)仍然存在。把一个场景,一位员工创建这种deepfake内容使用另一个员工的形象和它开始流传。这看起来可能假设,但联邦调查局公布的细节性勒索诈骗使用类似策略针对个人。这是琐碎的,恶意的破坏,将损害员工的心理健康,转变他们的职业生涯,并几乎肯定会导致昂贵的诉讼,当然,也可能目标高管、董事会成员和其他突出的发言人。
  • 放大。大多数时候当我们认为deepfakes,我们认为简单地创建虚假内容,理应如此。但是你可以使用其他deepfake deepfakes传播内容。认为这个机器人传播内容…而是让这些机器人用户名和邮政历史,我们给他们的脸和情绪。现在想象一下,使用这些deepfakes创建反应一个原始deepfake用来伤害你的品牌来增加它的可能性被更广泛的受众。

真理和可信度

反驳这些类型的攻击似乎是简单的和逻辑。逻辑的观点忽视了,这不是事实与虚构之间的纠纷,而是真理和可信度。这是如何工作的:

  1. 东西不需要真正的如果是可信的。
  2. 介绍了“虚幻的真实效应”:人们相信他们反复听到的事情是真的。
  3. 添加社交媒体风格病毒营销。
  4. 结合所有这些,它解释了为什么这些攻击将会影响你的组织——和徘徊,比你想象的更久。

必须提到的错误信息和虚假信息

我没有提到这些(还),因为还记得我说过:这个博客的关注焦点企业的问题关于deepfakes。是的,这些事件将被归类为错误信息和虚假信息。广泛影响操作旨在传播错误信息和虚假信息需要得到政府的解决方案。虽然我认为CISOs是英雄,我不认为我们可以问平均网络安全对社会领导人来解决这个问题。我也离开当前人工智能等消费诈骗,诈骗电话联邦贸易委员会警告因为这些目标的个体,而不是企业。

作为一个例子:中国的互联网监管机构最近宣布,41算法和科技巨头授权为“深度综合服务提供商”需要遵守它互联网信息服务管理规定深度合成,每南华早报。此外,在加州和德州的法律封面deepfakes用于影响选举,但不是商业组织。

发现、调查、预防和应对Deepfakes

对于大多数安全领导人来说,这不是一个高优先级。我最近的报价布隆伯格说CISOs不花钱现在解决这个问题——强调现在。但此刻,这些用例影响一个组织材料的方式…预算美元将出现。这就是这个博客给你在deepfake对策。您可能还注意到我并没有说deepfakes“预防”。那是不可能的,所以继续,把预防放在一边。

学术研究

Deepfake检测目前有大量的学术和企业研究致力于它。对于一个优秀的策划列表,请查看很棒的Deepfakes检测在GitHub上。

企业研究

英特尔最近发布的FakeCatcher在几秒钟内,它可以检测deepfakes准确率达到了96%。科技巨头也发布相关研究deepfake检测。这些不是解决方案我依赖,和他们有同样的缺点是企业研究:不支持模型存在,这是一个现代企业的要求。

商业和开源的解决方案

也可用于检测deepfakes商业解决方案。这些解决方案跨越多个类别。一些关注品牌和声誉,而其他优先预防欺诈。也有一些开源的工具。

公司 网站
Sensity https://sensity.ai/
Deepware https://Deepware.ai/
YPB系统 https://ypbsystems.com/en/
Blackbird.AI https://blackbird.ai
Attestiv https://attestiv.com/
现实的后卫 https://realitydefender.com/
哨兵 https://thesentinel.ai/
DeepTrace技术 https://www.deeptracetech.com/

使用区块链作为真理的“源”继续作为一个可能的途径,尽管它尚未实现数字内容的答案。

非技术性的解决方案

一些非技术性的解决方案还存在,企业可以集成到现有的流程。这些包括使用码字或密码定期轮换的任何电话,或基于文本的账户转账请求。

历史也很重要时,防御从deepfakes声誉损失。如果你的公司运作符合7杠杆的信任Forrester的信任必须,明显不太可能,任何deepfakes试图破坏你的品牌和声誉将举行,然而,如果公司有运营的历史没有同情心和透明度,它变得更容易让人相信毫无根据的断言对你的品牌。我们很快就会有更多的关于这一主题的研究出来!

Forrester的客户寻找更深层次的潜水能安排时间与我通过这个主题调查或指导会话。