如何缓解深度造假

 网喵   2021-11-24 22:09     0 条评论

网络犯罪分子已经存在了几十年,他们经常使用网络钓鱼和恶意软件。但另外两项技术促进了网络犯罪的剧增。

一个是匿名网络或暗网络的使用,比如洋葱网络。另一个是比特币形式的加密货币的引入。这两项创新——暗网和加密货币——允许网络犯罪分子安全地通信和交易,产生了连锁效应,提供了新的网络犯罪服务,同时降低了发起钓鱼和恶意软件攻击的门槛。今天,网络犯罪对企业构成了很大的网络威胁。

同时攻击大量目标、放大信息、甚至在必要时扭曲现实从来没有像现在这样容易。

社交媒体、机器人和深度伪造

创造在线角色和机器人的过程,以及向边缘论坛和小众讨论小组注入你希望目标看到的信息,都已经实现自动化和被完善了。一旦信息被播种,它成长和分支只是时间问题,会冲击主流社交网络和媒体,并得到放大。

更糟糕的是,正如惠特尼·菲利普斯(Whitney Phillips)在《放大效应的氧气》(The Oxygen of Amplification)一书中所讨论的那样,仅仅报道虚假声明和假新闻,意图证明它们是毫无根据的,就会放大原始信息,帮助它们传播给大众。现在我们的技术可以让我们相对容易地创建深度伪造信息,而不需要编写任何代码。

虽然有些人认为深度造假技术的使用是未来的威胁,但美国联邦调查局(FBI)今年3月警告企业,他们应该做好受到不同形式的合成内容打击的准备。

声音合成,即对一个人的声音进行采样和使用,是对依赖于声音识别的身份验证的一个严重警告,也可能是对人脸识别解决方案的一个早期警告。

随着深度伪造进入实时能力(一个很好的例子是针对荷兰议会的深度伪造攻击),以及用于欺诈和羞辱的假视频的持续扩散的思考,加上技术的容易获得,我们能做什么来解决这个问题?如果眼见为实,但我们不相信所见,我们该怎么办?

当大量的新闻和信息媒体争夺收视率时,事情就变得更加复杂了。因为他们的商业模式,他们有时可能会优先考虑做第一,而不是准确。

对深度造假应用零信任

如何减轻这种威胁?也许我们应该从零信任开始——永远不要信任,始终要验证,并假定存在违背。我在处理不同网络媒体上看到的视频时,一直在使用这些概念。

在网络安全领域,如果存在漏洞意味着必须假定攻击者已经在您的网络中。攻击者可能是通过一个已经修补过的漏洞进入的。也许是内部威胁——有意或无意。您需要假设在您的网络上存在隐蔽的恶意活动。

这如何适用于深度造假?我从“假设违背”开始。我的假设是,我认识的人已经接触过假视频或虚假信息活动。我还假设我最亲密的圈子被曝光了,这导致我从不相信,总是核实。我总是试图找到至少两个额外的来源来证实我所接触到的数据,特别是当涉及到支持我的想法的视频和文章时。

深度造假多少能够检测并警告我们的技术领先。威胁行为者几乎总是具有领导和主动性。在无法阻止威胁的情况下,从网络安全的惨痛教训中吸取经验来对付深度造假,可能有助于我们减轻这些威胁,并将其损害和暴露降至最低。假设违背,从不信任,总是验证!(文章来源:数据法盟。原文刊发于《学术前沿》杂志2021年9月合刊,本文有删节。)

本文地址:https://cn-mobi.com/?p=5014
版权声明:本文为原创文章,版权归 网喵 所有,欢迎分享本文,转载请保留出处!
NEXT:已经是最新一篇了

 发表评论


表情