简而言之 Deepfake
Deepfakes 以深度学习技术命名,这是一种使用人工神经网络的特定类型的机器学习方法。深度学习是“机器视觉”工作方式的重要组成部分。这是人工智能领域,例如,它允许计算机系统识别物体。机器视觉技术使从自动驾驶汽车到Snapchat 过滤器的一切成为可能。
deepfake 是指您使用这项技术在视频中将一个人的脸换成另一个人的脸。Deepfake 技术现在也可以应用于声音,因此视频中演员的面部和声音都可以更改为其他人。
Deepfake 过去很容易被发现
在早期,发现 deepfake 是微不足道的。与名人蜡像相似,任何人看着它都会觉得它有些不对劲。随着时间的推移,机器学习算法一点一点地改进。如今,高质量的深度伪造已经足够普通观众无法分辨,尤其是当视频在某种程度上被社交媒体视频共享的低保真度所掩盖时。即使是专家也很难通过肉眼分辨出最好的 deepfake 和真实镜头。这意味着必须开发新的工具来检测它们。
使用 AI 发现 Deepfake
在一个以火攻毒的真实例子中,研究人员提出了自己的人工智能软件,可以检测深度伪造视频,即使人类无法检测到。麻省理工学院的聪明人创建了Detect Fakes项目来演示如何检测这些视频。
因此,尽管您可能无法再用肉眼捕捉这些 deepfake 视频,但我们可以放心,因为有软件工具可以完成这项工作。已经有一些应用程序声称可以检测 deepfakes 以供下载。Deepware 就是一个例子,随着对更多 deepfake 检测需求的增加,我们相信还会有更多。
那么,问题解决了吗?不完全的!制造深度伪造的技术现在正在与检测它的技术竞争。可能会有一个点,深度伪造变得如此之好,以至于即使是最好的人工智能检测算法也不会很确定视频是否是伪造的。我们还没有到那一步,但对于普通人来说只是浏览网页,也许我们不需要在深度伪造发展的那一刻成为一个问题。
如何处理 Deepfake 的世界
因此,如果您无法可靠地判断您看到的视频是否真实,例如某县的总统,您如何确保自己不会上当?
事实是,将单一信息来源用作唯一来源从来都不是一个好主意。如果是关于重要的事情,您应该检查多个报告相同信息的独立来源,而不是来自潜在的虚假材料。
即使没有 deepfake 的存在,互联网上的用户停止并验证与政府政策、健康或世界事件等主题领域相关的重要类型的信息已经至关重要。显然不可能证实所有事情,但是当涉及到重要的事情时,值得付出努力。
除非您几乎 100% 确定它是真实的,否则不要传递视频尤其重要。Deepfake 只是一个问题,因为它们是不加批判地共享的。你可以成为打破病毒链一部分的人。毕竟,不发送可能是伪造的视频比分享它更容易。
此外,您不需要深度伪造检测 AI 的能力来怀疑视频。视频越离谱,就越有可能是假的。如果你看到 NASA 科学家的视频说登月是伪造的,或者他的老板是蜥蜴,它应该立即发出危险信号。
没有人相信?
完全偏执地认为您在视频中看到或听到的所有内容都可能是假的,并且旨在以某种方式愚弄或操纵您,这是一个可怕的想法。这也可能不是一种健康的生活方式!我们并不是建议您需要让自己处于这种心态,而是您应该重新考虑视频或音频证据的可信度。Deepfake 技术确实意味着我们需要新的方法来验证媒体。例如,有人正在研究为视频添加水印的新方法,这样任何改动都不会被隐藏。然而,当您作为互联网的普通普通用户时,您能做的最好的事情就是在怀疑方面犯错。假设视频可能已被完全更改,直到得到主要来源的证实,例如直接采访过该主题的记者。
也许最重要的是,您应该简单地了解 deepfake 技术今天或不久的将来有多好。哪一个,你现在已经到了本文的结尾,你肯定是。