沃卡惠虽然俄罗斯的虚假信息似乎影响有限，但这个令人震惊的例子说明了深度造假的潜在后果。
然而，深度伪造已成功用于辅助技术。例如，患有帕金森病的人可以使用语音克隆进行交流。
深度伪造用于教育：总部位于爱尔兰的语音合成公司CereProc为约翰·F·肯尼迪创造了一种合成语音，让他起死回生，发表他的历史演讲。
然而，每一枚硬币都有两个面。深度伪造可以是超逼真的，并且基本上无法被人眼察觉。
因此，相同的语音克隆技术可用于网络钓鱼、诽谤和勒索。当故意使用深度伪造来重塑舆论、煽动社会冲突和操纵选举时，它们有可能破坏民主。
华盛顿大学的研究人员制作了一个深度伪造的奥巴马。
造成混乱
深度伪造基于一种称为生成对抗网络的技术，其中两种算法相互训练以生成图像。
虽然深度造假背后的技术听起来很复杂，但制作一个却是一件简单的事情。有许多在线应用程序，例如Faceswap和ZAO Deepswap，可以在几分钟内产生深度伪造。
Google Colaboratory:一个以多种编程语言提供代码的在线存储库-包括可用于生成假图像和视频的代码示例。使用这种易于访问的软件，很容易看出普通用户如何在没有意识到潜在安全风险的情况下对深度伪造深度伪造造成严重破坏。
换脸应用程序和Deep Nostalgia等在线服务的流行表明，普通大众可以迅速广泛地采用深度伪造深度伪造。2019年，检测到大约15000个使用深度伪造的视频。而且这个数字预计还会增加。
深度伪造是虚假宣传活动的完美工具，因为它们会产生可信的假新闻，需要时间来揭穿。与此同时，深度造假所造成的损害——尤其是那些影响人们声誉的——往往是持久且不可逆转的。
对于想要以最少的努力创建令人信服的深度伪造的人来说，DeepSwap深度伪造是一个不错的选择。—科技杂志深度伪造(@TechMGZN)深度伪造2022年5月4日
眼见为实?
深度造假最危险的后果可能是它们如何让自己在政治运动中传播虚假信息。
当唐纳德特朗普将任何令人不快的媒体报道称为“假新闻”时，我们就看到了这一点。通过指责他的批评者传播假新闻，特朗普能够利用错误信息来捍卫他的不法行为并作为宣传工具。
特朗普的策略使他能够在充满不信任和虚假信息的环境中保持支持，声称“真实事件和故事是假新闻或深度伪造”。
当局和媒体的公信力正在被削弱，造成不信任的气氛。随着深度伪造的不断增加，政客们可以轻松地否认任何新出现的丑闻的罪责。如果有人否认，如何确认视频中某人的身份?
然而，打击虚假信息一直是民主国家面临的挑战，因为它们试图维护言论自由。通过让人们验证信息，人与人工智能的伙伴关系可以帮助应对日益上升的深度伪造风险。还可以考虑引入新的立法或适用现有法律，以惩罚伪造信息和冒充他人的深度造假者。
国际和国家政府、私营公司和其他组织的多学科方法对于保护民主社会免受虚假信息的侵害都至关重要。
文章由麦吉尔大学信息研究系研究助理Sze-Fung Lee和麦吉尔大学网络安全数据挖掘教授兼加拿大研究主席Benjamin CM Fung撰写
