面临美国即将到来的2020总统大选，以及其他选举中可能影响选民判断的各种新闻事件，Facebook表示将投入超过美金1,000万的资源，并与微软和多个着重AI研究的学校，包括麻省理工学院、牛津大学、伯克利大学等，合作开发“Deepfake检测挑战（Deepfake Detection Challenge）”计划，共同反制以Deepfake制作的假新闻流窜而影响民意。
“Deepfake检测挑战”将开发一套开源工具，提供企业、政府、媒体等组织用以检测某视频是否已被篡改，为了让这套开源工具能有效打击假视频，除了开发资源之外，Facebook还聘用演员创作视频，让研究人员能使用这些视频来测试“Deepfake检测挑战”的打假成效如何。
“Deepfake”是一套开源的深度学习图像生成模型，其在GitHub上的自述为“一种利用深度学习技术识别并交换图片、视频里人物脸部图像的工具”，“Deepfake”除了被用来生成假视频图片混淆视听之外，近日有黑客利用此工具开发出AI假语音进行诈骗。
由于“Deepfake”对于网络上消息的真伪已造成严重影响，Facebook表示，能否判断网络消息的合法性变得至关重要，但因为目前业内并无很好的数据库或工具去侦测视频或图片的真伪，所以促使我们在此领域投入资源进行研究，创建一套可辨别“Deepfake”的开源工具供各界使用。
由于Facebook日前拒绝删除美国众议院议长南希·裴洛西（Nancy Pelosi）的假视频，于是有网友利用“Deepfake”制作出一段，看起来由Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）针对大数据议题发布演讲，但事实上是经过移花接木的假视频，来突显社群网络消息容易受科技技术篡改操控的严重性，来挑战Facebook对假视频的态度。
出处：engadget、Facebook AI