科学家想用老鼠打假 Deepfake,但这事没那么容易


我喜欢2天前分享它

自Deepfake技术引入以来,它一直在朝着无法控制的方向发展。

从一开始,它被用于小电影改变女明星的面貌,美国总统特朗普和Facebook首席执行官扎克伯格等公众人物成为DeepFake技术的受害者,然后去“一键脱衣”应用程序“DeepNude” 。 DeepFake技术的负面影响正变得越来越明显。

更令人担忧的是,Deepfake技术仍在不断发展。斯坦福等几所大学之前的一项研究甚至可以篡改视频。只需输入任何文字,让视频中的发言人说出相应的字样,例如电视股票主持人的“苹果股价收于191.45美元。该数字改为”$ 182.25“。

虽然这两个词的发音和形状完全不同,但几乎没有任何修改痕迹。研究人员发现,59.6%的受试者认为修改后的视频是真实的,并且该技术成功地欺骗了大多数人的眼睛。

Deepfake技术使在线世界更难以区分。与此同时,许多科学家和组织已经开始开发和识别Deepfake技术,并开始了猫捉老鼠的游戏。

根据《华尔街日报》,本周在拉斯维加斯举行的黑帽网络安全大会上,来自俄勒冈大学的研究人员表示,小鼠等小动物可能有助于识别未来的假视频和音频。

▲图片来自:科学家。

研究人员发现,老鼠在识别自然语音元素方面非常有天赋,并且可以听到声音的不规则性,例如训练以区分不同的音素,如P,B,T,以及不同元音之间的差异。复杂的声音和检测音频的真实性。

反射训练老鼠,让老鼠在听到真实和合成视频时跑到不同的位置。如果认可是正确的,他们将得到奖励。在测试过程中,鼠标识别假音频的准确率达到75%。

虽然当研究人员添加一些新的变量(如声音和元音)时,鼠标识别的准确性会下降,但他们能够在经过一段时间的训练后区分新的语音模式。

俄勒冈大学的研究生Jonathan Saunders认为,该技术可以进一步优化,形成Deepfake检测算法的通用版本,但这需要更深入地了解大脑如何分析和处理声音。

尽管老鼠在听力研究领域具有巨大潜力,但这并不意味着社交平台和视频网站将来能够通过培养大量鼠标来识别Deepfake假视频。研究人员希望通过弄清楚鼠标如何识别假音频来更好地训练机器对抗Deepfake。

此外,许多研究团队目前使用生成对抗网络(GAN)来识别针对AI的Deepfake和AI。

不久前,加州大学伯克利分校和南加州大学的研究小组开发了一种人工智能认证系统,该系统首先通过生成对抗网络提取特朗普,希拉里和奥巴马的面部和头部运动特征。视频。

然后使用机器学习来分析真假视频之间的差异,并获得每个人的“软生物识别签名”以识别微妙的动作特征。该检测工具可以95%的准确度识别Deepfake视频。研究人员希望在未来六个月内增加到99%。

去年,美国国防部的研究机构DAPRA也开发了一种专门用于伪造Deepfake的AI工具。它捕捉AI产生的脸部缺陷,缺乏眨眼功能。通过检测眼睛的状态,视频的准确度高达99%。

▲在原始视频(上图)中,在6秒内检测到闪烁动作。 Deepfake生成的虚假视频(如下)不闪烁。图片来自:UAlbany.edu

不幸的是,这个工具无法大规模应用,研究人员正在尝试开发一种可扩展的平台工具,可以识别网络上的大量视频。

然而,这种使用AI来对抗AI的方法也存在问题,因为生成对抗网络的原则是让两组神经网络在相互游戏中学习。随着认证技术的提高,假视频的质量将进一步提高。这个人总是处于不断的对抗中,没有人可以完全击败任何人。

▲图片来自:诱惑

同时,与Deepfake技术的研究和开发相比,识别技术的科研力量似乎有点弱。根据DeepTrace平台,2018年全球共有902篇关于GAN生成的图像和视频的论文,只有25篇关于如何识别合成图像和视频的论文。

加州大学伯克利分校的计算机科学家Hany Farid也指出,目前研究合成视频和认证的人数是100:1。 Farid认为,依靠现有的身份验证技术很难阻止Deepfake视频在社交平台上传播:

解决方案不能仅仅依靠技术,媒体报道以及更好的数字公民身份,公司和政策。

图片来自:BBC

收集报告投诉

自Deepfake技术引入以来,它一直在朝着无法控制的方向发展。

从一开始,它被用于小电影改变女明星的面貌,美国总统特朗普和Facebook首席执行官扎克伯格等公众人物成为DeepFake技术的受害者,然后去“一键脱衣”应用程序“DeepNude” 。 DeepFake技术的负面影响正变得越来越明显。

更令人担忧的是,Deepfake技术仍在不断发展。斯坦福等几所大学之前的一项研究甚至可以篡改视频。只需输入任何文字,让视频中的发言人说出相应的字样,例如电视股票主持人的“苹果股价收于191.45美元。该数字改为”$ 182.25“。

虽然这两个词的发音和形状完全不同,但几乎没有任何修改痕迹。研究人员发现,59.6%的受试者认为修改后的视频是真实的,并且该技术成功地欺骗了大多数人的眼睛。

Deepfake技术使在线世界更难以区分。与此同时,许多科学家和组织已经开始开发和识别Deepfake技术,并开始了猫捉老鼠的游戏。

根据《华尔街日报》,本周在拉斯维加斯举行的黑帽网络安全大会上,来自俄勒冈大学的研究人员表示,小鼠等小动物可能有助于识别未来的假视频和音频。

▲图片来自:科学家。

研究人员发现,老鼠在识别自然语音元素方面非常有天赋,并且可以听到声音的不规则性,例如训练以区分不同的音素,如P,B,T,以及不同元音之间的差异。复杂的声音和检测音频的真实性。

反射训练老鼠,让老鼠在听到真实和合成视频时跑到不同的位置。如果认可是正确的,他们将得到奖励。在测试过程中,鼠标识别假音频的准确率达到75%。

虽然当研究人员添加一些新的变量(如声音和元音)时,鼠标识别的准确性会下降,但他们能够在经过一段时间的训练后区分新的语音模式。

俄勒冈大学的研究生Jonathan Saunders认为,该技术可以进一步优化,形成Deepfake检测算法的通用版本,但这需要更深入地了解大脑如何分析和处理声音。

尽管老鼠在听力研究领域具有巨大潜力,但这并不意味着社交平台和视频网站将来能够通过培养大量鼠标来识别Deepfake假视频。研究人员希望通过弄清楚鼠标如何识别假音频来更好地训练机器对抗Deepfake。

此外,许多研究团队目前使用生成对抗网络(GAN)来识别针对AI的Deepfake和AI。

不久前,加州大学伯克利分校和南加州大学的研究小组开发了一种人工智能认证系统,该系统首先通过生成对抗网络提取特朗普,希拉里和奥巴马的面部和头部运动特征。视频。

然后使用机器学习来分析真假视频之间的差异,并获得每个人的“软生物识别签名”以识别微妙的动作特征。该检测工具可以95%的准确度识别Deepfake视频。研究人员希望在未来六个月内增加到99%。

去年,美国国防部的研究机构DAPRA也开发了一种专门用于伪造Deepfake的AI工具。它捕捉AI产生的脸部缺陷,缺乏眨眼功能。通过检测眼睛的状态,视频的准确度高达99%。

▲在原始视频(上图)中,在6秒内检测到闪烁动作。 Deepfake生成的虚假视频(如下)不闪烁。图片来自:UAlbany.edu

不幸的是,这个工具无法大规模应用,研究人员正在尝试开发一种可扩展的平台工具,可以识别网络上的大量视频。

然而,这种使用AI来对抗AI的方法也存在问题,因为生成对抗网络的原则是让两组神经网络在相互游戏中学习。随着认证技术的提高,假视频的质量将进一步提高。这个人总是处于不断的对抗中,没有人可以完全击败任何人。

▲图片来自:诱惑

同时,与Deepfake技术的研究和开发相比,识别技术的科研力量似乎有点弱。根据DeepTrace平台,2018年全球共有902篇关于GAN生成的图像和视频的论文,只有25篇关于如何识别合成图像和视频的论文。

加州大学伯克利分校的计算机科学家Hany Farid也指出,目前研究合成视频和认证的人数是100:1。 Farid认为,依靠现有技术进行身份验证技术很难阻止Deepfake视频在社交平台上传播:

解决方案不能仅仅依靠技术,媒体报道以及更好的数字公民身份,公司和政策。

图片来自:BBC