Adobe已经构建了一个deepfake工具但它不知道如何处理它

Deepfakes已经对图像、音频和视频编辑领域产生了巨大影响，那么为什么内容领域的巨头Adob​​e没有更多地参与进来呢?嗯，简短的回答是——但要缓慢而谨慎。在今天的公司年度Max会议上，它推出了一个名为ProjectMorpheus的原型工具，展示了将deepfake技术集成到其产品中的潜力和问题。

ProjectMorpheus基本上是该公司去年在Photoshop中推出的NeuralFilters的视频版本。这些过滤器使用机器学习来调整对象的外观，调整他们的年龄、头发颜色和面部表情(例如，将惊讶的表情变成愤怒的表情)。Morpheus为视频内容带来了所有这些相同的调整，同时添加了一些新的过滤器，比如改变面部毛发和眼镜的能力。将其视为人类的角色创建屏幕。

结果绝对不是完美无缺的，并且与更广泛的深度伪造世界相比，范围非常有限。例如，您只能对面对相机的人的外观进行预先设定的小调整，而不能执行换脸等操作。但是质量会快速提高，虽然该功能目前只是一个原型，不能保证它会出现在Adob​​e软件中，但显然该公司正在认真调查。

不过，ProjectMorpheus也是一种深度伪造工具——这可能是一个问题。一个大的。因为deepfakes以及与之相关的所有内容——从未经同意的色情内容到政治宣传——对商业并不完全有利。

现在，考虑到我们现在对深度伪造的定义松散，Adobe可以说多年来一直在制造这样的工具。其中包括前面提到的神经过滤器，以及更多功能的工具，如AI辅助掩蔽和分割。但ProjectMorpheus显然比公司早期的努力要深得多。这完全是关于编辑人类的视频片段——以许多人可能会觉得不可思议或操纵的方式。

例如，在视频中改变某人的面部表情可能会被导演用来打击坏镜头，但它也可以用来进行政治宣传——例如，让被监禁的持不同政见者在法庭录像中表现得放松，而他们真的很放松被饿死。这就是政策专家所说的“双重用途技术”，这是一种时髦的说法，即该技术“有时可能很好，有时可能很糟糕”。

毫无疑问，这就是为什么Adob​​e在发送给TheVerge的任何简报材料中都没有使用“deepfake”一词来描述该技术的原因。当我们问到为什么会这样时，该公司没有直接回答，而是给出了一个很长的答案，说明它如何认真对待Deepfake带来的威胁以及它正在对它们采取什么措施。

Adobe在这些领域的努力似乎涉及和真诚(他们主要专注于内容身份验证方案)，但它们并没有减轻公司面临的商业问题：对其客户群最有用的相同deepfake工具是那些这也可能是最具破坏性的。

例如，将某人的脸粘贴到其他人的身体上的能力——可以说是开始所有这些麻烦的ur-deepfake应用程序。您可能出于正当理由想要换脸，例如授权布鲁斯·威利斯(BruceWillis)在俄罗斯制作一系列移动广告的肖像。但您也可能正在制作未经同意的色情内容来骚扰、恐吓或勒索某人(迄今为止该技术最常见的恶意应用)。

无论您的意图如何，如果您想创建这种深度伪造，您有很多选择，但没有一个来自Adob​​e。您可以聘请精品deepfake内容工作室，使用一些开源软件，或者，如果您不介意您的面部交换仅限于预先批准的模因和gif，您可以下载一个应用程序。你不能做的是启动Adob​​ePremiere或AfterEffects。那么未来这种情况会改变吗?

不能肯定地说，但我认为这绝对是一种可能性。毕竟，Adobe在“Photoshopped”成为一般数字编辑图像的简写之后幸存下来，并且通常带有负面含义。不管是好是坏，deepfakes正在慢慢失去它们自己的负面联想，因为它们被更多的主流项目采用。ProjectMorpheus是一个深度伪造工具，有一些严格的防护措施(例如，您只能进行规定的更改，而不能进行换脸)，但它表明Adob​​e决心探索这个领域，大概是在衡量行业和公众的反应的同时。

随着“deepfake”取代“Photoshopped”成为公共领域对造假行为的首选指控，Adobe可能感觉被排除在外。Morpheus计划表明它很可能很快就会赶上。