从虚假信息到深度造假 网络攻击者怎样操纵现实

所谓深度造假，即是在照片或影片中加上虚假的影像及声音，以此可以实现对信息的操纵。要创建质量足以用于深度造假的音视频，往往需要AI（人工智能）和ML（机器学习）技术。Cato Networks 安全战略高级总监 Etay Maor认为，现今AI 生成的文本（例如 GPT3）已经与深度伪造结合使用，以创建更具互动性、看起来像人类的对话机器人。

换脸是将视频或图像中的某个人脸替换为另一个人的行为。换脸需要专门的软件，但不一定要基于先进的技术，一般人甚至可以找到支持换脸的移动应用程序。移动应用程序中可用的面部交换通常仅限于简单的用例，例如在某电影场景中将用户的照片和演员的面部进行交换。

据悉，在这个例子中，需要在 GPU 上进行两个小时的训练以及几天的专业视频编辑后期处理。这还不是最复杂的，因为这名主播的声音和发型与汤姆·姆克鲁斯相似，从而适当减少了机器训练和后期处理的工作量。

这一类深度伪造类型基于音频。Audio deep fakes 是一种音频文件，它采用真人的声音并使其听起来像是在说他们从未说过的话。音频深度伪造是通过获取音频文件、为声音分配注释、根据注释训练 ML 模型以将声音与文本相关联，进而生成一个新的音频文件。

初级检测方法依赖于 ML 模型，这些模型经过训练可以识别通过深度伪造生成的伪影或像素化。人眼可能无法察觉这些伪影，但在真实图像和深度伪造图像上训练的模型能够对其进行检测。在深度伪造图像中，由于伪影的存在，可以看到一些不规则的边缘，这些边缘会影响图像的质量。

（编辑：银川站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!