在数字时代，深度伪造已成为对在线内容真实性的重大威胁。这些复杂的 AI生成的视频可以令人信服地模仿真人，这使得区分事实和虚构变得越来越困难。然而，随着深度伪造背后的技术的进步，旨在检测它们的工具和技术也在进步。在这篇博客中，我们将探讨当今可用的五大深度伪造检测工具和技术。
（图片：哨兵）
哨兵是领先的 AI基于保护平台，可帮助民主政府、国防机构和企业阻止深度伪造的威胁。Sentinel 的技术被欧洲领先的组织使用。该系统的工作原理是允许用户通过他们的网站或API上传数字媒体，然后自动分析这些媒体 AI-伪造。系统确定媒体是否是深度伪造，并提供操作的可视化。
Sentinel 的深度伪造检测技术旨在保护数字媒体的完整性。它使用高级 AI 用于分析上传媒体并确定其是否纵的算法。该系统提供其调查结果的详细报告，包括已更改的媒体区域的可视化。这允许用户准确查看媒体纵的位置和方式。
哨兵的主要特点：
- AI基于深度伪造检测
- 被欧洲领先组织使用
- 允许用户上传数字媒体进行分析
- 提供操作的可视化
英特尔推出了一种名为FakeCatcher的实时deepfake检测器。该技术可以以96%的准确率检测假视频，并在几毫秒内返回结果。该探测器是与纽约州立大学宾厄姆顿分校的Umur Ciftci合作设计的，使用英特尔硬件和软件，在服务器上运行并通过基于Web的平台进行连接。
FakeCatcher在真实视频中寻找真实的线索，评估是什么让我们成为人类——视频像素中微妙的“血液流动”。当我们的心脏泵血时，我们的静脉会改变颜色。这些血流信号是从面部各处收集的，算法将这些信号转换为时空图。然后，使用深度学习，它可以立即检测视频是真的还是假的。
英特尔实时深度伪造检测器的主要功能：
- 与纽约州立大学宾厄姆顿分校合作开发
- 可以检测虚假视频，准确率高达96%
- 以毫秒为单位返回结果
- 在视频像素中使用微妙的“血流”来检测深度伪造
（图片：WeVerify）
WeVerify 是一个旨在开发智能人机内容验证和虚假信息分析方法和工具的项目。该项目的重点是在更广泛的在线生态系统中分析和情境化社交媒体和网络内容，以揭露捏造的内容。这是通过跨模式内容验证、社交网络分析、微目标揭穿和基于区块链的已知假货公共数据库来实现的。
WeVerify的主要功能：
- 开发智能人机在环内容验证和虚假信息分析方法和工具
- 分析和情境化社交媒体和网络内容
- 通过跨模式内容验证、社交网络分析和微观针对性揭穿，揭露虚构内容
- 使用基于区块链的已知假货公共数据库
（图片：Microsoft）
Microsoft的视频身份验证器工具是一个功能强大的工具，可以分析静态照片或视频，以提供指示媒体是否纵的置信度分数。它可以检测人眼无法检测到的深度伪造和微妙灰度元素的混合边界。它还实时提供此置信度分数，允许立即检测深度伪造。
视频身份验证器工具使用高级 AI 分析媒体和检测操纵迹象的算法。它寻找媒体灰度元素的微妙变化，这通常是深度伪造的明显迹象。该工具提供实时置信度分数，允许用户快速确定媒体是否真实。
Microsoft视频身份验证器工具的主要功能：
- 分析静态照片或视频
- 提供实时置信度分数
- 检测细微的灰度变化
- 允许即时深度伪造的检测
这项创新技术由斯坦福大学和加利福尼亚大学的研究人员开发，利用了表示口型动态的视素有时与口语音素不同或不一致的事实。这种不一致是深度伪造中的一个常见缺陷，因为 AI 经常难以使嘴巴的运动与口语完美匹配。
音素-Viseme 不匹配技术使用高级 AI 分析视频并检测这些不一致的算法。它将嘴巴（视素）的运动与口语（音素）进行比较，并寻找任何不匹配。如果检测到不匹配，则强烈表明该视频是深度伪造的。
使用音素-视觉不匹配进行深度伪造检测的主要功能：
- 由斯坦福大学和加州大学的研究人员开发
- 利用深度伪造中视素和音素之间的不一致
- 使用高级 AI 检测不匹配的算法
- 如果检测到不匹配，则提供深度伪造的强烈指示
深度伪造检测的未来
当我们在21世纪的数字环境中导航时，深度伪造的幽灵迫在眉睫。这些 AI生成的视频可以令人信服地模仿真人，对在线内容的真实性构成重大威胁。它们有可能破坏从个人关系到政治选举的一切，使得对有效的深度伪造检测工具和技术的需求比以往任何时候都更加重要。
我们在本博客中探索的五种深度伪造检测工具和技术代表了该领域的前沿。他们利用先进的 AI 以令人印象深刻的准确性分析和检测深度伪造的算法。每种工具和技术都提供了一种独特的深度伪造检测方法，从分析视频中微妙的灰度元素到跟踪对象的面部表情和动作。
例如，哨兵使用 AI 分析数字媒体并确定它是否已纵，提供操纵的可视化。另一方面，Microsoft的视频身份验证器工具提供实时置信度分数，指示静态照片或视频是否纵。这些工具以及我们讨论过的其他工具正在引领打击深度伪造的斗争，有助于确保在线内容的真实性。
然而，随着深度伪造背后的技术不断进步，我们的检测方法也必须如此。deepfake技术的发展是一个快速发展的目标，我们的工具和技术必须不断发展以跟上步伐。这将需要持续的研究和开发，以及研究人员、科技公司和政策制定者之间的合作。
此外，重要的是要记住，仅靠技术无法解决深度伪造的问题。教育和认识也至关重要。我们都必须成为在线内容更挑剔的消费者，质疑信息的来源并寻找操纵的迹象。通过随时了解 deepfake 技术和检测的最新发展，我们都可以在对抗这种威胁方面发挥作用。
