国会询问苹果公司如何应对深度伪造技术

iPhone应用程序生成非自愿亲密照片的现象

美國國會向科技高管们发送了强调对深度伪造非自愿亲密图像增加的担忧的信函，包括苹果公司首席执行官蒂姆·库克在内。

这些信函来源于有关使用双重用途应用程序生成裸体深度伪造图像的早期报告。社交媒体上充斥着推广面孔交换的广告，用户利用这些应用将人脸置入裸体或色情图像中。

根据404 Media的新报告，美国国会正在根据这些报告采取行动，询问科技公司如何计划制止其平台上非自愿亲密图像的生成。信函已发送给苹果、谷歌、微软、Meta、字节跳动、Snap及X。

对于苹果的信件特别指出，该公司未能在应用审查指南下阻止此类双重用途应用。信中询问苹果公司将采取什么措施来遏制深度伪造色情内容的传播，并提到了《去除法》（TAKE IT DOWN Act）。

信中向蒂姆·库克提出了以下问题：

• 贵公司计划采取哪些措施主动应对平台上深度伪造色情内容的蔓延，执行这些措施的时间表是什么？
• 在制定这些计划时，有哪些个人或利益相关者参与？
• 在提交报告后，处理报告的流程是什么？有哪些监督机制确保及时处理这些报告？
• 如何判断应用是否需要从您的商店中移除？
• 如果用户报告他们的图像被非自愿地包含在深度伪造中，是否有什么补救措施可供使用？

苹果作为应用商店的监管者，每当不应存在的应用出现时，往往会受到指责。这些深度伪造工具或儿童应用变成赌场的事件成为讨论苹果是否应该成为其应用平台守门人的理由。

根据之前的报告，苹果移除的应用显示出明显的潜在滥用迹象。例如，用户可以从Pornhub获取视频进行面孔交换。

苹果的智能技术无法生成裸体或色情图像，并且已停止与深度伪造网站的Apple Sign-In功能。然而，这只是苹果应对深度伪造问题的最低要求和责任。

正如国会的信件所建议的，苹果需要采取措施确保双重用途的应用不能通过审核。对于那些承诺提供AI图像和视频处理的应用，尤其是提供面孔交换功能的应用，至少应采取额外预防措施。