HeHealth 开发的 AI 驱动的 Calmara 应用曾宣称,“我们的创新 AI 技术提供快速、保密且经过科学验证的性健康筛查,让您在亲密接触前安心。”但如今,在联邦贸易委员会(FTC)的调查后,该应用已经下架。
该应用会提示约会者提交“裸照”以检查性传播感染,并承诺提供“关于你伴侣性健康状况的清晰、科学支持的答案”。根据FTC 于 7 月 11 日发布的信函,该信函概述了 FTC 对 HeHealth 用于其声明的信息提出的一些质疑,包括一项声明称其可以检测超过 10 种性传播感染,准确率高达 94%。
FTC 指出,HeHealth 向多位研究作者支付了费用,而该公司引用的主要研究仅评估了四种性传播感染,而非 10 种,而且用于训练 AI 模型的数据包括来自从未进行诊断测试以确认结果的用户提供的图像。
使用同一 AI 的 HeHealth 应用更多地将自己定位为个人在与医疗保健提供者联系之前的初步步骤。
该公司同意在 7 月 15 日之前关闭这两个应用,Calmara 的网站和指向 HeHealth 应用的链接似乎已下线。FTC 表示,该公司还同意删除从应用或支付供应商获得的所有客户个人信息,并要求这些供应商删除其客户的任何数据。
“FTC 的勤奋员工非常致力于保护消费者,甚至愿意浏览大量‘裸照’来保护美国人免受 AI 诈骗,”一位不愿具名(因为他们未经授权公开发表有关调查的评论)的知情人士告诉 The Verge中文站。
FTC 发出民事调查要求(类似传票),要求提供有关 Calmara 广告声称和隐私惯例的信息,并告知 HeHealth,在没有“可靠的科学证据”的情况下,宣称健康益处是非法的。
HeHealth 尚未立即回复 The Verge中文站 的评论请求。
FTC 表示,由于 HeHealth 同意这些条款,以及“Calmara 用户和在美国的销售额很少”,它不会进一步追查调查。但是,它警告称,“委员会保留采取公众利益可能要求的进一步行动的权利。”