【2024-12-14 04:17:00AI Siri网最新消息】
iOS 18.1通知摘要示例
英国广播公司（BBC）对苹果推出的iOS 18中的通知摘要功能表示不满，认为其完全歪曲了文章的主要内容。这一事件引发了广泛关注。
苹果公司的智能助手加入了摘要功能，旨在通过提供文档或通知的关键要点，为用户节省时间。然而，周五的一次通知摘要引起了BBC的重大问题。
BBC已经向苹果投诉，指出这一功能在总结新闻标题时出现误解，得出了错误的结论。BBC的一名发言人表示，他们已向苹果反映了这一问题并希望得到解决。
在公开投诉中，BBC举了一个例子，某次通知摘要写道“路易吉·曼戈尼自杀”，该人是因谋杀联合健康公司首席执行官布莱恩·汤普森而被捕的，但是曼戈尼目前依然在世。
发言人强调：“我们非常重视观众对我们姓氏下发布的任何信息或新闻报道的信任，包括通知内容。”
错误的摘要并不仅仅是BBC面临的问题，纽约时报也曾受害。该报在一条<至于相应数据或信息的页面>关于11月21日的摘要中声称“内塔尼亚胡被捕”，但实际上该报道提到的是国际刑事法院对以色列总理发布了逮捕令。
苹果方面对此事件未对BBC发表评论。
虚假新闻概述
错误的摘要被称为“虚幻”。这指的是AI模型在面对非常明确的数据集（如新闻报道）时，依然产生不太准确的响应。
虚幻现象对于AI服务来说是一个大问题，尤其是在消费者需要获取直接且简单答案的情况下。其他公司同样面临这样的挑战。
例如，谷歌早期版本的Bard AI（现称为Gemini）曾将AppleInsider的作家Malcolm Owen和同名的已故歌手混淆。
虚幻现象可能因为多种原因发生，包括训练数据或训练过程本身的问题，或对新数据错误地应用已学习的模式。模型可能缺乏足够的上下文信息，导致无法提供完全正确的响应，或者对源数据做出错误的假设。
在当前情况下，导致标题摘要问题的具体原因尚不明确。源文章对枪手的描述十分清晰，并未提及对该人的攻击。
苹果首席执行官蒂姆·库克在宣布苹果智能助手时就意识到可能存在此类问题。在6月，他承认其准确性可能“不到100%”，但质量依然“非常高”。
8月份，有消息透露苹果智能助手制定了特定的指令来应对虚幻现象，包括“不要虚构。不制作虚假的信息。”
目前尚不清楚苹果是否会希望或能够对虚幻现象采取更多措施，因为其选择不监控用户在设备上实际看到的内容。苹果智能助手优先处理本地数据，这种安全措施也意味着苹果无法获得关于实际摘要结果的反馈。
