Google 最新发布的 Pixel 9 手机系列搭载了名为 Pixel Studio 的 AI 图片生成应用程序。该应用程序旨在利用文本提示创建贴纸和图片，其外观和功能与苹果计划推出的 Image Playground 非常相似。迄今为止，评测人员已经使用 Pixel Studio 生成了各种令人质疑的图片，从纳粹版本的《海绵宝宝》到手持 AK47 的艾摩。
Digital Trends毫不费力地让 Pixel Studio 生成了受欢迎的卡通人物进行可疑活动的图片。枪支、毒品和酒精并不受限，同样，诸如校园枪击等冒犯性的情境也不受限。Pixel Studio 仅在被要求时才会生成这些图片，但这很可能是人们立即使用这项功能时会做的事情，而不是生成可爱猫和兔子的图片。
Google 表示，已经制定了“安全检查”措施，以防止 Pixel Studio 被“恶意使用”。确实存在一些安全措施。Pixel Studio 不会创建人类图像，并且 Google 正在根据评测结果调整 AI。在与 Google 交谈后，Digital Trends 无法再让 Pixel Studio 创建使用可卡因或穿着德国军服的卡通人物。
更令人担忧的是 Google 的 “Reimagine” 工具，它可以将物体添加到已经拍摄的照片中。The Verge 使用它向图片中添加了尸体、炸弹、毒品和灾难，并且添加到图片中的物体看起来非常逼真，难以辨别图片是否被编辑过。Google 在将照明和视角与原始图片相匹配方面做得非常出色，并且在社交媒体上没有任何水印或标记。Google 确实添加了一个元数据标签，但这很容易通过截图消除。
当然，您可以使用 Reimagine 向图片中添加日落和彩虹，就像您可以使用 Pixel Studio 创建有趣的图片一样，这两个 AI 功能都非常出色，因此这些工具并非都是不好的。Android Authority分享了一篇关于奥利奥披萨、冲浪的长颈鹿和打篮球的小猫的文章。正如 The Verge 指出的那样，你总是可以在图片中添加一个身体，或者创建一个手持枪支的艾摩的图片，但这需要一些 Photoshop 的技能和时间。使用 Pixel 手机，你只需要一个想法，几秒钟就可以创建这种图片，并且它就在智能手机上，任何人都可以使用。
在对 The Verge 和 Digital Trends 的声明中，Google 表示其设计的生成式 AI 工具旨在 “尊重用户提示的意图”，这可能导致在用户要求时创建 “可能冒犯性” 的内容。但 Google 声称，其“服务条款”中规定了不允许的内容，并且会不断完善安全措施。
Apple 尚未推出其图片生成工具 Image Playground 或 Genmoji，围绕 Pixel 9 发布的媒体让我们对如果 Apple 没有做好，用户可能会有怎样的反应有一些了解。对于 AI 来说，即使 Apple 采取了大量安全措施，人们也可能会找到解决方法。到目前为止，Apple 还没有涉足逼真的 AI 图片，但 Google 却全力以赴，因此今后很难再信任社交媒体和互联网上的图片了。
