水印并不是解决人工智能错误信息的灵丹妙药-陌自动

　　乔·拜登总统关于人工智能的行政命令是政府首次采取此类行动，以解决该技术面临的一些最大挑战，比如如何识别图像是真是假。

　　在众多其他要求中，周一签署的这项命令要求制定一套由政府主导的新标准，对人工智能生成的内容进行水印。就像照片或纸币上的水印一样，数字水印可以帮助用户区分真伪，并确定谁拥有它。

　　这是一个看似简单的解决方案，得到了白宫和科技行业的支持。水印技术是有前途的。但它并非万无一失，专家们担心仅靠它是不够的。

　　许多领先的人工智能公司已经将水印技术融入到他们的产品中。有些很简单，很容易裁剪，比如OpenAI在DALL-E图像上的标记，但其他的则更持久。例如，谷歌在8月份宣布了SynthID的测试版，这是一种直接插入图像像素的难以察觉的水印。这种方法避免了降低或突出标记图像，同时允许人工智能检测软件在裁剪或调整大小后对其进行认证。

　　这些在人工智能生成的内容的像素和元数据中嵌入数字水印的“高扰动”方法已被证明是最有希望解决有害欺骗性内容的一些方法。不过，像SynthID这样的产品并不是唯一的解决方案。b谷歌自己也表示，这项技术“并非万无一失地防止极端的图像处理”。

　　越来越多的研究支持这一说法。本月早些时候，马里兰大学的研究人员发布了一篇预印本论文，解释了他们能够通过现有技术破解所有水印方法的多种方法。该团队不仅能够破坏这些水印，而且还能够在图像中插入假水印，从而产生误报。

　　像DALL-E和Midjourney这样的服务使得图像生成比以往任何时候都更容易获得，因此互联网上充斥着人工智能生成的赝品。有些图片基本上是无害的，比如教皇穿着巴黎世家羽绒服的疯传帖子。但是以色列的战争已经显示出一些伪造的东西是多么的阴险。

　　马里兰大学计算机科学副教授Soheil Feizi周一在接受the Verge网站采访时表示:“我不认为在生成模型的输出上加水印是解决人工智能虚假信息的实用方法。”“这个问题在理论上不可能得到可靠的解决。”

　　拜登的行政命令还要求商务部制定检测和跟踪网络合成内容的标准。Adobe本月宣布，它已经建立了一个“透明图标”，或一个视觉标记，以帮助识别图像的来源。这个图标可以添加到Photoshop、Premiere和微软必应中创建的图像和视频中，以显示谁拥有或创建了这些数据。实际上，当有人将鼠标悬停在标签上时，它会显示图像是如何产生的信息，就像它是人工智能生成的一样。

　　人权组织Witness的执行董事萨姆·格雷戈里(Sam Gregory)等专家表示，大规模验证人工智能生成的内容将需要像这样的“一套方法”。

　　“我不指望这些能百分之百有效。我确实认为，它们会被恶意行为者破坏，也会被意外破坏。”“但我们应该从减少伤害的角度来看待它们。”

　　不过，验证和跟踪人工智能生成的内容也存在风险。在图像元数据中嵌入个人身份信息可以帮助内容创作者获得产品的所有权，但这引发了对用户隐私的新担忧。格雷戈里说，对于生活在权威统治下的讽刺作家来说，挑战他们领导地位的幽默内容可能会使他们处于危险之中。

　　创建一个可互操作且可靠的映像身份验证系统需要时间。目前尚不清楚该命令将如何影响人工智能公司，也不清楚政府可能会实施哪些规定。

　　在2024年大选之前，立法者和政府机构可以在减轻共和党全国委员会反乌托邦的拜登广告等虚假广告的潜在有害影响方面发挥更重要的作用。联邦选举委员会被要求制定一项新规则，要求政治竞选活动和团体披露他们的广告何时包含人工智能生成的内容。纽约州民主党众议员伊维特·克拉克(Yvette Clarke)提出了一项法案，迫使这些团体也这样做。