水印防伪造手段被攻破，专家吁重构方案
深度伪造技术“水印”防范方案被攻破，专家呼吁重思考
加拿大滑铁卢大学研究人员开发了一种名为 UnMarker 的工具，可以快速移除人工智能生成内容的水印标识，这证明了当前全球对抗深伪造的技术路径可能存在缺陷。
长期以来，学术界和行业一直将水印视为对抗深度伪造的最佳方案，甚至放弃了其他潜在方法。2023 年，在白宫的一场活动中，包括 OpenAI、Meta、谷歌和亚马逊等领先人工智能公司都承诺实施水印机制，以明确识别 AI 生成的内容。
这些公司的系统会嵌入水印，即隐藏的签名或模式，对人来说不可见，但另一套系统可以识别。滑铁卢大学的研究生 Andre Kassis 领导了这项研究，他表示该研究表明水印的使用可能无法有效保护我们免受人工智能内容带来的危害。
UnMarker 工具是基于其他学术研究成果发展而来，它能够在不了解水印算法、内部参数或与检测系统进行任何交互的情况下移除水印。在测试中，该工具成功移除不同 AI 模型的水印超过 50%。
人工智能系统可能被滥用以创建深度伪造，传播虚假信息和实施诈骗，因此识别 AI 生成的内容至关重要。随着人工智能技术的进步，现有检测技术逐渐失效，注意力转向水印方案。
欧盟的 AI 法案要求产生大量合成内容的服务提供商必须实现可辨别 AI 生成或被篡改内容的技术，包括水印。加拿大也于 2023 年发布了一份自愿行为规范，要求使用 AI 系统的人员开发并实施可靠且公开可用的检测方法，重点关注音频视觉内容的水印技术。
Kassis 表示，UnMarker 可以移除任何系统的任何水印，只需点击几按钮即可生成没有水印的图像。他认为，尽管主要人工智能公司正在争先恐后地实施水印技术，但我们应该更加重视寻找替代解决方案。
“目前，水印已被视为未来对抗深度伪造技术的标准方案，”Kassis 说，“我认为现在是时候让所有人冷静下来，重新审视这个问题。”
阅读本文之前，你最好先了解...
深度伪造技术的现状:
深度伪造技术是指利用人工智能算法生成逼真的图像、视频或音频内容。这种技术在许多领域都有应用，但也可能被滥用以传播虚假信息、进行诈骗等恶意活动。 随着 AI 技术的快速发展，深度伪造技术的生成效果越来越接近真实，难以辨别真伪，因此如何有效识别和应对深度伪造成为全球范围内的重要课题。
水印技术及其局限性:
水印技术是一种常见的对抗深度伪造方法，通过在 AI 生成的内容中嵌入隐藏的标记来识别其来源。 尽管这种方法在一定程度上可以起到作用，但 UnMarker 工具的出现表明，水印技术并非完美无缺，甚至可能被轻易攻破。
人工智能监管的挑战:
随着人工智能技术的普及，如何有效监管和控制其应用也成为一个难题。 许多国家和地区都在制定相关法律法规来规范 AI 的开发和使用，但如何在保证创新发展的同时有效应对潜在风险仍然是一个挑战。 欧盟的 AI 法案以及加拿大自愿行为规范都体现了各国对人工智能技术带来的风险的高度重视。
替代解决方案:
鉴于水印技术的局限性，研究人员正在积极探索其他对抗深度伪造的技术方案，例如：
- 生成模型检测: 利用机器学习算法分析 AI 生成内容的特征，识别其与真实内容的不同之处。
- 基于信源的验证: 通过核实 AI 生成内容的来源和作者身份来判断其真伪。
- 区块链技术: 将 AI 生成内容的信息存储在不可篡改的区块链网络中，确保其来源和完整性。
UnMarker 工具的潜在影响:
UnMarker 工具的出现可能会导致以下一系列影响：
- 加速深度伪造技术的传播和滥用。
- 削弱公众对在线信息来源的信任。
- 加剧社会对人工智能技术监管的呼声。
总结:
深度伪造技术的发展给社会带来了机遇和挑战。 水印技术的局限性表明我们需要更加重视对抗深度伪造的技术研究，并探索更有效、更全面的解决方案。 同时，加强国际合作和监管力度，规范人工智能技术的应用，也是应对深度伪造带来的风险的关键。
如果你有其它意见，请评论留言。