Steg.AI：全球智能水印技术助力虚假内容识别与保护

2023年5月，全球曝光了一张引起轩然大波的照片，描绘了五角大楼冒烟的画面。这一照片迅速引发了各大新闻媒体的报道，甚至在股市上引起了短暂的动荡。然而，随后的调查揭示，这张照片实际上是由人工智能生成的虚假图像。

这一事件凸显出在各种情况下辨别人工智能生成内容的挑战。这也再次引发了有关深度伪造和虚假图像的广泛讨论，这主要是由生成式人工智能工具及其生产出的高度逼真图像引起的。

面对这些问题，全球各国政府正在积极寻找解决方案和监管人工智能的方法。一些知名人工智能公司，包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI等，已经自愿承诺采取一些措施，如为人工智能生成内容添加水印，以增加其安全性。然而，实际的进展尚未取得实质性突破。

目前的方法，如将数据嵌入图像或音频中，往往容易被绕过。因此，需要一种稳健而又隐蔽的水印技术，易于应用和检测，同时能够抵抗各种变换。研究表明，人类很难区分人工智能生成的内容和人类创造的内容。在如今盛行的在线知识产权盗窃环境中，能够验证内容创作者身份的能力显得越发重要。

与此同时，总部位于加利福尼亚的平台Steg.AI已经开发出一种基于深度学习的解决方案，可以将几乎不可察觉的水印嵌入到数字内容中。即使这些图片经过修改、压缩或篡改，Steg.AI的水印仍然完整存在。这种水印具有极强的韧性，甚至可以在iPhone相机上捕捉到屏幕上显示或打印出的水印。

Steg.AI的水印技术在股票摄影服务、社交媒体平台上的内容分享、电影的预发行副本以及保护机密文件等多个领域都有应用。该技术的核心概念是在分发之前将水印无缝地嵌入到人工智能生成的图片中。尽管具体的过程尚属机密，但基本思想涉及使用一对机器学习模型。其中一个模型负责定制水印在图片中的位置，以确保人眼难以察觉，但仍可以被解码算法检测到。

类似于几乎看不见且不可更改的QR码，这种方法可以潜在地容纳上千字节的数据，足以存储URL、哈希值和纯文本信息。每个多页文档或视频帧都可以隐藏不同的代码，从而成倍地增加了容量。

Steg.AI在2019年的CVPR论文中首次提出了这个想法，并且得到了政府SBIR资助的支持。创始人Eric Wengrowski和Kristin Dana曾从事学术研究多年，致力于不断改进他们的方法。

Steg.AI得到了NSF资助和天使投资的支持，总共获得了120万美元的资金。近期，该公司宣布取得了重要的里程碑，完成了500万美元的种子轮融资，由Paladin Capital Group领投，华盛顿广场天使投资、NYU创新风投基金和个人天使投资者也参与了投资。

许多大型科技公司已经开始将水印技术应用于他们的内容中。微软在其年度Build会议上宣布，正在为Bing图像搜索和设计师工具增加新的媒体来源功能，使用户能够验证人工智能生成的图像和视频。这项创新使用加密技术，在内容上标记和签名元数据以指示其来源。该功能需要网站采用由Adobe、Arm、Intel、微软和Truepic等公司共同开发的联合内容来源和真实性(C2PA)规范的支持。

然而，微软的努力需要更广泛的媒体来源标准的支持，目前Stability AI和谷歌等公司也在探索类似的方法。Shutterstock和Midjourney等公司已经采用了指导方针，将标记嵌入到由生成式人工智能创建的内容中。

与此同时，Meta AI、Centre Inria de l’Universite de Rennes和Sorbonne大学合作开展的研究已经开发出一种创新技术，可以在图像生成过程中无缝地添加水印，同时保持结构的完整性。这种方法修改了预训练的生成模型，以将水印有效地整合到生成的图像中，增强了安全性和计算效率。这项技术使得模型供应商能够为不同的用户群体提供带有不同水印的模型版本，以便监控其道德使用。

这种技术对于媒体机构来说是非常有价值的，可以帮助他们识别出由计算机生成的图像。研究人员成功地将潜在扩散模型(LDM)与水印相结合，而只需对LDM解码器进行轻微调整。这一过程涉及使用感知图像损失和一种名为HiDDeN的简化深度水印方法来微调LDM解码器。这项技术在图像编辑任务中表现出了出色的性能，即使在对图像进行了严重裁剪的情况下，也能保持原始模型在各种基于LDM的任务中的实用性。

在上个月，这七家大型科技公司的行动支持了拜登政府对监管兴盛且备受欢迎的人工智能技术的推动。美国国会目前正在审议一项法案，要求在创建政治广告时披露人工智能的参与情况。