Meta 刚刚宣布他们即将开始自动标记AI 图像。您可以在此处阅读他们的完整公告。以下是我的理解和要点,显然不代表法律或其他方面的建议。
Facebook 将如何区分人工智能图像和“真实”照片
他们无法使用算法来做到这一点。这对任何人来说都不应该是一个巨大的惊喜。如今,Midjourney 和其他图像创建工具非常好用,甚至我都很难区分库存照片和 AI 图像。
因此,他们将依赖文件元数据和水印(隐藏或可见)形式的不可见“标记”。
我们正在构建行业领先的工具,可以大规模识别隐形标记,特别 是 C2PA 和 IPTC 技术标准中的“AI 生成”信息,这样我们就可以标记来自 Google、OpenAI、Microsoft、Adobe、Midjourney 和 Shutterstock 的图像当他们实施将元数据添加到由其工具创建的图像的计划时。
他们能够达到如此程度的合作,给我留下了深刻的印象。我在这里没有看到稳定扩散或莱昂纳多,但所有其他主要球员都在那里。
是的,人们有可能删除元数据和隐形水印。 Meta 正在研究通过创建更难删除的隐形水印来解决这一问题。我们会看看情况如何。
这对出版商意味着什么?
Facebook 目前占我流量的很大一部分。我们有时在 Facebook 帖子中使用人工智能图像,就像我们有时在我们的网站中使用它们一样。
不过,我们并不总是使用人工智能图像。我认为 AI 图像并不总是正确的解决方案,而且我们仍然有两个活跃的 Shutterstock 帐户,每个帐户每月有 1000 次下载。
尽管如此,我们偶尔会在 Facebook 帖子中使用人工智能图像。
我当然对 Facebook 的新标签系统及其对用户的影响感到好奇。如果 Pinterest 成为下一个采用这样的系统的人,我不会感到惊讶,因为现在他们可能已经被人工智能图像淹没了。
我认为这是 Meta 声明中重要的一点 –
如果我们确定以数字方式创建或更改的图像、视频或音频内容在重要问题上造成特别高的实质性欺骗公众的风险,我们可能会在适当的情况下添加更显眼的标签,以便人们获得更多信息和背景。
对我来说,这里有三件事很突出。
1. 这不仅仅是人工智能图像的问题
该声明适用于任何“数字创建或更改”的图像。换句话说,如果你发布一张垃圾箱里的狗的假照片来吸引你的 Facebook 粉丝的注意,那么你是否使用 AI 来创建它,或者只是使用优秀的 Photoshop 来创建它并不重要。
我喜欢。我认为这很聪明。当然,使用 AI 生成它太容易了,而使用 Photoshop 做类似的事情则需要几个小时。但原理是一样的,无论照片是如何制作的,都可能被视为具有误导性。重要的是你如何使用它。
2. 背景很重要
该声明特别针对“在重要问题上严重欺骗公众的风险特别高”的内容。对我来说,这意味着并非所有人工智能图像都是一样的。
例如,我怀疑任何 Facebook 用户都会介意这张图片是由人工智能生成的。
当然,专业摄影师可能会介意。这是因为 Midjourney 已经接受了他们的内容培训,现在取代了他们的服务。但 Facebook 的普通用户并没有在重要问题上受到实质性欺骗。
显示拜登和特朗普共乘前往白宫的假图片可能会产生更大的问题。
当然,这个定义是留有解释空间的。
谁来决定什么造成了严重欺骗公众的特别高的风险?或者说什么才是真正重要的事情?我只能假设 Meta 会做出判断。
3. 听起来他们不会太严格
再次强调,这只是我的解释。但他们表示,即使在那些高风险的情况下,他们
“可能会在适当的情况下添加更突出的标签,以便人们获得更多信息和背景。”
请记住,这是针对他们无法实际验证这是否是人工智能内容的情况。所以,对我来说,听起来他们不能绝对确定,所以他们可能会添加一个“可能是人工智能图像”的标签?
有趣的是,他们并不认为人工智能内容一定是“坏的”。我倾向于同意这种方法。人工智能图像生成具有使艺术民主化的潜力。我是一个糟糕的画家,但我可以使用人工智能来画出最美丽的图像,实际上只是通过想象它们。
当然,现在大多数人不知道如何使用这些工具,但这只是暂时的。最终,使用人工智能写作或创作艺术可能成为一种常见的表达形式。言论自由很重要。
或者,如果你想采取更愤世嫉俗的观点,Meta 知道这些图像可以提高参与度并留住用户在 Facebook 上,最终使 Meta 赚更多钱。
我的总体看法
在我看来,Meta 的最新公告是一种平衡的方法。他们并不是完全反对人工智能图像,只是等待有效的工具来找到它们并将它们从社交媒体中消除。他们只是希望提高透明度以防止滥用。
作为公众的一员,我很高兴看到 Meta 认真对待此事。我认为现在是我们弄清楚如何处理人工智能图像的时候了。
我将继续在社交媒体和我们的网站上使用人工智能图像。在适当的情况下,并在我认为有效的用例中,司法地使用它们。目前我对 Meta 的新方法并不太担心。如果有的话,那就是让我在他们的平台上使用这些图像更加舒服。
我确实想知道人工智能内容标签会是什么样子以及它们将如何影响用户行为。人们会避开人工智能内容,更快地滚动过去吗?或者也许它会更多地激发他们的好奇心?我想时间会证明一切。
一如既往,我很想听听您的来信!您是否在网站或社交媒体平台上使用人工智能图像?您认为这些变化将如何影响这些渠道的流量?发表评论,我们可以在这里继续讨论这个问题。