据财联社2月6日报道，随着2024年全球半数以上的国家将面临政府换届，以及AIGC技术的最新一轮爆发，AI技术对互联网舆论生态的威胁达到了前所未有的高度。近期，“冒牌拜登来电”和知名女星Deepfake照片等事件在国际舆论中引发了广泛担忧。
为了应对这一挑战，社交媒体巨头脸书、Instagram和Threads决定采取行动。他们计划通过识别和标记平台上的AI内容，将社交媒体上的AI生成内容与真实生活明确区分开来，以遏制这一趋势的进一步发展。
Meta宣布，在接下来的数月中，脸书、Instagram和Threads平台将着手对上传的图片进行AI检测，并施加“AI标签”。这一措施涵盖两个层面：“结构化”的AIGC图片与杂乱无序的AI视频、音频内容。
针对图片领域，Meta已设定了明确的检测标准。以Meta自家的AI“文生图”功能为范例，此类方式生成的图片将在左下角展示可见水印，同时图片的元数据也将嵌入“隐形水印”。
Meta正研发一种批量识别特定水印的先进工具，尤其针对C2PA与IPTC技术标准。此举意味着，一旦谷歌、OpenAI、微软、Adobe、Midjourney、Shutterstock等公司按照规划在AIGC工具中融入元数据，Meta便能迅速在社交媒体平台上识别并标注这些公司生成的AI图片。
尽管几家科技巨头的合作对于解决问题至关重要，但恶意使用AI的个体仍有能力移除AI图片中的标记水印。对此，Meta全球事务和通讯总裁尼克·克莱格补充说，公司正在研发一种分类器，旨在自动识别那些由AI生成但无数据水印的图片。克莱格提到，Meta的AI实验室最近公布了一种名为“稳定签名”的数字水印技术，该技术将水印机制直接融入图像生成过程，对开源模型具有显著价值。
然而，对于视频和音频内容，情况则有所不同。由于缺乏与图片相似的“隐形水印”标准，目前无法通过检测信号为AI生成的音视频内容打标签。为此，Meta决定引入自主申报和处罚机制。除了鼓励用户自主申报AI视频和音频外，Meta还可能对故意创作深度伪造内容且故意不报的用户进行处罚。
克莱格进一步指出，如果Meta认为某些AI创作或修改的图像、视频或音频内容存在高度欺骗公众的风险，可能会酌情添加更醒目的标签。尽管存在对“AI大闹大选年”的担忧，但克莱格认为这种情况在今年席卷Meta平台的可能性并不高。他表示：“我们不太可能很快看到完全由人工合成的、具有重大政治意义的视频或音频。”克莱格还透露，Meta内部正在测试依据社区准则训练的大语言模型，该技术可作为一种高效的“分流机制”，确保人工审核员处理的帖子确实是需要人工判断的边缘案例。
如有侵权，请联系删除。