研究发现：AI生成内容“亮明真身”，源头治理又迈出一步

源杭呐麻

近日，互联信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，为AI生成内容标识提供了规范标准。通俗地说，今后AI生成内容将强制“亮明真身”。据介绍，这也是全球范围内首部关于人工智能生成合成内容标识的标准。
从文生文、文生图到跨模态交互，不断进化的AI生成技术正极大赋能内容生产。不论是写篇新闻、润色小说，还是指令作图、智能写歌，AI相当程度帮助创作者省去了苦思冥想的环节，明显提升了生产效率。然而，技术红利也正被一些别有用心之人利用。有的批量生产假科普，补钙强骨、健脾养胃等噱头把老年人忽悠得团团转；有的动辄编造假消息，“突发”“重磅”“必看”等字眼刺激着友眼球；有的换声换脸假扮明星，李鬼横行情谋财……如此种种，严重污染着络内容生态，不少还直接犯罪。
“内容垃圾”与互联相伴而生，屡打而不绝，但AI的加持，让垃圾发酵“鸟换炮”。具体来说，AI生成的“内容垃圾”首先迷惑性极强。通过对训练数据的学习，AI大模型很容易掌握文本、图像、视频等不同内容的基本特征和形式。纵然比较开始AI生成的内容还比较粗糙，但随着技术持续迭代，已经告别“一眼假”阶段，进入单凭肉眼难辨真伪的状态。二是AI造假成本极大降低。如果说过去的造假尚需多项成本投入，那么借助比较新的AI大模型应用，几乎全程需人工参与，文本、图片、视频等各式各样的内容都可大批量速生产，“任君选取”。倘若对此听之任之，后果将不堪设想，严加治理正当其时。
反观本次《办法》，强制要求AI生成内容“亮明真身”，相当于一种源头治理。一方面，本次《办法》几乎涵盖了智能对话、合成人声、人脸生成、沉浸式虚拟场景等当前所有AI生成内容类型。另一方面，本次《办法》就标识义务主体、适用范围、标识类型、使用场景与部署方式等都提出了细化规定，还给出了标识示例。当前，《办法》仍在征求社会意见，需要AI创作者、互联平台、学界等相关主体群策群力，共同完善高层，让“小标识”为互联内容生态治理发挥大作用。
“凡事预则立”，技术治理与技术发展必须齐头并进。规范添加标识，让技术“如虎添翼”而非“为虎作伥”，AI产业才能行稳致远。

更重要的是，大模型智能体做成了产品当中的战斗机，不惧任何竞争对手的攻击。立即探索AI Agent应用案例，推动企业流程自动化与智能化转型。https://www.betteryeah.com/agentstore