“我奶奶总爱看那些‘萌娃’短视频,现在终于有了‘作者提示:内容为AI技术制作’的标识。”市民刘先生注意到,短视频平台上的AI生成内容终于开始“亮明身份”了。
这一切源于9月1日正式施行的《人工智能生成合成内容标识办法》(以下简称《标识办法》)。国家网信办等四部门联合推出的这一新规,要求所有AI生成的文字、图片、视频等内容均须添加显式和隐式两种标识。
平台响应,AI内容标识全面铺开
新规施行一周,各大互联网平台迅速响应。腾讯、抖音、微博、知乎、商汤、DeepSeek、万兴科技等多家企业公布了各自平台的细化规则。
这些平台的策略大同小异:给AI生成合成的内容打上易被用户感知的显式标识,亮明“身份”。未按规定添加AI标识的创作者及内容将面临平台相应的惩罚措施。
抖音于9月1日发布《关于升级AI内容标识功能的公告》,上线了两项核心功能:AI内容标识功能和AI内容元数据标识读写功能。对于未主动添加标识的创作者,平台将辅助添加“疑似使用了AI生成技术,请谨慎甄别”的标识。
显式与隐式,两种标识各有乾坤
《标识办法》明确了“人工智能生成合成内容”是指利用人工智能技术生成合成的文本、图片、音频、视频、虚拟场景等信息。
显式标识是指可以被用户明显感知到的标识,以文字、声音、图形等方式呈现在内容或交互场景界面中。比如视频平台上的“作者提示:内容为AI技术制作”就属于此类。
隐式标识则采取技术措施在生成合成内容的文件数据中添加,不易被用户明显感知到,但包含内容属性、服务提供者编码、内容唯一编号等溯源信息。
平台责任,持续性义务与挑战
北京高勤律师事务所合伙人王源律师指出,平台企业出台相关公告仅是履行了向用户说明和向公众告知的一项义务。这是一种持续的义务,需要定期对用户的不合规行为进行排查。
平台责任和使用生成合成功能的用户责任实际很难界定。北京市盈科律师事务所律师曲虹潭提示,企业在合规方面还需要做很多工作。
他以“AI生成视频”为例,整个流程包括多个环节,每个环节背后对应不同的企业或自然人主体。如果生成环节的企业或个人未对AI生成内容进行标识,而分发传播环节的企业难以识别,平台可能需要依靠人工审核及其他方式筛查。
创作者困境,误判与申诉机制
新规落地后,一些网络用户表示自己发布的画作、文章、视频被“误伤”。明明是原创内容,却被平台误判为“疑似AI合成”,面临作品被限流、下架的问题。
业内专家指出,目前业内在AI低质内容治理方面,占比九成以上的审核工作由机器完成。机器审核准确率难以达到100%,仍需人工不断校准。
对此,专家建议平台应完善复核机制,建立便捷、有效的申诉渠道。如有条件,还可在算法识别基础上引入专家评估机制,综合判断内容是否为AI生成。
用户须知,权利与义务并存
对于广大平台用户来说,既是AI生成合成内容的创作者、发布者,也是受众。《标识办法》明确规定,用户发布AI生成合成内容的,应当主动声明并使用服务提供者的标识功能进行标识。
任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务。
用户也可以申请服务提供者提供没有添加显式标识的生成合成内容,但应履行标识义务和承担使用责任。
违规后果,从限流到封号不等
多家平台企业在公告中明确表示,对于违反法律法规及平台规范的行为,将视违规情况进行处罚。
抖音表示近年来已多次开展针对不当使用AI生成内容的专项治理,打击涉及虚假、侵权、仿冒等违规行为。
对于不主动标识AI生成内容的行为,部分平台会采取限流、下架、封号等措施。同时,部分社交平台表示,还将对可能是AI生成合成的内容进行相应提示,以便用户清晰识别。
维权途径,投诉与诉讼并行
如果用户遇到平台上未标识的AI生成合成内容,可以通过平台提供的投诉渠道进行投诉。如果认为平台违反了《标识办法》的规定,可以向相关部门的公开投诉渠道投诉。
涉及侵犯肖像或者隐私等人格权利、个人信息、著作权的,可以依法提起诉讼。曲虹潭律师提示,若AI生成的虚假内容存在侮辱、诽谤、诋毁他人等违法情形,不仅可能构成民事侵权,甚至可能触及刑法红线。
国际视野,标识制度全球共识
标识制度的独特制度价值已经成为国际共识。美国、新加坡、欧盟、英国等国家和地区纷纷采取措施推进生成式人工智能标识制度的建立。
中国科学院科技战略咨询研究院研究员肖尤丹表示,此次新规虽然切口小,但可以用较小的合规成本,较好地解决当前AI技术快速发展带来的新问题。
配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》也于9月1日同步施行。该标准针对人工智能生成合成标识的技术实现方式给出了更加细致、精准的指引,并配以具体的实现范例。
未来展望,AI内容治理任重道远
随着AI技术的快速发展,内容治理面临新的挑战与机遇。中国社会科学院大学互联网法治研究中心主任刘晓春指出,标识技术的标准化有助于提高互认程度,降低由于标准不统一带来的合规成本。
未来,平台需要不断完善复核机制,建立便捷有效的申诉渠道。在算法识别基础上引入专家评估机制,可能成为综合判断内容是否为AI生成的重要方向。
对于内容创作者来说,在平台功能持续更新、消费趋势快速变化的背景下,深耕内容质量与本土化运营成为关键。
数据显示,抖音搜索量激增:日活搜索用户突破1.5亿,将成为电商决策新入口。快手直播间复购率中,美妆类目达38%,高于行业均值15%。
规则已经生效,平台已经响应。那些曾经难以辨认的AI生成内容——从虚拟外国幼儿教育专家到国际军事虚假内容——正成为重点整治对象。
AI生成的内容再也无法“隐身”传播了。
参与评论
评论列表