国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，9月1日起将正式施行，所有AI生成的文字、图片、视频等内容都要“亮明身份”。针对这些内容在传播过程中该由谁来管？怎么管?
《人工智能生成合成内容标识办法》明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。
平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，从而在传播端阻断虚假信息扩散。
中国人民大学未来法治研究院执行院长张吉豫：“标识办法”中进行检测分三个层次，如果平台是从元数据中检测出隐式标签，那么平台就可以标识这个内容是AI生成的，但是如果它只是通过一些算法推测这个内容是AI生成的，它应该是标识为疑似AI生成。
针对目前由于技术的局限性而导致的部分原创内容被误判为AI生成，创作者权益受损等情况，法学专家指出，当前的算法仍然存在数据偏差和场景适配不足等问题，在误判率难以归零的情况下，应当建立相应的保障机制。
张吉豫：未来相关平台进行了分级标识后，其实也应该建立分级的处理办法，比如说对于明确它是AI生成的，通过隐式标识确定的，应该采取更严格的措施，但是对于很多应该标识为疑似AI生成的，应该提供更便捷的用户反馈渠道，也不宜对用户进行严肃的惩罚。
法学专家建议，首先网络服务提供者要公开算法原理及误判样本数据，提升透明度；其次要设立申诉渠道，允许用户提交证据申请复核，从而保证监管与创作自由的平衡.
让生成内容看得见查得着，以规范促发展
据记者了解，截至目前，我国已有490余款大模型在国家网信办完成备案，240余款大模型在省级网信办完成登记，我国生成式人工智能产品的用户规模已达2.3亿人。“标识办法”的施行，会对行业、个人用户，以及相关技术的发展带来哪些影响？
据记者了解，作为我国人工智能领域首部“办法+强标”的组合拳，强制性的国家标准《网络安全技术人工智能生成合成内容标识方法》将于9月1日起与《人工智能生成合成内容标识办法》同步施行，在监管维度建立审核、监测、追责的闭环机制，在技术维度规范标识体系并预留创新空间。
中国社科院法学所研究员支振锋：特别要提出的是这种生成式人工智能治理，我们一系列国家法律法规，还有规范性文件以及标准，一个很重要的治理目的是以规范促发展，通过治理和规范去净化互联网市场，净化网络信息内容、生态空间，从而促进人工智能特别是生成式人工智能，它的规范运用和健康良性的发展，实际上还是通过规范去促进发展的。
另外，据专家介绍，高质量数据对生成式人工智能产业发展至关重要，基于错误或不完整的数据作出的决策可能偏离正确方向，不符合法规要求的数据可能带来法律风险。如果未经标识的内容进入公开数据领域，被大模型用于预训练会出现数据污染等情况，最终会导致技术可信度的大大降低，而“标识办法”的出台，正是从源头破解这一困局的关键举措。
张吉豫：对于人工智能企业去选择相应的训练数据能够起到很好的指引作用，特别是所有的这样的生成内容都需要进行隐式的标识，这些标识是很便捷的，可以被机器检测的，就可以很便捷地去筛选哪些可能的内容是机器产生的，也便于他们去进行训练的选择.
有利于公平竞争，减少侵权诈骗等问题
据专家介绍，在《人工智能生成合成内容标识办法》以及强制性的国家标准同步施行的情况下，标识的存在也会对大规模搬运人工智能直接生成内容的行为进行拦截，让内容平台有了更明确的合规要求和管理程序，有利于降低总体的审核运营成本。
据法学专家介绍，《人工智能生成合成内容标识办法》的施行有利于公平竞争和有效管理。
• 首先，强制“标识”有利于保护传统内容产业，能在一定程度上降低AI技术带来的冲击；
•另外，通过标识可以追溯AI生成内容的来源，减少因AI生成内容引发的侵权、诈骗等问题，维护个人隐私和财产安全。
支振锋：这些生成人工智能服务的使用者，比如说自媒体账号、博主，他们要使用这些服务的话，他们自己也有合规的要求，特别是一些MCN机构，一些自媒体账号，它其实背后有公司在运营，他们都有这样的合规义务，都要按照这个办法，还有国家标准去做生成合成内容的标识。
据法学专家介绍，“标识办法”与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。其中，服务提供者在履行算法备案、安全评估等手续时，相关材料可能涉及标识的技术细节，如水印算法、元数据格式、服务商编码等，这些信息能够帮助执法部门在发现违法内容时快速识别内容来源，追踪到服务提供者或者用户。
（来源：央视新闻客户端）
举报/反馈开源优配提示：文章来自网络，不代表本站观点。
