元宇宙网：《生成式人工智能服务管理暂行办法》发布

AI1年前 (2023)更新 admin

115,316 0 0

近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》（以下称《办法》），该《办法》自2023年8月15日起施行。

国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

ChatGPT这一现象级的产品“腾空出世”，在国内外掀起了一场大语言模型产业和生成式人工智能产业的热潮。然而，热潮背后，通过生成式人工智能伪造内容导致的诈骗事件也屡有发生。“AI 诈骗成功率接近100%”的话题甚至一度冲上热搜，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为引起社会关注。

“作为今年最热门的新技术，生成式人工智能给社会生产生活带来了很多便利，但也给数据安全、隐私保护带来更加复杂的风险和挑战。”奇安信集团副总裁张卓在接受记者采访时表示。

据悉，《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。张卓认为，促进发展和防范风险需要两者并重，从《办法》中可以看出，数据安全和隐私保护贯穿于生成式人工智能数据的标注、模型预训练、模型训练、提供服务等各个环节，避免了监管盲区导致的安全风险。

在张卓看来，《办法》从源头层面对数据标注提出了明确规范。所谓数据标注，指的是对未经处理的语音、图片、文本、视频等原始数据进行加工处理，使其成为结构化数据让机器可识别的过程。因此，它决定着生成式人工智能最底层“原材料”的安全属性。《办法》第八条要求，在生成式人工智能技术研发过程中进行数据标注的，生成式人工智能服务提供者（以下称提供者）应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

张卓表示，《办法》从数据训练处理环节，明确并细化了监管要求。《办法》第七条指出，提供者应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；遵守《网络安全法》《数据安全法》《个人信息保护法》等相关法律、行政法规以及相关监管要求。

“《办法》从数据服务和使用环节形成了监管闭环，避免了安全盲区。《办法》在第三章‘服务规范’第九条中指出，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。第十一条指出，提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息。第十二条提出，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。所有这些措施，都充分考虑到了生成式人工智能的使用服务场景，尤其是面向公众的场景。”张卓说道。

“今年上半年以来，世界各国出台了一系列政策，最新的政策就是我国发布的《生成式人工智能服务管理暂行办法》，我觉得这是相辅相成的。人工智能的发展和人工智能风险的管控要同时重视，我们才可能迎来光明的未来。”北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军表示。

除了大众普遍关心的数据安全、隐私保护等问题，《办法》也为生成式人工智能技术在各行业、各领域的创新应用提供了方向。在中国政法大学法理学教授郑玉双看来，此次政策出台非常积极。《办法》明确

指出“鼓励生成式人工智能技术在各行业、各领域的创新应用”“对生成式人工智能服务实行分类分级监管”，这意味着百度、华为这类深耕行业、面向B端的大模型会被批给企业提供服务。

郑玉双分析称，让企业尽快用上用好大模型、促进数实融合，将成为《办法》出台的核心目标之一。“大模型正在进入产业落地期，根据百度、华为等企业近期密集发声的情况来看，企业应用大模型主要有三种方式。第一种是构建基础大模型，只有少数企业会自建大模型，因为训练大模型的成本和技术壁垒都非常高。第二种是建立行业大模型，通常是了解行业know-how（专门知识、技能）的企业，结合自身掌握的行业数据，用基础大模型精调出更贴合实际场景的行业大模型。第三种是在基础大模型和行业大模型之上，开发 AI应用，他们要思考的是如何在这个大模型之上做好提示词工程，解决特定应用场景的问题，如何从模型效果、迭代速度、工具链这三大方面去选择一个好的大模型。”郑玉双说。