生成式人工智能服务迎来了监管新规。昨天，国家网信办、科技部等7部门联合发布《生成式人工智能服务管理暂行办法》。其中明确规定，生成式人工智能服务提供者应履行网络信息安全义务，生成内容应按规定进行标识，在提供、使用生成式人工智能服务时不得侵害他人肖像权、隐私权、个人信息权益等。《暂行办法》自8月15日起施行，旨在促进生成式人工智能健康发展和规范应用。
生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。近年来，生成式人工智能技术快速发展，我国企业纷纷抢抓机遇，各类基于中文训练的大语言模型密集推出。不过，这项技术在为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。
如何统筹生成式人工智能的发展和安全？《暂行办法》对面向我国境内公众提供生成文本、图片、音频、视频等内容的服务作出了相应规定，坚持发展和安全并重，促进创新和依法治理相结合，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
《暂行办法》明确，不论是提供还是使用生成式人工智能服务，都应遵守法律、行政法规，尊重社会公德和伦理道德。在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，需采取有效措施防止产生歧视；不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；应提升生成式人工智能服务的透明度，提高生成内容的准确性、可靠性。
站在推动技术发展的角度，《暂行办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系，并鼓励生成式人工智能基础技术的自主创新。后续还将推动生成式人工智能基础设施和公共训练数据资源平台建设；促进算力资源协同共享，提升算力资源利用效能；推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源；鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
对生成式人工智能服务提供者，《暂行办法》要求其应当依法承担网络信息内容生产者责任，履行网络信息安全义务。服务提供者应当依法开展预训练、优化训练等训练数据处理活动，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷，并按规定对图片、视频等生成内容进行标识。如果发现违法内容，服务提供者需及时处置，采取模型优化训练等措施进行整改，并向有关主管部门报告。
生成式人工智能服务迎来了监管新规。昨天，国家网信办、科技部等7部门联合发布《生成式人工智能服务管理暂行办法》。其中明确规定，生成式人工智能服务提供者应履行网络信息安全义务，生成内容应按规定进行标识，在提供、使用生成式人工智能服务时不得侵害他人肖像权、隐私权、个人信息权益等。《暂行办法》自8月15日起施行，旨在促进生成式人工智能健康发展和规范应用。
生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。近年来，生成式人工智能技术快速发展，我国企业纷纷抢抓机遇，各类基于中文训练的大语言模型密集推出。不过，这项技术在为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。
如何统筹生成式人工智能的发展和安全？《暂行办法》对面向我国境内公众提供生成文本、图片、音频、视频等内容的服务作出了相应规定，坚持发展和安全并重，促进创新和依法治理相结合，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
《暂行办法》明确，不论是提供还是使用生成式人工智能服务，都应遵守法律、行政法规，尊重社会公德和伦理道德。在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，需采取有效措施防止产生歧视；不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；应提升生成式人工智能服务的透明度，提高生成内容的准确性、可靠性。
站在推动技术发展的角度，《暂行办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系，并鼓励生成式人工智能基础技术的自主创新。后续还将推动生成式人工智能基础设施和公共训练数据资源平台建设；促进算力资源协同共享，提升算力资源利用效能；推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源；鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
对生成式人工智能服务提供者，《暂行办法》要求其应当依法承担网络信息内容生产者责任，履行网络信息安全义务。服务提供者应当依法开展预训练、优化训练等训练数据处理活动，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷，并按规定对图片、视频等生成内容进行标识。如果发现违法内容，服务提供者需及时处置，采取模型优化训练等措施进行整改，并向有关主管部门报告。
