中国国家网信办拟针对生成式人工智能服务出台管理办法，规定利用生成式人工智能（AI）生成的内容，应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度、煽动分裂国家、破坏国家统一等内容。

中国国家互联网信息办公室星期二（4月11日）在官网发布关于《生成式人工智能服务管理办法》的征求意见稿，向社会公开征求意见，意见反馈截止到今年5月10日。网信办解释，此举是为了促进生成式人工智能技术健康发展和规范应用。

根据征求意见稿，利用生成式人工智能产品向公众提供服务前，应当向国家网信部门申报安全评估，并履行算法备案和变更、注销备案手续。

征求意见稿规定，利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一的内容。

这些内容也不得含有宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

征求意见稿要求在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

这项规定要求利用生成式人工智能产品，提供聊天和文本、图像、声音生成等服务的组织和个人（即提供者），应当采取适当措施，防范用户过分依赖或沉迷生成内容，也不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

针对违反规定的提供者，法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正。

拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处1万元（人民币，下同，1935新元）以上、10万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。