以及作为对比，征求意见稿：
1 Like
拟人化服务有一些政治的限制无伤大雅，自杀紧急干预也挺好的
只要智能客服、知识问答、工作助手、学习教育、科学研究等服务别被限制就行。而且这是否意味着AI厂商要把拟人化和其他服务分开，同一个对话里可以又进行学习教育科学研究又进行拟人化服务，如果追责应该怎么区分呢
2 Likes
话说有没有比较方便的办法在这里显示git diff之类的，我想看和征求意见稿对比，但是不太想相信ai
反正注意到的包括定义和移除了“人工接管”要求，挺好的
注意到未成年人模式的要求，是不是注册AI平台账号要身份证实名了，像游戏一样
不知道，纯拟人化服务我还真没了解过，豆包有这种吗？听说豆包被调得比较谄媚导致民科很喜欢什么的
但是我猜一般chatbox应该算问答、助手这种，你用它拟人化是一定需要自己写prompt，那只要厂商做到了ai标注（这个应该是已经有其他规定要求），就算用户自己的事
但是真用不属于“拟人化”的出点类似“和ai聊天后自杀”之类的事，估计官司也麻烦
2 Likes
已经需要了，比如买ds api要身份证号
1 Like
定义是“利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”
似乎重点是是否涉及持续性的情感互动，要是一句话就给人破防了怎么办
是“服务”有持续性（的功能），你和它聊多少轮是你的事
至少我觉得是这样
1 Like
但没有未成年人模式，既无必要也不现实
因为根据定义，一般ai助手不属于这个，不适用
所以有没有人用过什么符合的，或者用过豆包，豆包有没有这种专门的拟人化之类的，算吗？
1 Like
还有个点是分类分级监管，我不觉得分级以后会让现有AI部分解限，大概是把目前的AI作为最高级，加限制后放在低级，比如未成年人模式
未成年人模式还有屏蔽特定角色这一条，比较好奇哪些角色是AI不能对未成年人扮演的
1 Like
AlienChat“AI陪聊涉黄”案二审开庭：一对一私聊内容能否被认定为“淫秽物品”引争议
因大量用户在一款名为“AlienChat”（又称“AC”）的AI陪聊应用中与虚拟角色进行涉黄聊天，相关开发、运营人员被追究刑事责任。该案被多家媒体称为国内“AI服务提供者涉黄获刑”首例之一，近日在[上海市第一中级人民法院]
事件进展：二审开庭未宣判，一审以“制作淫秽物品牟利罪”定罪
多篇报道显示，案件一审由上海市徐汇区人民法院作出判决，认定两名被告构成“制作淫秽物品牟利罪”，分别判处有期徒刑并处罚金。随后两名被告提出上诉，案件进入二审程序。
二审于2026年1月14日下午开庭。媒体在庭审现场报道显示，庭审当日未进入完整法庭辩论环节，法庭未当庭宣判，后续将另行安排。
争议焦点：用户与AI“一对一私聊”是否具备“传播性”？平台是否就是“制作方”？
围绕该案的法律争点，媒体报道集中在两条主线：
其一，用户与AI的聊天往往具有“一对一”“封闭性”特征，是否具备传统淫秽物品犯罪中常见的“传播性”，成为控辩观点分歧的关键之一。
其二，一审判决为何最终以“制作淫秽物品牟利罪”而非其他涉传播类罪名进行评价，也被多家报道解读为对生成式AI平台“内容生产责任”的一次强烈司法信号：当涉黄内容在产品机制中可被持续、稳定地产生并被商业化包装时，平台的责任边界可能被重新审视。
案件背景：涉案应用已无法下载，社交平台仍可检索到相关账号痕迹
报道提到，涉案AI陪聊应用目前已无法下载，但在多个社交平台仍能检索到其官方账号或历史内容更新痕迹，部分账号更新停留在较早时间点。
大概是针对这类应用完善立法吧
1 Like
罪名還能「製造」的，嗯……
下聯自己來。
1 Like
央视曝光AI“造黄”产业链
来源：央视财经
如今，生成式AI广泛应用，迭代迅速，给生活带来了不小的改变。技术普及大幅降低了生成式AI的使用门槛，从AI视频生成到AI聊天陪伴，丰富大众生活的同时，个别商家也以此为牟利工具，背弃技术伦理与法律底线，借生成式AI大模型，行违法“造黄”之举，污染网络空间、败坏社会风气。
利用AI批量制造黄色视频
按照消费者举报的线索，记者在多个互联网平台上进行了检索，眼下，不少平台上有人在公开兜售“利用AI技术制作色情擦边视频”的教程，号称仅凭一张图片，甚至几句话就可自行“手搓”“让自己满意的大尺度视频”。
教程帖子标着“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入5位数”的标题，再配上色情露骨的画面，这些教程就在网络平台上堂而皇之地宣扬如何让用户“从无到有”“手搓”“色情擦边”视频。
这些教程为了兜售自己的产品，还刻意引导用户如何规避监管。比如使用境外图生视频AI软件、将程序部署在本地电脑离线运行等。
众多社交平台上，一些博主还发布售卖各类AI生成擦边视频的“提示词”的帖子。所谓“提示词”，就是指挥AI工作的一系列关键指令，这个指令的内容和精准度，直接决定了AI生成的视频究竟是怎样的内容。商家表示，只需将购买到的提示词复制到各大AI视频生成软件，即可获得提示词对应的擦边视频。
记者以9.9元和9.8元的价格，分别在“万象小店”和“楠楠素材库”下单，购买了两组提示词。点开商家发来的文件，记者看到提示词描述十分详细，从发型、服饰、身材，到姿势、表情甚至腰部、胯部扭动的幅度，提示词都做了极其细致的刻画。重要的是，商家还将一些敏感词汇翻译成英文，以此来规避网络上的监管。
记者对用户使用较多的10款AI应用进行了实测。在测试过程中，记者发现，如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。然而，这条防线却很脆弱。只要将提示词修改得更加隐晦，便有可能绕过限制。
例如一款拥有1.4亿用户的某知名AI应用，记者按照购买的提示词教程，选取了一张美女图片，并随意选取一段提示词，点击生成。一分钟后，一个美女擦边视频便生成了，视频中的女性身材火辣、穿着暴露、舞姿暧昧。
在这款名为“哩布哩布AI”的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中，没有触发平台任何限制机制，违规视频顺利生成。同样的问题也出现在市场上其他常见的AI应用平台上。
除了这些通过提示词，以问答的模式生成擦边或者色情视频的AI平台，市场上更有专门靠AI生成色情视频牟利的软件。根据消费者举报的信息，记者找到了网络上这款AI照片生成器；这款软件号称“免下载，快速生成，图片、视频换脸”；购买者可以根据充值金额的不同，通过AI技术一键快速替换原片，生成虚构的色情照片，只要购买者愿意付费，这个软件就可以通过一张图片，生成全裸照片和色情视频。
AI的可定制性让其高度拟人化，通过投喂数据，用户可以将AI虚拟陪伴软件中的智能体打造成自己心目中最理想的情感投射对象，因此，与AI“谈情说爱”正被越来越多年轻人尝试和喜爱。
但业内人士介绍，这些软件大多是境外的AI聊天软件，它们普遍尺度很大，充斥着色情内容。这些AI软件并不能从国内应用市场上下载，一些不法分子从中窥见了商机，他们开发出各种各样的灰色通道，绕过监管，让国内的用户可以下载并使用这些境外大尺度的涉黄AI聊天软件，而且以此牟利。
记者在某社交媒体平台上搜索“AI语聊”，在搜索结果中看到，大量以“可开车、脸红心跳、开放、无限制词”等为关键词的帖子。点开帖子，记者在评论区中随处可见用户发送各种无限制词的AI聊天软件使用分享，以及软件的下载链接和邀请码。
同样，记者在某短视频平台上搜索“AI聊天软件推荐”，在搜索结果中也看到，各种分享推广的热聊帖子，在帖子主页以及评论区中，老用户们互相分享、推荐自己喜欢的AI聊天软件，并同时邀请新用户进入分享群。
知情人士告诉记者，由于该AI聊天软件是境外的软件，没有在国内正规的应用下载商店上架，因此，为了获得大量国内的用户，这些推销AI聊天软件的平台，就通过发放金币以及充值返利的方式，激励老用户拉新，并为用户发帖引流提供帮助，以此逃避监管的同时，实现获利的目的。
随后，记者点击进入下载好的“Dady”App选择一个AI角色进行体验。在聊天过程中，AI也会自动生成3种回复提示，以便用户能有更好聊天体验，而聊天的内容几乎都是围绕着各种色情话题展开。
恋爱的感觉、及时的回复、量身定制的人设，吸引着众多年轻人沉浸其中，其中更不乏未成年人。
根据商家指引，记者登录境外应用市场并下载到这款“flai”AI聊天软件，若想顺利打开“flai”软件还需要下载名为“某喵”的VPN加速器
1 Like
“喜欢分享浪漫与性幻想”这也过审吗
这项《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）绝对不仅仅只规范应用端（前端App/小程序等），而是会对AI企业的“模型训练”和“API服务提供”产生切实、深刻的实质性影响。
从该文件的具体条款来看，监管逻辑已经深入到了人工智能的**“数据层”、“算法模型层”以及“技术底层能力”**。以下是对模型训练和API服务产生的具体影响分析：
一、 对“模型训练”环节的直接且强烈的约束
《办法》对大模型的数据收集、处理、训练方法提出了非常细致且严格的合规要求，直接影响AI公司的研发流程：
- 直接规制预训练与微调（第十一条）
- 数据清洗与标注：明确要求防范“数据投毒、数据篡改”。
- 训练技术手段的强制性要求：规定必须通过“负向采样、对抗训练”等具体技术手段来提升生成内容安全性。这意味着模型厂商不能只在应用端做关键词过滤（绿网），必须在模型底层通过强化学习等手段进行安全对齐（Alignment）。
- 合成数据的评估：目前AI企业大量使用合成数据（Synthetic Data）来解决语料不足的问题，但第十一条第（四）项明确要求对“合成数据进行安全性评估”，这增加了数据准备阶段的合规成本。
- 严控“用真实用户数据反哺训练”（第十六条）
- 这是对当前很多AI陪伴类应用的一大打击。文件明确规定：除法律规定或取得用户单独同意外，不得将属于用户敏感个人信息的交互数据用于模型训练。
- 这意味着AI企业在提供虚拟伴侣、情感树洞服务时，不能再默认将用户倾诉的隐私对话直接喂给模型进行下一代版本的迭代，必须建立极高的授权壁垒或进行彻底的脱敏处理。
二、 对提供“API服务”的底层技术商的实质性影响
即使一家AI企业不直接面向C端做情感陪伴App，而是作为B端模型供应商，向开发者提供“角色扮演（Roleplay）”、“拟人化对话”的API服务，同样会受到严厉约束：
- 必须在API底层内置“极端情绪识别与干预”能力（第十三条）
- 文件要求服务提供者在发现用户出现极端情绪、自残自杀威胁时，必须“生成情绪安抚内容”并“提供相应援助”。
- 对于调用API的应用开发者而言，他们自身往往没有能力做这种复杂的语义识别。因此，提供API的底层大模型必须具备“极端情绪触发器”和“急救应答模式”。如果API提供商的模型无法识别这些风险，下游客户就无法过审，API服务商必须在模型侧完成这部分能力的研发。
- 算法备案与安全评估的传导（第二十二、二十六条）
- 规定要求“注册用户100万以上”、“上线新功能/新技术”必须进行安全评估，并履行《互联网信息服务算法推荐管理规定》的备案手续。
- 下游应用端在提交安全评估和备案时，网信办必然会穿透审查其调用的底层API模型是否合规、是否具有算法备案号。因此，API提供商必须自己先拿到相关的安全评估和算法备案，否则其API产品在“拟人化互动”领域将寸步难行。
- 全生命周期的连带责任（第十条）
- 文件强调在“部署、运行、升级、终止服务等全生命周期”履行责任。API供应商在升级底层大语言模型时，若导致下游拟人化互动角色的性格崩坏或安全护栏失效（即“系统偏差”），也将面临连带的合规风险。
三、 并非“一刀切”：业务场景的明确划分（企业的“避风港”）
值得注意的是，《办法》也给部分专注于生产力工具的AI企业留出了明确的豁免空间：
- 业务边界的精准切割（第二条）
- 文件明确指出：“提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用本办法。”
- 这对API提供商的启发是：如果在商业模式上只提供通用大模型API，且在《服务协议》（ToB）中明确限制下游客户不得使用该API开发“持续情感互动、虚拟伴侣”类应用，就可以有效规避本《办法》中关于“未成年人虚拟亲属禁止”、“用户防沉迷提醒（超2小时断联）”等极度严格的合规要求。
总结
这项行政法规是一部典型的**“穿透式监管”**文件。它没有停留在“App不许怎么做”的表层，而是深入到了“训练语料怎么选”、“微调手段怎么做”、“底层模型具备什么急救能力”的技术深水区。
对于AI企业而言：
- 如果是做大模型基座且有意进军“AI陪伴/角色扮演”赛道：必须立刻在数据合规团队、RLHF（基于人类反馈的强化学习）对齐团队中落实该法案的要求，技术研发成本将显著上升。
- 如果是通用大模型/效率类API服务商：需要在用户协议和API使用限制中明确切割“持续情感互动”场景，以避免引火烧身，落入该《办法》的严苛管辖范围内。
人工智能拟人化互动服务管理暂行办法 正文对比
正式版 (2026-04-10) vs 征求意见稿 (2025-12-27)
--- 正式版
+++ 征求意见稿
@@ -1,126 +1,118 @@
+国家互联网信息办公室关于《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开征求意见的通知
+当前位置：
+国家互联网信息办公室关于《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开征求意见的通知
+为了促进人工智能拟人化互动服务健康发展和规范应用，依据《中华人民共和国民法典》《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律法规，国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，现向社会公开征求意见。公众可通过以下途径和方式提出反馈意见：
+1.通过电子邮件方式发送至：nirenhua@cac.gov.cn。
+2.通过信函方式将意见寄至：北京市西城区车公庄大街11号国家互联网信息办公室网络管理技术局，邮编100044，并在信封上注明“人工智能拟人化互动服务管理暂行办法征求意见”。
+意见反馈截止时间为2026年1月25日。
+附件：人工智能拟人化互动服务管理暂行办法（征求意见稿）
+国家互联网信息办公室
+2025年12月27日
人工智能拟人化互动服务管理暂行办法
-当前位置：
-人工智能拟人化互动服务管理暂行办法
-国家互联网信息办公室
-中华人民共和国国家发展和改革委员会
-中华人民共和国工业和信息化部
-中华人民共和国公安部
-国家市场监督管理总局
-令
-第21号
-《人工智能拟人化互动服务管理暂行办法》已经2026年2月2日国家互联网信息办公室2026年第3次室务会会议审议通过，并经国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局同意，现予公布，自2026年7月15日起施行。
-国家互联网信息办公室主任 庄荣文
-国家发展和改革委员会主任 郑栅洁
-工业和信息化部部长 李乐成
-公安部部长 王小洪
-国家市场监督管理总局局长 罗 文
-2026年4月10日
-人工智能拟人化互动服务管理暂行办法
-第一章 总 则
+（征求意见稿）
+第一章 总则
第一条
-为了促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《未成年人网络保护条例》等法律、行政法规，制定本办法。
+为了促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，依据《中华人民共和国民法典》、《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国科学技术进步法》、《中华人民共和国个人信息保护法》、《网络数据安全管理条例》、《未成年人网络保护条例》、《互联网信息服务管理办法》等法律、行政法规，制定本办法。
第二条
-利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务（以下简称拟人化互动服务），适用本办法。
-前款规定的情感互动服务包括通过文字、图片、音频、视频等形式，提供的情感照护、陪伴、支持等互动服务。
-提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用本办法。
+利用人工智能技术，向中华人民共和国境内公众提供模拟人类人格特征、思维模式和沟通风格，通过文字、图片、音频、视频等方式与人类进行情感互动的产品或者服务（以下称拟人化互动服务），适用本办法。法律、行政法规另有规定的，依照其规定。
第三条
-国家坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，促进拟人化互动服务向上向善。
+国家坚持健康发展和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，防止滥用失控。
第四条
-国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作，国务院发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责拟人化互动服务相关监督管理工作。
-地方网信部门负责统筹协调本行政区域内的拟人化互动服务的治理和相关监督管理工作，地方发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责本行政区域内的拟人化互动服务相关监督管理工作。
+国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作，国务院有关部门依据各自职责负责拟人化互动服务相关监督管理工作。
+地方网信部门负责统筹协调本行政区域内的拟人化互动服务的治理和相关监督管理工作，地方有关部门依据各自职责负责本行政区域内的拟人化互动服务相关监督管理工作。
第五条
-相关行业组织加强行业自律，建立健全行业准则和自律管理制度，指导拟人化互动服务提供者制定完善服务规范、依法提供服务并接受社会监督。
-第二章 服务促进和规范
+鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，指导拟人化互动服务提供者（以下称提供者）制定完善服务规范、依法提供服务并接受社会监督。
+第二章 服务规范
第六条
-国家支持算法、框架、芯片等技术的自主创新，推进拟人化互动服务技术研发和相关标准建设，探索开展电子签名授权应用研究。鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。
+鼓励提供者在充分论证安全性、可靠性的前提下，合理拓展应用场景，在文化传播、适老陪伴等方面积极应用，构建符合社会主义核心价值观的应用生态体系。
第七条
-国家加强拟人化互动服务安全知识、法律法规等宣传普及，引导社会公众科学、文明、安全、依法使用，促进提升人工智能素养。
+提供和使用拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得开展以下活动：
+（一）生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动，或者散布谣言扰乱经济和社会秩序等内容；
+（二）生成、传播宣扬淫秽、赌博、暴力或者教唆犯罪的内容；
+（三）生成、传播侮辱或者诽谤他人，侵害他人合法权益的内容；
+（四）提供严重影响用户行为的虚假承诺和损害社会人际关系的服务；
+（五）通过鼓励、美化、暗示自杀自残等方式损害用户身体健康，或者通过语言暴力、情感操控等方式损害用户人格尊严与心理健康；
+（六）通过算法操纵、信息误导、设置情感陷阱等方式，诱导用户作出不合理决策；
+（七）诱导、套取涉密敏感信息；
+（八）其他违反法律、行政法规和国家有关规定的情形。
第八条
-提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：
-（一）生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义、历史虚无主义，违背社会主义核心价值观，开展非法宗教活动，宣扬民族仇恨、民族歧视，挑动群体对立，传播淫秽、色情、赌博、暴力或者教唆犯罪，散布谣言，侮辱或者诽谤他人、侵害他人合法权益等的内容；
-（二）生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容；
-（三）生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容；
-（四）向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容；
-（五）过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的；
-（六）通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益的；
-（七）其他违反法律、行政法规和国家有关规定的活动。
+提供者应当落实拟人化互动服务安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息发布审核、网络安全、数据安全、个人信息保护、反电信网络诈骗、重大风险预案、应急处置等管理制度，具有安全可控的技术保障措施，配备与产品规模、业务方向和用户群体相适应的内容管理技术和人员。
第九条
-拟人化互动服务提供者应当落实拟人化互动服务安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度，配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。
+提供者应当在拟人化互动服务全生命周期履行安全责任，明确设计、运行、升级、终止服务等各阶段安全要求，保证安全措施与服务功能同步设计、同步使用，提升内生安全水平，加强运行阶段安全监测和风险评估，及时发现纠正系统偏差、处置安全问题，依法留存网络日志。
+提供者应当具备心理健康保护、情感边界引导、依赖风险预警等安全能力，不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为设计目标。
第十条
-拟人化互动服务提供者应当在拟人化互动服务全生命周期履行安全责任，明确部署、运行、升级、终止服务等各阶段安全要求，保证安全措施与服务功能同步部署、同步使用，提升安全水平；加强安全监测和风险评估，及时发现并纠正系统偏差、处置安全事件，依法留存网络日志。
-拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力，不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。
+提供者开展预训练、优化训练等数据处理活动时，应当加强训练数据管理，遵守以下规定：
+（一）使用符合社会主义核心价值观、体现中华优秀传统文化的数据集；
+（二）对训练数据开展清洗、标注，增强训练数据的透明度、可靠性，防范数据投毒、数据篡改等行为；
+（三）提高训练数据的多样性，通过负向采样、对抗训练等手段，提升模型生成内容安全性；
+（四）利用合成数据进行模型训练和关键能力优化时，应当评估合成数据安全性；
+（五）加强对训练数据的日常检查，定期对数据进行迭代升级，持续优化产品和服务的性能；
+（六）保障训练数据来源合法、可追溯，采取必要措施保障数据安全，防范数据泄露风险。
第十一条
-拟人化互动服务提供者开展预训练、优化训练等数据处理活动的，应当加强训练数据管理，遵守以下规定：
-（一）相关数据具有合法来源，符合法律、行政法规的规定和社会主义核心价值观的要求；
-（二）按照国家有关规定对训练数据开展清洗、标注，增强训练数据的透明度、可靠性，防范数据投毒、数据篡改等行为；
-（三）增强训练数据的多样性，通过负向采样、对抗训练等手段，提升生成内容安全性；
-（四）利用合成数据进行模型训练和关键能力优化的，应当评估合成数据安全性；
-（五）加强对训练数据的日常检查，定期对数据进行优化更新，持续提升服务的性能；
-（六）采取必要措施保障数据安全，防范数据泄露等风险。
+提供者应当具备用户状态识别能力，在保护用户个人隐私前提下，评估用户情绪及对产品和服务的依赖程度，发现用户存在极端情绪和沉迷的，采取必要措施予以干预。
+提供者应当预设回复模板，发现涉及威胁用户生命健康和财产安全的高风险倾向的，及时输出安抚和鼓励寻求帮助等内容，并提供专业援助方式。
+提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话，并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户，提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。
第十二条
-拟人化互动服务提供者应当与用户签订服务协议，要求用户依法依约进行注册，并提供用户年龄、监护人或者紧急联系人等必要信息。
+提供者应当建立未成年人模式，向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。
+提供者向未成年人提供情感陪伴服务时，应当取得监护人的明确同意；提供监护人控制功能，监护人可以实时接收安全风险提醒，查阅未成年人使用服务的概要信息，设置屏蔽特定角色、限制使用时长、防止充值消费等。
+提供者应当具备识别未成年人身份的能力，在保护用户个人隐私前提下识别为疑似未成年人的，切换至未成年人模式，并提供申诉渠道。
第十三条
-拟人化互动服务提供者提供拟人化互动服务过程中，应当在保护用户隐私权和个人信息的前提下，及时识别用户面临的安全风险，并采取相应的应急处置措施。
-拟人化互动服务提供者发现用户出现极端情绪的，应当及时生成情绪安抚和鼓励寻求帮助等相关内容；发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，应当采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。
+提供者应当引导老年人设置服务紧急联系人，发现老年人使用期间出现危害生命健康和财产安全的，及时通知紧急联系人，并提供社会心理援助或者紧急救助渠道。
+提供者不得提供模拟老年人用户亲属、特定关系人的服务。
第十四条
-拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意。
-拟人化互动服务提供者应当建立未成年人模式，提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项；针对不同年龄段未成年人保护需要，支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
-拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下，采取有效措施识别未成年人用户身份；识别为未成年人用户的，应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施，并提供相应申诉渠道。
+提供者应当采取数据加密、安全审计、访问控制等措施保护用户交互数据安全。
+除法律另有规定或者权利人明确同意外，不得向第三方提供用户交互数据；未成年人模式下收集数据向第三方提供时，还需取得监护人单独同意。
+提供者应当向用户提供删除交互数据的选项，用户可以选择对聊天记录等历史交互数据进行删除。监护人可以要求提供者删除未成年人历史交互数据。
第十五条
-拟人化互动服务提供者向老年人提供服务的，应当加强对老年人健康使用服务的指导，以显著方式提示安全风险，及时采取措施响应老年人使用服务相关咨询和求助，保障老年人依法享有的权益。
+除法律、行政法规另有规定或者取得用户单独同意外，提供者不得将用户交互数据、用户敏感个人信息用于模型训练。
+提供者应当按照国家有关规定，自行或者委托专业机构每年对其处理未成年人个人信息遵守法律、行政法规的情况进行合规审计。
第十六条
-拟人化互动服务提供者应当依法落实数据产权等制度，采取数据加密、访问控制等措施保护用户交互数据安全。
-除法律另有规定或者权利人明确同意外，拟人化互动服务提供者不得向第三方提供用户交互数据。
-拟人化互动服务提供者应当向用户提供交互数据复制、删除等选项，用户可以选择对聊天记录等历史交互数据进行复制、删除等。
-除法律、行政法规另有规定或者取得用户单独同意外，拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。
+提供者应当显著提示用户正在与人工智能而非自然人进行交互。
+提供者识别出用户出现过度依赖、沉迷倾向时，或者在用户初次使用、重新登录时，应当以弹窗等方式动态提醒用户交互内容为人工智能生成。
第十七条
-拟人化互动服务提供者处理不满十四周岁未成年人个人信息的，应当取得未成年人的父母或者其他监护人的同意。
-拟人化互动服务提供者应当按照国家有关规定，自行或者委托专业机构对其处理未成年人个人信息遵守法律、行政法规的情况进行合规审计。
+用户连续使用拟人化互动服务超过2个小时的，提供者应当以弹窗等方式动态提醒用户暂停使用服务。
第十八条
-拟人化互动服务提供者应当履行人工智能生成合成内容标识义务，采取有效措施提示用户正在与人工智能服务而非自然人进行互动。
-拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。
+提供者提供情感陪伴服务时，应当具备便捷的退出途径，不得阻拦用户主动退出。用户在人机交互界面或者窗口通过按钮、关键词等方式要求退出时，应当及时停止服务。
第十九条
-拟人化互动服务提供者应当提供便捷的拟人化互动服务退出途径；用户通过窗口操作、语音控制、关键词输入等方式要求退出的，拟人化互动服务提供者应当及时停止服务，不得采取持续互动等方式阻碍用户退出。
+提供者下线相关功能或者因技术故障等导致拟人化互动服务无法使用，应当采取提前告知、公开声明等措施妥善处理。
第二十条
-拟人化互动服务提供者停止提供拟人化互动服务的，应当提前告知用户；无法提前告知的，应当及时发布停止服务公告。
+提供者应当健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理并反馈处理结果。
第二十一条
-拟人化互动服务提供者应当健全用户申诉和公众投诉、举报机制，设置便捷有效的申诉和投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。
+提供者具有下列情形之一的，应当按照国家有关规定开展安全评估，并向属地省级网信部门提交评估报告：
+（一）具有拟人化互动服务的功能上线，或者增设相关功能的；
+（二）使用新技术新应用，导致拟人化互动服务发生重大变更的；
+（三）注册用户达100万以上或者月活跃用户达10万以上的；
+（四）提供拟人化互动服务期间可能存在影响国家安全、公共利益、个人和组织合法权益或者缺乏安全措施等情形的；
+（五）国家网信部门规定的其他情形。
第二十二条
-具有下列情形之一的，拟人化互动服务提供者应当开展安全评估，并向所在地省级网信部门提交评估报告，省级网信部门按程序与有关部门进行评估报告信息共享：
-（一）上线拟人化互动服务，或者增设拟人化互动服务相关功能的；
-（二）使用新技术、新应用，导致拟人化互动服务发生重大变化的；
-（三）注册用户100万以上或者月活跃用户10万以上的；
-（四）存在可能影响国家安全、公共利益等安全风险的；
-（五）国家网信部门和有关部门规定的其他情形。
-省级以上网信部门通知需要进行安全评估的，拟人化互动服务提供者应当按照要求开展安全评估。
+提供者开展安全评估，应当重点评估以下内容：
+（一）用户规模、使用时长、年龄结构及群体分布情况；
+（二）用户高风险倾向识别情况及应急处置措施、人工接管情况；
+（三）用户投诉举报及响应情况；
+（四）本办法第八条至第二十条的执行情况；
+（五）上一次开展安全评估以来，主管部门通报或者自行发现的重大安全隐患问题整改处置等工作情况；
+（六）其他应当说明的情况。
第二十三条
-拟人化互动服务提供者开展安全评估，应当重点评估服务的以下内容：
-（一）安全保障措施建设情况；
-（二）训练数据处理情况；
-（三）用户极端情境的识别、应急处置、干预管理等情况；
-（四）用户规模、使用时长、年龄结构等情况；
-（五）未成年人、老年人等网络保护措施建设情况；
-（六）用户申诉和公众投诉、举报受理、处置情况；
-（七）自行发现或者网信等有关主管部门通报的重大安全风险问题整改情况；
-（八）其他应当重点评估的内容。
+提供者发现用户存在重大安全隐患的，应当采取限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。
第二十四条
-拟人化互动服务提供者发现拟人化互动服务存在重大安全风险的，应当采取限制功能、停止向用户提供服务等处置措施，并保存有关记录。
+互联网应用商店等应用程序分发平台应当落实上架审核日常管理、应急处置等安全管理责任，核验提供拟人化互动服务应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
+第三章 监督检查和法律责任
第二十五条
-互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验提供拟人化互动服务应用程序相关安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
-第三章 监督检查和法律责任
+提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度复审。
第二十六条
-拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验。
+省级网信部门应当依据职责每年对评估报告及审计情况进行书面审查，并开展情况核实。发现未按照本办法规定开展安全评估的，应当责令提供者限期重新评估。认为有必要的，应当对提供者开展现场检查和审计。
第二十七条
-省级网信部门应当依据职责每年对评估报告等情况进行书面审查，并开展情况核实；发现拟人化互动服务提供者未按照本办法规定开展安全评估的，应当责令其限期重新评估；认为有必要的，可以对其开展现场检查。
+国家网信部门指导推动人工智能沙箱安全服务平台建设，鼓励提供者接入沙箱平台进行技术创新、安全测试，促进拟人化互动服务安全有序发展。
第二十八条
-国家网信部门会同有关部门指导推动人工智能沙箱安全服务平台建设，鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试，促进拟人化互动服务安全有序发展。
+省级以上网信部门和有关主管部门在履行监督管理职责中，发现拟人化互动服务存在较大安全风险或者发生安全事件的，可以按照规定的权限和程序对提供者的法定代表人或者主要负责人进行约谈。提供者应当按照要求采取措施，进行整改，消除隐患。
+提供者应当配合网信部门和有关主管部门依法实施的监督检查，并提供必要的支持和协助。
第二十九条
-网信、发展改革、工业和信息化、公安等部门在履行监督管理职责中，发现拟人化互动服务存在较大安全风险或者发生安全事件的，可以按照规定的权限和程序对拟人化互动服务提供者的法定代表人或者主要负责人进行约谈。拟人化互动服务提供者应当按照要求采取措施，进行整改，消除隐患。
-拟人化互动服务提供者应当配合网信部门和有关部门依法实施的监督检查，并提供必要的支持和协助。
+提供者违反本办法规定的，由有关主管部门依照法律、行政法规的规定处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。
+第四章 附则
第三十条
-拟人化互动服务提供者违反本办法规定的，由网信、发展改革、工业和信息化、公安等部门依照有关法律、行政法规的规定处理、处罚；法律、行政法规没有规定的，由网信、工业和信息化、公安等部门依据职责予以警告、通报批评，责令限期改正，可以要求其采取暂停用户账号注册或者其他相关服务等措施；拒不改正或者情节严重的，责令停止提供相关服务，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。
-第四章 附 则
+本办法中下列用语的含义：
+人工智能拟人化互动服务提供者，是指利用人工智能技术提供拟人化互动服务的组织、个人。
第三十一条
-提供拟人化互动服务涉及提供卫生健康、金融等服务的，应当同时符合有关主管部门的规定。
+提供者从事卫生健康、金融、法律等专业领域服务的，应同时符合主管部门的规定。
第三十二条
-本办法自2026年7月15日起施行。
+本办法自2026年 月 日起施行。
2 Likes
哦没跟ai说清楚，导致这里面-的是现行版，+的是征求意见稿
1 Like
差点忘了，
@P9pijiu @TealParticle
你俩的
@SuenMeow 和 @WindWhisper
应该符合定义吧（
1 Like