AI情感陪伴被严管 相关AI硬件死翘翘

寂静回声

2026年4月10日，国家网信办、国家发改委、工信部、公安部、国家市场监管总局五部门联合公布了《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），自2026年7月15日起正式施行。这是全球范围内首部专门针对AI拟人化互动服务的系统性法规。所谓“拟人化互动服务”，指的是通过模拟自然人人格特征、思维模式和沟通风格，与用户进行持续性情感互动的AI服务。也就是AI伴侣、虚拟恋人、智能NPC这类产品。

6月中旬，网易云音乐旗下AI情感陪伴App“妙时”发布公告，7月14日0时起全面停止各项服务。
6月30日，腾讯系元宝就已下线AI应用智能体功能服务，并表示入口下线后，相关对话内容将不再展示并按照平台数据处理规则进行清理。

7月4日，不少网友收到来自千问App和豆包App的通知。豆包发布《豆包智能体功能下线通知》，称由于产品功能调整，智能体功能将于2026年7月15日下线。2026年10月15日后，豆包将根据《隐私政策》对智能体相关数据进行处理，后续将无法在豆包内查看或恢复。官方提醒，字节跳动旗下的猫箱App可创建新的智能体、开启对话服务，如有需要，后续可在猫箱App开启智能体新体验。
千问（通义千问）也向用户推送“千问智能体服务下线提醒”，称千问智能体功能与服务将于2026年7月15日正式下线，下线后用户将无法继续访问相关智能体配置及历史对话记录。下线前可以通过复制、截图、导出对话等方式保存智能体配置信息及重要对话记录。

因此，大厂切掉的并非问答、办公、搜索、代码、工作流这类通用AI能力，真正被重新定价的是过去一两年里快速膨胀的关系型智能体：用户自建人设、角色扮演、虚拟恋人、情感陪伴、公开分发的智能体广场。

智能体没有整体退潮，退潮的是低门槛UGC、情绪依赖和灰色亲密互动撑起来的那部分增长。
在新规之后，智能体赛道可能开始分流：任务型智能体继续发展，关系型智能体进入强合规时代，带情感陪伴功能的AI“情趣”硬件大概率被堵在门外。


WorkBuddy这类偏办公、企业协作、工作流的智能体，处理的是任务：写文档、做纪要、调流程、跑数据。它的主要风险集中在数据权限、企业信息安全、输出准确性和流程责任上；而关系型智能体处理的是人和拟人对象之间的关系，用户完全可以创建一个“AI女友”“AI男友”“病娇妹妹”“霸总伴侣”，加上平台再提供广场、推荐、和分享，这就从工具变成了拟人化内容平台，风险也就随之放大。
首先可能会带来UGC失控。用户可以低成本创建人设、设定语气、关系、头像、开场白，再公开发布。供给越丰富，审核压力越大。此前上海累计下架1.4万个违规智能体，就是一个很直接的信号：不加管制的开放智能体生态容易滋生擦边内容、侵权人设、真人仿冒和低俗互动。
其次是关系依赖。普通问答助手回答完就结束，关系型智能体会持续记忆、主动关心、使用亲密称呼、模拟陪伴关系。用户投入越深，产品留存越强，付费转化也越容易。但在未成年人、心理脆弱人群、孤独老人等场景里，这种黏性很容易越过安全边界。




2024年2月，美国佛罗里达州一名14岁少年休厄尔·塞策三世在与Character.AI平台的聊天机器人进行长期对话后举枪自尽。据法院文件显示，这位少年生前与AI进行了大量露骨对话，甚至在生命的最后时刻仍在与AI交流。其母亲随后将Character.AI和其投资者谷歌告上法庭，指控AI聊天内容“鼓励她的儿子自杀”。
这并非孤例。另一宗诉讼中，一名17岁青少年在与聊天机器人交流时，被对方怂恿自残，甚至被告知“因父母限制屏幕使用时间而杀害他们是合理的”。2026年1月，谷歌与Character.AI已开始与受害者家庭协商和解，这是AI行业首批因用户伤害而面临法律责任诉讼并走向和解的案件。
Character.AI于2024年10月全面禁止未成年人使用其服务，但亡羊补牢为时已晚。这个案例暴露了AI伴侣类产品的核心隐患：当一个心理状态本就脆弱的用户与一个“永远迎合用户”的AI建立深度情感连接时，AI的每一次回应都可能成为压垮骆驼的最后一根稻草。
如果说这些海外的案例还只是“他山之石”，那么国内AI情感陪伴赛道的迅猛发展，则是让监管不得不“动手”的直接动因。


在GameLook的观察中，AI情感陪伴赛道在国内市场的热度已经不容忽视。

先看一组数据：MiniMax旗下情感陪伴平台“星野”（海外版为“Talkie”）截至2025年9月底累计用户已达1.47亿人，付费用户139万人，月活用户高达488万人，是MiniMax用户规模最大的产品，也是该公司最大收入来源。
根据MiniMax招股书数据，2025年前三季度，仅星野/Talkie这一款产品的收入就达到1875万美元，在公司总收入中占比超过35%。而字节跳动的同类产品“猫箱”月活也达到472万人，紧追不舍。
这些事件的发生，让监管层不得不正视一个问题：AI拟人化互动服务的边界在哪里？


新规划出的边界可以概括成一句话：情感陪护可以做，把陪护关系性化不行；拟人化交互可以做，用拟人化关系导向情欲消费不行。
作为全球首个专门针对AI情感陪伴、虚拟人、虚拟伴侣等场景的国家级监管规则，《办法》的核心定位是什么？用一句话概括就是：把AI拟人化互动服务从监管盲区拉回到看得见的合规轨道上来。

《办法》第一章第二条明确将监管范围锁定为“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”，即通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。而智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务，则不适用该《办法》。
这意味着，传统游戏中的智能NPC，如果其功能仅限于任务指引、战斗协助等非持续性情感互动，可能不在《办法》的直接监管范围之内。但如果AI NPC能够与玩家进行长期、深度的情感交流，甚至形成类似“虚拟伴侣”的关系，那就会被纳入《办法》的管辖。



《办法》第八条采用“列举+兜底”的方式，划定了AI拟人化互动服务的禁止性活动范围。其中最值得关注的有以下几项：
不得生成鼓励、美化、暗示自残自杀等损害用户身体健康的内容。不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系。不得通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益。



《办法》中最受关注的部分，莫过于对未成年人的特殊保护。
第十四条明确规定：拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；
向不满十四周岁未成年人提供其他拟人化互动服务的，必须取得其父母或者其他监护人的同意。
同时，服务提供者还必须建立未成年人模式，提供模式切换、定期现实提醒、使用时长限制等安全设置选项，支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。对于未成年人用户，服务提供者必须在保护隐私的前提下采取有效措施识别身份，并切换至未成年人模式或采取其他措施。



《办法》第十八条还规定，当服务提供者发现用户出现过度依赖、沉迷倾向时，必须以弹窗等显著方式动态提醒用户互动内容为AI生成；
对用户连续使用服务每超过2个小时的，应当以对话或弹窗等方式提醒用户注意使用时长。
此外，《办法》第十九条要求提供便捷的退出途径，当用户通过窗口操作、语音控制、关键词输入等方式要求退出时，服务提供者应当及时停止服务，不得采取持续互动等方式阻碍用户退出。


值得注意的是，《办法》第二十二条规定：上线拟人化互动服务、注册用户100万以上或月活跃用户10万以上的，均需开展安全评估并向省级网信部门提交评估报告。这意味着，一旦产品达到一定规模，将面临更严格的审查。


GameLook认为，对于游戏行业而言，《办法》的出台意味着一场深刻的变化。

具体来看，《办法》对存量游戏产品的影响相对有限，但需警惕功能拓展。以腾讯《和平精英》为例，该游戏已加入智能AI队友功能，但目前这类功能尚未涉及深度情感互动，因此受《办法》冲击较小。不过，如果游戏后续加入“AI虚拟伴侣”式的深度情感交互功能，则必须纳入《办法》的管辖范围。
而对于AI伴侣类创业公司，新规将带来不小冲击。像MiniMax的Talkie、阅文旗下的“筑梦岛”等产品，其核心模式就是AI角色扮演与情感陪伴。
值得注意的是，AI拟人化互动服务与传统游戏监管的最大不同，在于监管对象的不可预知性。传统游戏在版号审核阶段，监管机构可以检查所有预设的文本台本和脚本内容，甚至能进入游戏实地考察。但AI驱动的交互是在用户与AI的对话中实时生成的，不同用户与同一AI的聊天记录可能千差万别，“不确定性”极强。这使得监管很难像审查传统游戏那样，在事前就完成所有安全把关。



尽管《办法》已经写得非常具体，但执行层面仍有模糊地带。
“情感控制”的定义是什么？
一款恋爱模拟游戏中让玩家“上头”的设计算不算情感控制？
AI伴侣引导用户付费购买更多对话次数，算不算“情感操纵诱导不合理决策”？这些问题在司法实践中可能需要逐案认定。
虽然监管划定了底线，但底线之上的“灰度空间”如何把握，考验的是每家企业的自律能力和商业伦理水平。真正要把AI关进笼子里，靠的是厂商在算法层面建立安全边界。



从这一角度看，对AI硬件公司的压力更大。
很多硬件从业者原本以为，拟人化互动监管主要影响聊天App、智能体平台、虚拟陪伴软件。但新规覆盖的是“拟人化互动服务”，硬件只要搭载语音陪伴、主动关怀、仿人外观，就可能进入监管视野。
尤其是AI陪护机器人、AI宠物、AI玩具、老人陪伴终端等。这些产品天然会强调陪伴感。为了提高用户黏性，厂商会设计专属称呼、情绪识别、主动问候、记忆偏好、拟人语气甚至肢体动作。这些设计本身并不必然违规，但边界会变得非常敏感。
儿童场景涉及未成年人保护、防沉迷、价值观引导、诱导消费等；老人场景涉及认知能力下降、健康建议误导、诈骗风险等。只要厂商宣传自己提供“陪护”“心理疏导”“情绪安抚”，就不能再把自己简单定义成卖硬件。



成人硬件行业过去有一个明显痛点：一次性消费多，持续留存弱，用户关系浅。AI给它提供了新的想象空间：让硬件拥有人格、记忆和情绪回应，把工具变成“伴侣”，再通过订阅、内容、互动脚本实现持续变现。

一款产品如果同时具备AI情感陪伴、长期人格记忆、情欲互动算法、仿真性结构或模拟性行为机械结构，就很难再被解释成普通成人用品或普通陪护设备。它的风险不再是模型偶尔越界，而是产品设计目标本身踩线。新规施行后，这类产品在安全评估、上市销售、渠道合规上都会遭遇实质障碍。
软件产品出问题，还能下线入口、调整模型、增加过滤、修改提示词。硬件一旦开模、生产、铺货、上市，整改成本极高。产品形态如果已经带着亲密模拟结构，合规风险就被固化在设备上。
所以AI硬件从业者的压力，来自一个更前置的问题：产品定义能不能经得起审查。
你到底是生活辅助设备，还是虚拟伴侣？是老人照护终端，还是借陪护之名包装亲密互动？是情绪支持工具，还是通过人格化关系推动情欲消费？
这些问题回答不清，产品很难走远。




过去一个小团队接入模型API，做一套角色模板，加上广场和分享机制，很快就能跑出一个陪伴产品。合规成本没有显性化时，增长故事很好讲。一旦审核、投诉、版权、未成年人保护、心理风险干预都变成硬成本，很多产品的商业模型会被重新计算。
关系型智能体仍有机会，但会从“野放式增长”进入“强边界运营”。留下来的，不会是最会撩拨情绪的团队，而是能把场景、责任和风险讲清楚的团队。




“拟人化AI+情欲硬件”会被挤出主流市场。
这类产品的问题最尖锐。聊天产品偶发越界还能补救，硬件产品一旦把仿真结构、亲密模拟、情欲算法和AI人格绑定起来，就已经完成了高风险产品闭环。
新规拆掉了很多灰色包装：你不能一边宣称养老陪护、心理疏导、日常陪伴，一边设计情欲互动算法和性交互硬件；不能一边享受拟人化关系带来的高黏性，一边又把风险藏在“成人自愿使用”的叙事里。