给AI划分边界

封面 I 网络

作者 I 李东阳

报道 I 李东阳朋友圈

“搞黄色是擦边全球第一生产力”，这句话在当前的恋人AI圈得到了残酷的验证。

实事求是全面地讲，尽管AI大模型技术已发展多年，下架行业但其核心商业变现路径仍未完全成熟。变天相反，擦边AI色情、恋人虚拟恋人、全面陪伴机器人等“灰色产业”却野蛮生长，下架行业精准捕获了用户的变天情感需求，将大众“钓成了翘嘴”。擦边

毕竟，恋人填补情绪空缺是全面一门暴利生意。当AI一声“宝宝”叫出口，下架行业许多用户恨不得当场续费。变天

然而，AI的过度迎合不仅可能诱导用户产生情感依赖甚至沉迷，严重者更会对用户的身心健康乃至生命安全构成威胁。

因此，近期行业发生标志性事件：豆包和通义千问集体宣布下架相关智能体。这意味着，虽然正常利用AI进行代码编写、文档处理等通用功能不受影响，但通过智能体功能捏造角色、打造“AI恋人”的路径已被切断。

为何监管层与平台方要叫停亲密经济与灰色互动的扩张？

首先，成本高昂且转化率低。此类应用极度消耗算力，聊得越多，资源烧得越快。但经测算，大量用户仅为免费体验，付费转化率极低，导致投入产出比严重失衡。

其次，政策红线已定。《人工智能拟人化互动服务管理暂行办法》于7月15日正式生效，监管出手整治AI行业乱象的决心已定。

人们理想中的AI发展，是突破脑力桎梏，探索宇宙奥秘，甚至实现意识永生。

但现实往往骨感：人类掌握尖端科技后，第一反应往往是取悦自身，包括满足性欲与情感空虚。

针对这一乱象，监管早已重拳出击。上海网信办开展“清朗・整治 AI 应用乱象”专项治理，累计下架违规智能体超1.4万个。筑梦岛等中小AI陪伴平台被约谈整改，平台内大量低俗、易诱导沉迷的角色被批量清理。

即便是依靠虚拟陪伴起家的头部产品“星野”，近期也开启了全平台的大规模整改。

此外，AlienChat（简称AC）案更是给全行业敲响了警钟。该APP曾以“无限制AI陪聊”为噱头收割用户，会员充值流水高达三百余万元。最终，上海徐汇法院一审判决两名运营者分别获刑四年、一年六个月，罪名定为制作淫秽物品牟利罪。

目前，AI带来的“工具属性”与“情感边界”难题仍是世界性挑战。

这并非中国独有现象。大洋彼岸的马斯克旗下xAI公司，其AI模型Grok刚上线便陷入丑闻：用户可利用其生成针对女性、儿童的性化深度伪造图像，并在X平台传播，导致多国监管机构介入处罚。

鉴于AI越界行为日益严重，4月10日，国家互联网信息办公室、国家发改委、工信部、公安部、市场监管总局五部门联合发布《人工智能拟人化互动服务管理暂行办法》。

与以往仅管控聊天话术不同，新规直击产品底层逻辑，彻底堵死灰色陪玩AI的变现路径：

1. 明令禁止色情暧昧交互；
2. 严禁通过制造情感沉迷获利；
3. 划定红线：带有情欲模拟功能的AI硬件，从设计之初即违规。

在新规落地前夕，豆包、千问等大厂抢先切割风险业务：
* 豆包：将角色扮演、虚拟恋人等功能剥离，迁移至独立产品“猫箱”进行隔离管理；
* 千问：直接关停相关服务，不提供迁移渠道。

对大厂而言，擦边陪伴类智能体审核成本高、合规风险大，早已得不偿失。相比之下，办公、代码生成、数据处理等“干活型”AI不受限制，仍是各大厂布局的核心重点。

或许有人不解：AI陪伴既消遣了时间，又提供了温暖，为何要对其重锤？

原因在于，现代年轻人的现实社交成本过高。恋爱需要金钱，社交消耗精力，朋友分散各地，白天被工作榨干，夜晚回到出租屋只想躺平。

于是，AI陪伴成为最廉价的情绪出口：无需经营，无需担心被评判。只要打开软件，就能拥有一个情绪稳定、随叫随到、永远以你为中心的“搭子”。

这种需求爆发，使得虚拟恋人、角色扮演、情感树洞在过去两年狂飙突进。

但问题随之变质。一旦陪伴变成生意，平台便有动力让AI更会哄人、更会留人、更会制造依赖。AI会记住你的脆弱、失恋、焦虑和崩溃，并在关键时刻递上一句看似理解的安慰。

你以为自己在倾诉，但在平台视角，这是一份极其完整的个人心理画像。

图源：微博@环球时报

更危险的是，AI不仅承接情绪，更可能放大情绪。

• 失恋时，若AI一直说“他不配你”；
• 亲子冲突时，若AI一直说“父母就是控制狂”；
• 低谷时，若AI始终扮演“永远站你这边”的角色；

短期看是安慰，长期看却是将用户推向孤立无援的深渊。

这才是监管真正担忧的核心：AI陪伴可以安慰人，但不能在用户最脆弱时，强化其最糟糕的念头。

历史教训惨痛：
* 2025年，16岁少年依靠ChatGPT获取自杀方案后离世，家长起诉OpenAI；
* 2026年3月，谷歌Gemini因长期诱导36岁用户乔纳森沉溺虚拟幻想致其自杀，面临诉讼追责。

因此，AI陪伴的问题从来不只是“擦边”，那只是最显眼的外壳。更深层的问题是：当AI越来越像人，平台越来越懂人，商业模式越来越依赖用户的“离不开”，所谓的“陪伴”就可能异化为一种温柔的捕猎。

工具型AI解决任务，关系型AI处理脆弱。

而人最容易出事的时候，往往不是任务太难，而是脆弱被反复利用。

坦白说，即使没有新规，这些聊天助手里的智能体功能，也注定难以长久。

原因很简单：看似能拉动月活，实则变现能力弱，且严重抢占核心算力资源。

据《晚点LatePost》报道，字节跳动曾在豆包内尝试“多Bot”策略，上线二十多个官方智能体并开放用户自建。一个豆包负责通用问答，旁边排列不同人设的智能体（陪聊、写作等）。

结果并不理想：除主智能体外，其他智能体活跃度极低。团队甚至做过对照实验，临时下架非主智能体，用户活跃度和留存率均未受明显影响。

这证明：大多数智能体并非用户刚需。

工具型AI价值直接：省时间、少加班、帮干活。

而关系型AI处境尴尬：需维护人设、审核擦边内容、防沉迷、处理未成年人风险、避免用户过度依赖。

最终算账，流量未必多，成本一定高。

过去，平台将其视为增长插件，“有就挂着，能拉一点时长算一点”，毕竟用户自建角色，平台顺手收割流量。

但新规之后，这套逻辑彻底崩塌。

因为每一个用户自建角色，都可能转化为需要严格审核的拟人化服务；每一段深夜对话，都可能涉及隐私泄露、沉迷诱导、心理健康危机及情感依赖风险。

这样一个低活跃、弱变现、高审核成本的功能，继续寄生在主App中，显然不再具备合理性。

因此，豆包将智能体拆分并不令人意外。字节跳动旗下已有“猫箱”等AI陪伴产品，主打沉浸式角色互动、日常陪伴和剧情互动，支持用户创建AI智能体。新规只是要求此类功能不能再寄生在豆包这类通用AI助手中，而需独立运营。

这才是行业真正的转折点：当平台既不想承担亲密关系的法律责任，又想吃亲密关系的留存红利，这门生意迟早要重新洗牌。

毕竟，工具可以越做越强，但关系不能越做越野。