人工智能拟人化互动服务新规施行一周后，南都N视频独家报道《AI虚拟伴侣乱象调查》推动行业治理又有新进展。7月23日，杭州市余杭区网信办再回应南都N视频记者称，截至目前，报道实测平台“EchoMe”App运营主体还在依法依规配合整改中，“后续App上架需完成安全评估，整改未完成、安全评估未通过则不予上架。”
南都此前报道。
南都此前报道，4月下旬至5月上旬，南都记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多个AI虚拟伴侣平台发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，App系统预设角色中有大量袒胸露乳的女性人物，聊天中充斥着具有性暗示的低俗话语等。
“EchoMe”角色库中有大量带有“偏执”“伪善”“暴力”等标签的角色。用户还可以选择不同话题及副本，其中暗含可能引发未成年人模仿不安全行为、产生极端情绪的内容，比如“穿越到恐怖副本，你必须要鲨了我不然会死掉”“假如我们在平行世界相遇，你愿意当小三吗”。
5月12日，报道发出一天后，“EchoMe”App运营负责人回应南都记者表示，“已在第一时间启动专项排查与整改工作。”该App内“恐怖暴力”“小三”“离婚互怼”等剧情被删除，角色标签“强制爱”“强制独占”“自私自利”等被修改。
随后，“EchoMe”再发布整改公告称，“补充了一批符合正向价值观的新话题。相关优化已生效。”5月19日，上述运营负责人告诉南都记者， “目前整改比较彻底的是话题和标签。出现‘小三’等剧情确因团队未明确审核标准，已严肃批评。”
“EchoMe”App端内此前发布的公告。
据了解，“EchoMe”背后公司为杭州昵享信息技术有限公司。5月28日，公司所属地余杭区网信办回应南都记者称，关注到报道之后，已介入并督促相关App下架整改。
7月20日，“网信中国”发文指出，中央网信办开展“清朗·未成年人网络保护”专项行动，将从三个环节重点整治“部分AI软件创设不良人设角色，输出暧昧、低俗内容”等多个突出问题。
7月23日，杭州市余杭区网信办再回应南都记者表示，“截至目前，‘EchoMe’App运营主体还在依法依规配合整改中，后续App上架需完成安全评估，整改未完成、安全评估未通过则不予上架。”
采写：南都N视频记者 彭雨欣
恒正网提示：文章来自网络，不代表本站观点。
