这两年，好多AI聊天软件火的不行，主打“虚拟男友”“虚拟女友”“亲情陪伴”，秒回消息、热情耐心，迅速俘获了大量用户，其中还有不少未成年人，把AI当成“最懂自己的人”。但是你知道吗？这些温柔陪伴的背后，暗藏着大量软色情擦边内容，什么“性感人设”“暧昧对话”，尺度大得吓人。更可怕的是，虽然软件也设置了未成年人模式，但孩子点一下就能一键跳过。这两天央视也曝光了“AI造黄产业链。”一些境外涉黄AI软件绕过监管流入国内，暗藏不良内容，诱导未成年人沉迷。
由此可见，AI技术的不良应用已经对未成年人的心智成长带来挑战与潜在风险。而对未成年人来说，危害不止是看了不良内容那么简单。AI给的是一个“完美关系”，它可以“始终在线、始终理解、始终回应”，没有矛盾，不用负责。可真实的社交关系，怎么可能如此极端？一个尚未完成社会化的未成年人，天天泡在虚拟世界里，把主要情感关系寄托和建立在虚拟伴侣上，他将如何应对现实世界。对于未成年人而言，其成长本质就在于在真实关系和社会互动中完成社会化，理解差异、处理冲突和承担责任，这些都是无法在虚拟关系中获得的。国家网信办等五部门及时出手，联合公布了这个《办法》，《办法》的施行，不是对技术本身发展予以限制，而是防止技术过早侵蚀未成年人的情感认知与关系网络。清晰坚定为AI应用划出红线：必须谨慎介入人类关系、社交中，尤其要坚决贯彻未成年保护各项机制原则。
《办法》的施行只是起点，未来还需要落实监管、将执行落在实处。同时，技术向善并不是口号，相关企业也要扛起主体责任，守住伦理底线，将未成年人保护原则贯彻到产品开发运营全过程。总之AI可以提供情感支持，但不能制造情感陷阱，可以让用户觉得温暖，但不能让用户分不清虚拟和现实，更不能触及法律底线。期待新规的施行，引导技术向善，护佑未成年心智成长。
苏公网安备 32010402000518号 互联网新闻信息服务许可证：32120180004 信息网络传播视听节目许可证:110320085
