其实，这并非孤例。早前已有媒体报道，不少未成年人沉迷AI剧情聊天软件。有家长反映“我看了孩子和AI聊天的对话内容，AI角色竟然让她叫‘老公’”；“孩子半夜两点还没睡，一看，原来是在与AI机器人聊天。”种种现象让许多家长陷入焦虑、忧心忡忡。当下AI技术飞速发展，逐渐渗入到普通人的生活当中，新技术带来了新可能，但也伴随着新问题。比如，AI剧情聊天软件可以根据人的需求、幻想来定制人物的形象、语言和互动方式，从而迎合用户的情感需求。也就说，AI聊天只会顺着你说，让你觉得舒坦，甚至不顾及法律、道德、伦理等等。对自制力不足的未成年人来说，不仅带来了成瘾的风险，还可能影响他形成正确的价值观。由于这类软件的使用门槛极低，只需手机号就能注册登陆，有些应用虽设置了未成年人模式，但用户只需点击“不开启”就可轻松绕过。针对此类生成式人工智能，2023年我国制定了相应的管理办法，其中明确提出，应当采取有效措施 防范未成年人用户过度依赖或沉迷生成式人工智能服务。具体到AI陪伴聊天产品上，防范未成年人用户使用、沉迷AI聊天，更应当成为共识。因此，必须尽早为AI陪伴类服务划出清晰界限，不容相关平台在这些方面打擦边球。同时，监管部门更需要进一步压实平台的主体责任，对提供的服务内容、服务信息真实性等进行审核监督，对导向不良内容采取一键举报机制，及时屏蔽、下架相关内容。此外，家长和学校也要密切关注孩子的心理状况，及时引导他们正确使用新兴技术。别让“人工智能”游走在法律和道德的边缘，把孩子们也带偏了路。
苏公网安备 32010402000518号 互联网新闻信息服务许可证：32120180004 信息网络传播视听节目许可证:110320085
