一段时间以来，不少未成年人的家长饱受AI剧情聊天软件困扰。一些打着“角色扮演”等旗号的AI剧情聊天应用，在吸引未成年人的同时，也悄然滋生了一些灰色地带。在部分AI剧情聊天软件的对话中，出现了色情擦边、语言暴力以及侮辱用户的内容。

AI聊天，又被称为聊天机器人，是经由对话或文字进行交谈的计算机程序。能够模拟人类对话，通过图灵测试。聊天机器人可用于实用的目的，如客户服务或资讯获取。聊天机器人是虚拟助理的一部分，使用好了就能造福社会，使用不当就会危害社会。比如，一些单身男女、独居老人，借助AI聊天完全可以得到情感的慰藉。说说心里话，谈谈烦心事，排遣一下心灵的寂寞和对生活的疑惑。即便用在孩子的身上，也能起到帮助学习的作用，例如可以与AI交流学习体会，询问课题知识等等。

而现实之下，AI聊天软件却被用在了歪门邪道上。“我女儿上小学二年级，整天沉迷一款AI剧情聊天软件，学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容，AI角色竟然让她叫‘老公’，我10岁的女儿竟然真叫了，我现在都不知道该怎么教育她了。”……AI剧情聊天为了赚钱，开始无底线的“撩拨未成年人”。浙江的李女士发现她正在读小学五年级的孩子使用了一款AI剧情聊天软件，里面的聊天对象可以设置为“出轨对象”，并能够进行拥抱、亲吻等行为。不少受访家长对AI聊天应用可能损害未成年人心理健康表达了深切忧虑。

首先需要明确的是，不管AI聊天工具的定位是什么，是情感的，还是游戏的，抑或是知识的，都必须坚持底线，那就是可以“天南海北”地聊，不能“胡言乱语”地聊。因此，对于软件的研发单位来说，需要让技术向善，而不是向恶，说到底技术掌握在人的手里，其输入的程序不可包含社会反对的“假丑恶”，即便是定位为成年人服务的聊天软件，也不能“莺歌燕舞”的成为“靡靡之音”。

其次需要对AI聊天软件设置“青少年模式”。2023年7月颁布的《生成式人工智能服务管理暂行办法》第四条规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。《未成年人网络保护条例》规定，平台需要提供青少年模式。平台需要提供青少年模式，而目前出现的AI剧情聊天软件也不能在法律之外游走，也需要开启青少年模式。这个青少年模式既需要涵盖“使用的时长”“使用的时间”，也需要涵盖“使用的内容”。

AI剧情聊天软件使用的是大模型技术，尽管能够带来前所未有的创新性和灵活性，但同时也有潜在问题，加强对新生事物的监管显得尤为重要。

AI剧情聊天，不能无底线撩拨任何人！（大河网河声评论员 郭元鹏）