AI时代该如何保护孩子？最高法法官：家长要帮助未成年人识别数字风险，预防沉迷

12月18日，由最高人民法院新闻局、人民法院出版社联合主办，最高人民法院民一庭指导的“送给孩子一束法治的光”未成年人普法访谈暨《重返庭审现场》故事分享会（第二场）在各大媒体平台同步播出。

▲访谈现场

现场有家长提问，如今AI已经走进了日常生活。现在一些孩子非常热衷于玩AI剧情聊天软件，但在和这些AI的对话中，存在不少暴力、侮辱性、不健康的内容，而且这些软件还会诱导孩子充值，解锁更刺激的对话。在AI时代，家长该如何更好地保护好孩子？监管部门和执法司法机关会给家长提供怎样的帮助？

对此，最高人民法院民一庭副庭长蔡金芳表示，数字化时代，人工智能给我们的生活带来极大便利，但一定要注意避免它给孩子带来的负面影响。

一是要避免孩子过分依赖人工智能的现象。孩子一有问题便问人工智能，容易产生依赖，自己不会思考，导致思维能力和创新能力面临退化的风险。一旦离开机器，便不能适应，从而影响学业，影响健康成长。

二是避免孩子在价值观念上受不良信息的影响。人工智能终究无法理解道德的丰富内涵，纵然其拥有强大算力，也很难穷举价值判断中的细微差别。因此，人工智能的价值判断、行为规范指引通常是形式化且僵化单一的。与此同时，受数据来源影响，人工智能的“回答”还有可能是片面、过激、带有歧视侮辱性的，有的甚至与社会主义核心价值观相悖。未成年人长期沉迷人工智能，在道德标准和价值判断方面容易僵化，同时还存在被不良价值导向所侵蚀的风险，不利于其价值观的培养和形成。

蔡金芳表示，当前生成式人工智能服务提供者采取的避免未成年人沉迷措施，主要是通过添加“青少年模式”来限制未成年人使用时长和推送内容；通过用户协议明确“征得法定监护人同意”，但实践中有的未成年人能轻易越过这些限制。解决这一问题，需要社会共同努力。对于人工智能服务提供者和监管部门来讲，需要在相关服务中采取切实有效的防未成年人沉迷技术举措。对于人民法院来讲，在审理相关案件时，应当认真审查网络服务提供者和有关部门是否履行了应尽的义务。对于家长来讲，不能缺位于未成年人的数字生活，面对数字化应用产生的一些新兴场景，家长需要提升自己的数字技能，做好引导者的角色，帮助未成年人识别数字风险、保护个人数据隐私，预防沉迷。

红星新闻记者 祁彪

编辑 张莉 责编 官莉