全国人大代表刘庆峰：大模型生成“AI幻觉数据”，应定期清理

十四届全国人大三次会议将于3月5日在北京召开。3月4日，记者从全国人大代表、科大讯飞董事长刘庆峰处获悉，他拟提交一份《预防大模型生成“幻觉数据”充斥互联网带来的危害，从技术研发和管理机制上构建可信的信息环境》的建议。

▲全国人大代表、科大讯飞董事长刘庆峰

刘庆峰提到，中国互联网络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》显示，我国生成式人工智能产品的用户规模已达2.49亿人。生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成恶性循环，影响公众信任和社会稳定。

刘庆峰建议，应构建安全可信数据标签体系，提升内容可靠性。通过建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能幻觉出现概率，提升生成内容可靠性。另一方面，要研发AIGC幻觉治理技术和平台，定期清理幻觉数据。通过研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源，由相关部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。

据悉，AI幻觉是指人工智能系统（自然语言处理模型）生成的内容与真实数据不符，或偏离用户指令的现象。

全国政协委员、360集团创始人周鸿祎近日接受媒体采访时也曾谈过对该问题的看法，周鸿祎同样提到，企业应用相关技术时，要连接企业专有的知识库，去进行校正。

红星新闻记者 付垚 刘亚洲

编辑 杨珒 责编 魏孔明