AI造谣用AI反制？全国人大代表万立建议利用数字技术治谣

编者按

新春伊始，DeepSeek的爆火掀起新一轮AI浪潮。人工智能真切地融入并重塑着各行各业，带来创新契机和前所未有的挑战。如何在拥抱人工智能这一时代变革力量的同时，应对安全与治理层面的隐忧？

2025年全国两会之际，南都全国两会前方报道组策划推出“进击的AI”专题报道。邀请代表委员共同围绕人工智能展开深入探讨，为行业发展建言献策。

2025年全国两会期间，人工智能成为代表委员热议的焦点之一。随着技术快速发展，AI被滥用于生成各类图片和视频，使虚假信息更具欺骗性和传播力，也加剧了网络谣言的治理难度。

这一现象引发了全国人大代表、中华全国律师协会副会长万立的关注。他聚焦AI谣言治理，提出要以AI对抗AI，充分运用数字技术在谣言识别、监测、拦截、溯源等方面的能力，提升治理效能。

全国人大代表、中华全国律师协会副会长万立（受访者供图）

他还建议政府、平台、社会形成合力，推动建立平台间谣言共享机制，完善法律法规，加强对AI谣言制造者的惩处，并探索网络谣言公益诉讼制度，以提高造谣成本，遏制谣言传播。万立强调，公众也应提升警惕，避免盲目转发，形成全社会共同治理AI谣言的防线。

以下是南都和万立的对话——

南都：今年两会，你重点关注什么问题？特别希望呼吁的是什么？

万立：今年我重点关注了网络谣言的治理问题。网络谣言是隐藏在网络世界的“毒瘤”，不断侵蚀网络空间的健康生态，影响公众的生活和社会的稳定。近年，公安机关高度重视网络谣言的治理和网络环境的净化，持续开展“净网”专项行动，取得很多成效。

但当前，随着AI技术的发展和普及，不法分子利用AI生成谣言的现象愈发频繁，致使网络谣言数量激增，对网络环境和社会秩序造成冲击。

因此，我认为有必要加强网络谣言的治理，尤其是对AI生成谣言的治理，也特别希望社会公众能提高对AI生成谣言的警惕，有意识的去辨别一些含有技术成分的信息，面对带有明显煽动性的信息，要保持理智，不要盲目跟风转发，发挥人民群众最直接有效的力量对抗网络谣言的传播和蔓延。

以AI对抗AI，应督促平台构建负责任的算法推荐机制

南都：据南都此前不完全统计，2024年国内AI风险相关舆情案例中，超1/5与AI造谣有关。您认为当前AI生成谣言的主要特点是什么？当前治理AI生成谣言面临的主要挑战是什么？

万立：AI生成的谣言通过技术手段拼接、编辑真实图片和视频，所以具有高度的伪装性和欺骗性，传统的信息核查手段难以有效识别，且随着AI技术的发展和普及，谣言制造门槛和制造成本大大降低，网络谣言的数量和传播力却迅速上升，致使网络谣言监测难度更大、范围更广、成本更高，进一步加剧网络谣言的管控难度。

所以，对于AI谣言的治理，必须要有技术的加持，强化数字技术在网络谣言识别、监测、拦截、溯源等方面的应用，以AI对抗AI。当然，除了技术手段，也需要平台的协同、公众的参与，通过政府、平台、社会三方齐发力，构建起全方位、多层次、立体化的网络谣言治理体系，共同维护清朗网络空间。

南都：网络谣言治理需要政府、企业、社会组织和公众的共同努力。您提到平台要加强对AI生成谣言的识别监测以及管控力度。你认为平台应采取哪些具体措施来履行这一责任？

万立：平台对于网络谣言的治理具有天然的优势，用户发布、传播信息都要依托于平台，所以平台如果能加强管控，实际上可以有效控制谣言的传播速度，乃至直接切断谣言的传播路径。

所以我建议相关部门督促平台构建负责任的算法推荐机制，对疑似谣言内容实施分级分类管控，减缓谣言的传播速度，并引导互联网平台建立平台间谣言信息共享机制，实行重大谣言全平台快速响应处理机制，完善“标注-限流-澄清-下架”处置流程，及时切断被认定为谣言的信息的传播路径。

对于借AI制造虚假和散播谣言行为，应加大处罚力度

南都：我国已出台一系列法律法规对网络谣言进行治理，但针对AI谣言的专项措施仍需完善。当前相关法律法规存在哪些不足，如何通过立法执法和司法进一步细化和完善责任和处罚？

万立：我认为立法层面对于谣言的认定标准和处罚措施还有待细化完善，惩处力度也需要加大，此外AI技术服务提供者的监督责任也需要加强，全力引导技术向善。

一是有必要进一步细化《中华人民共和国治安管理处罚法（修订草案）》对“散布谣言”的认定标准，出台网络谣言行政处罚裁量基准的具体规定和指导意见，加强网络谣言管控方面立法、司法、执法的衔接，加大对造谣传谣者的惩处力度。

二是细化完善《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等人工智能技术使用规范，一方面，明确生成式人工智能服务提供者对于用户行为监督和技术用途管控的义务和怠于履行相关义务的具体后果。另一方面，加大对违规使用AI技术、滥用深度合成技术制造虚假信息、散播谣言的用户的行政处罚力度。

此外，针对网络谣言受害者的救济机制，也需要进一步完善，要建立健全网络谣言公益诉讼制度，破解造谣者违法成本低、受害者举证追责难的困境，切实发挥司法威慑力，打击违法犯罪者嚣张气焰。

采写：南都记者黄莉玲 发自北京

南都全国两会报道组