深圳“AI公务员”上岗，人工智能伦理问题要处理好

DeepSeek爆火之后，多地政务系统接入DeepSeek。2月8日，深圳市龙岗区政务服务和数据管理局在政务外网部署上线DeepSeek-R1全尺寸模型，成为广东首个在政务信创环境下部署上线该模型的政府部门。2月16日，深圳基于政务云向全市各区各部门正式提供DeepSeek模型应用服务，实现了基于DeepSeek的人工智能政务应用一体化赋能升级。

人工智能在政务领域应用广泛，覆盖政务办公、城市治理、民意速办等。比如，以往人工校验1000字文章至少需四五分钟，还易出错，现在借助DeepSeek能秒级完成，公文处理效率大幅提高。而且，人工智能还能结合政务语境，提取关键信息，自动生成拟办意见，助力公职人员快速决策。再比如，在城市治理领域，“一句话找人/找视频”功能基于多模态大模型，结合23万路视频监控，已成功帮市民找回走失人员300余次。在数据分析上，以往人工分析民意诉求热点耗时费力，现在DeepSeek能在分钟级完成，为决策提供有力依据。

深圳市政府政务网全面接入DeepSeek大模型，标志着政务服务智能化迈入新阶段。深圳开了个头，各地也会迅速跟上。

新技术往往会带来新问题，AI也不例外，具有一定智能的大模型会带来政务系统中的新的伦理问题。

与以往的IT技术提供的辅助性、程序性、流程性、事实性的帮助不同，AI提供是决策性、判断性的帮助。打个比方，以前一个网页错了，是输入的人出错，不是计算机生成了错误的事实；一个OA的流程会出错，但是否批准的判断，总是人做出的。

当下的大模型AI仍然存在幻觉。所谓幻觉，是指AI生成看似合理但实际上不准确或虚假的信息。这种现象在新闻、法律和医学等领域尤为突出，可能导致虚假新闻的传播、法律文件的错误引用以及错误的医疗诊断。AI会出错，但却不担责。而且，基于AI的黑箱性质，不可能针对错误进行单次的调整，也就是说，AI第一次出错，下次还是会出错，而且无法预测。

曾经有人开玩笑说，AI永远取代不了审计，因为AI再怎么智能，也无法背锅。这就是真实社会中的问题，很多事情，不仅是干活，还有责任、约束、奖惩，而AI是无法为这些东西负责的。

在政务系统中更是如此，政务系统，小到生活中过马路的便利，大到公民信息安全，甚至城市运行的公共安全，牵涉民生、城市运行等各个方面。在政务系统中引入AI之后，谁来负责是一个新问题。

在接入AI后，出了问题，政务部门会说：我不知道，我按程序使用IT部门提供的AI，应该IT部门负责。IT部门会说，AI只是辅助，仍然要政务部门做最后审核。政务部门可能会反问：那还要AI来干什么？最终还是要我审核，我工作量不降反增？不难设想，有些工作场景，即便政务部门要最终审核，效率仍然是提升的，但有些批处理的场景，政务部门再次审核，反而会增加工作量。

实际上，这相当于IT部门不仅用AI来干了一部分政务部门的活，也承担了政务部门的一些责任。但IT部门作为后台支持部门，能承担政务部门的责任吗？该承担政务部门的责任吗？这就需要新的理论、新的伦理来处理这些问题，划分责任。

值得注意的是，在这一点上，福田区已经做出了新尝试。福田区首创政务辅助智能机器人“基本法”，以政府采购、使用的政务辅助智能机器人的全流程管理为主线，构建伦理框架，明确了技术标准、应用范围、安全管理以及监管要求。这就为人工智能在政务领域的合法合规、合乎伦理的运行厘清了边界，避免AI滥用或责任界定不清，为人工智能与人类协同工作做出了一个新的尝试。某种程度上，这比仅仅简单地把DeepSeek接入到工作中更重要。

此外，还需要提醒的是，更多的人工智能的引入，意味着采集更多数据，数据分析的能力更强。这也需严格管理政务数据访问权限，防范模型训练中的隐私泄露风险，尤其是在涉及文字、图片、视频的多模态数据分析场景下。□ 刘远举