专访为官员辅导DeepSeek的清华教授:需警惕AI幻觉
近日,河南省郑州市邀请清华大学新闻学院、人工智能学院双聘教授沈阳,围绕DeepSeek给全市领导干部作专题辅导。2月18日,沈阳在接受南都记者专访时表示,在推进DeepSeek应用落地过程中,政府部门要从老百姓需求出发,提升服务效率,同时警惕“AI幻觉”风险,调整观念适应发展需求。“当有博士生水平的AI出现时,我们每个人都要学会当博导。”
清华大学新闻学院、人工智能学院双聘教授沈阳。
南都记者获悉,2月15日,郑州市举行2025年第一期全市领导干部“问学前沿”讲堂。清华大学新闻学院、人工智能学院双聘教授沈阳受邀出席,从人工智能哲学、国内外大模型、DeepSeek使用、生成式“文、图、乐、剧”、各行业应用、未来展望六个方面,作了一场辅导报告。
河南省委常委、郑州市委书记安伟在总结讲话中指出,全市党员干部要深入学习,熟练掌握DeepSeek等大模型的使用方法,以“人脑+人工智能”增强个人能力、提高工作质效;推动人工智能技术与战略新兴产业、传统优势产业以及短视频、直播带货、文化创意等新业态相结合。
近段时间以来,深圳、广州、南京、无锡等多地政务系统纷纷宣布部署DeepSeek大模型,各地也掀起了一阵领导干部学习人工智能、拥抱新技术的热潮。
对此,2月18日,沈阳在接受南都记者专访时表示,政务部门部署接入开源大模型主要有两方面的应用,一是对外服务,即优化营商环境,实现 “一网通办、一脑通透”,提升政府服务公众的水平和治理能力,AI能避免人为差别对待,从而实现规范化服务。二是对内办公,通过本地部署大模型,借助知识库工具进行二次训练和微调,可解决费用昂贵问题,提高内网智能化水平。
在DeepSeek等大模型实际应用落地过程中,沈阳向南都记者分析称,各地政府部门首先要注意从老百姓的需求出发,真正提升服务效率,围绕政务服务短板有针对性地应用,例如可利用AI提升12345热线的反应速度,降低人力成本。其次是要遵循省级或国家层面出台的整体战略积极稳妥推进,并且有所创新探索。
“再者就是政府部门要警惕AI应用中最大的风险问题‘AI幻觉’,即AI回答中会出现一定比例的错误,可通过知识增强、知识检索增强、外挂知识库、联网等方式降低AI幻觉率。”沈阳表示。
沈阳进一步指出,“DeepSeek出现的最大意义,就是不管你是老人还是小孩,每个人都可以在可接受的成本范围内来使用博士生水平的AI。政府部门在推动DeepSeek实际落地的过程中,也要注意调整人员观念,积极学习掌握AI技术,适应发展需求。当有博士生水平的AI出现时,我们每个人都要学会当博导。”
出品:南都即时
采写:南都记者 冯奕然
扫描二维码推送至手机访问。
版权声明:本文由0538资讯网整理发布,内容均来自互联网,如有侵权联系8641340@qq.com删除。