马上消费将牵头大模型国际标准制定，推动AI安全与风险治理

人工智能已迈入以大模型为核心技术的2.0时代，互联网大厂、银行、消金、保险、券商等各路金融机构也纷纷下场，推进大模型在金融垂直领域进一步落地。但作为一个对安全性、合规性、准确性、可控性要求都较高的行业，大模型应用带来的合规风险、数据安全、隐私安全、可信可解释等诸多方面的风险，构建金融大模型的技术标准体系已经“箭在弦上”。

制定大模型技术标准将从哪些方面解决风险问题？金融机构大模型的研发应用中如何保障安全问题？近日，在重庆首届数字产业领域千人大会“2024 数字产业生态伙伴大会”上，马上消费常务副总经理蒋宁接受了南都记者的采访，并就上述疑问给出了解答。

牵头编制金融大模型技术国际标准

南都记者了解到，会议期间由马上消费牵头编制的IEEE P3826 （《金融大语言模型技术要求标准）与P3482（《基于机器学习模型的三维数字人建模和驱动技术要求标准》）两项重要标准宣布立项启动。

其中，IEEE P3826（《金融大语言模型技术要求标准》）是我国在金融大模型技术领域主导编制的首个IEEE国际标准，确立了金融大模型的系统框架及功能要求。IEEE SA批准成立金融大模型工作组，由Nature子刊编委、马上消费人工智能研究院副院长邓伟洪担任工作组主席。IEEE P3826标准确立了金融大模型的系统框架及功能要求，系统框架主要包括基础设施层、平台层、数据层、模型层、服务层、应用层、运维层及安全层，适用于金融大模型设计、开发与应用，也可为金融大模型测评提供指导。

IEEE P3482是首个明确定义3D数字人相关技术的IEEE国际标准。该标准规定了3D数字人的建模要求、动画和驱动要求、性能要求、互操作性要求、安全和伦理要求等。马上消费被批准作为数字人工作组主席单位，未来将牵头规划 IEEE 数字人领域标准的制定。

据悉，IEEE（电气电子工程师学会）成立于1884年，是全球最大的专业技术组织之一，在全球160多个国家拥有超过45万名会员。

“马上消费金融这次有幸能代表中国参与这个标准的制定，我们也希望能够在标准领域和中国金融机构一起抢占标准制定的先机，能够让我们的金融大模型在全球起到一个示范作用，甚至引导产业变革的作用。”蒋宁在采访中表示，据他进一步透露，具体制定标准的框架方向，还将包括数据的安全合规、可追溯性，算法的可解释性、安全性，包括芯片、智算中心、云等领域的安全合规可信。

蒋宁还表示，马上消费把公司治理放在突出地位。一方面成立了IT治理委员会，把合规放在优先保障的地位。另一方面，成立了科技伦理委员会，明确要求马上消费所有科技研发活动，必须以安全为目的、对公众负责、保护个人隐私。同时他还透露，马上消费的天镜大模型也正在进行网信办的大模型备案中。

自研“天镜”大模型2.0 实现安全合规等领域创新应用

南都记者了解到，马上消费金融股份有限公司（下称马上消费）在2023年8月推出全国首个零售金融领域的“天镜大模型”，覆盖营销获客、风险审批、客户运营等8个零售金融典型的应用场景。11月28日，在数字产业生态伙伴大会上，马上消费宣布“天镜”升级至2.0版本。

相比之前的版本，“天镜”2.0在模型技术创新、标准制定、科研转化成果、具体应用等核心领域取得了突破性进展。以具体应用为例，“天镜”2.0在金融安全、大数据决策、人机交互、消费者权益保护、逻辑推理泛化等方面都展现出强大的潜力和价值。

“过往的创新是摸着石头过河，因为合规、安全、可信是人工智能里面非常关键的领域。我们不能因为大模型做的决策所出的错误，就把责任推给大模型本身。”蒋宁表示，“天镜大模型在过往1.0向2.0迈进的过程中，形成了一个完整的合规、可信、安全的体系。”

蒋宁表示，大模型生成式AI在辅助内容生产的同时也给金融安全带来了巨大挑战，假单据、假人脸、假数据等现象频出。“天镜”2.0针对这些安全隐患专门研发了对抗学习技术，将多模态的技术进行深度融合，把声音、文字、视频等多维度信息整合，构建全新的对抗学习防伪新体系，全方位、多层次地有效提升金融安全防护能力。

“在对抗领域里面，我们累计申请了100项专利，也发表了20篇论文。我们即将发布中国最大的一个防伪公开数据集。”蒋宁表示，“现在开源的样本攻击手法的数据集是非常少的，我们希望我们的公开能为对抗领域的基础设施建设起到一些推动。”

此外，在打击金融黑灰产方面，天镜大模型2.0也有探索。蒋宁告诉南都记者，黑灰产的识别可以利用多项大模型技术，比如可以将相关图片、周边的环境、声纹、地址，整合成多模态的大模型，来判断是黑灰产的可能性有多大，还有其他的技术，比如复杂网络技术，隐私计算技术，多种技术结合，形成了打击黑灰产的能力。

采写：南都记者熊润淼