马上消费引领金融大模型标准制定,强化AI安全与风险防控体系

   发布时间:2024-12-01 20:09 作者:江紫萱

在人工智能迈向2.0时代的大潮中,金融领域成为大模型应用的重要阵地。各大金融机构纷纷涉足,探索大模型在金融垂直领域的落地应用。然而,金融行业的特殊性对安全性、合规性、准确性和可控性提出了极高要求,大模型应用带来的诸多风险不容忽视。为了应对这些挑战,构建金融大模型的技术标准体系成为当务之急。

在近日于重庆举办的“2024数字产业生态伙伴大会”上,马上消费常务副总经理蒋宁接受了采访,分享了公司在金融大模型技术标准制定方面的进展。据悉,马上消费牵头编制的IEEE P3826《金融大语言模型技术要求标准》与P3482《基于机器学习模型的三维数字人建模和驱动技术要求标准》两项重要标准已宣布立项启动。

IEEE P3826标准是我国在金融大模型技术领域主导编制的首个IEEE国际标准,确立了金融大模型的系统框架及功能要求。系统框架涵盖了基础设施层、平台层、数据层、模型层、服务层、应用层、运维层及安全层,适用于金融大模型的设计、开发与应用,也可为金融大模型的测评提供指导。P3482标准则规定了3D数字人的建模、动画和驱动、性能、互操作性、安全和伦理等要求。

蒋宁表示,马上消费致力于在标准领域抢占先机,希望金融大模型在全球起到示范作用,甚至引导产业变革。他透露,制定标准的框架方向还将包括数据的安全合规、可追溯性,算法的可解释性、安全性,以及芯片、智算中心、云等领域的安全合规可信。马上消费把公司治理放在突出地位,成立了IT治理委员会和科技伦理委员会,确保所有科技研发活动都以安全为目的、对公众负责、保护个人隐私。

在金融大模型的应用方面,马上消费推出了全国首个零售金融领域的“天镜大模型”。自2023年8月发布以来,“天镜大模型”已覆盖营销获客、风险审批、客户运营等8个零售金融典型应用场景。在近日的大会上,马上消费宣布“天镜”已升级至2.0版本,在模型技术创新、标准制定、科研转化成果、具体应用等核心领域取得了突破性进展。

“天镜”2.0在金融安全、大数据决策、人机交互、消费者权益保护、逻辑推理泛化等方面都展现出强大的潜力和价值。蒋宁表示,大模型生成式AI在辅助内容生产的同时也给金融安全带来了巨大挑战,如假单据、假人脸、假数据等现象频出。为此,“天镜”2.0研发了对抗学习技术,将多模态技术进行深度融合,构建全新的对抗学习防伪新体系,全方位、多层次地提升金融安全防护能力。

“天镜”2.0在打击金融黑灰产方面也有显著成果。蒋宁介绍,黑灰产的识别可以利用多项大模型技术,如将相关图片、环境、声纹、地址等信息整合成多模态大模型,结合复杂网络技术、隐私计算技术等多种技术,形成打击黑灰产的能力。

 
 
更多>同类内容
全站最新
热门内容
本栏最新