【资料图】

□本报记者 胡杨

在2023清华五道口全球金融论坛上，与会嘉宾从监管、研究、实践等不同视角对“数字经济时代的金融与经济发展”议题进行探讨。

应对金融领域人工智能安全风险

数字经济时代，大数据、云计算、人工智能、区块链等新技术的快速发展为金融业带来了创新机遇。北京瑞莱智慧科技有限公司合伙人、高级副总裁朱萌表示，金融领域是人工智能应用最广、应用场景最多的领域之一。面对新一代人工智能，金融业需要前瞻性地构建硬件基础设施、AI平台、AI应用，还要统筹考虑AI安全的系统性架构，以便未来更好地吸纳人工智能安全的大模型能力和防御大模型的风险，使得大模型能够更安全、可控地发挥新的生产力。

如何应对大模型时代的人工智能安全风险？朱萌提出了“稳固三角形”概念，即构建“智能测评、攻击应对以及人工智能安全防御”的三角模型，从发现风险、处置风险和防范风险三个角度系统提升金融领域在新技术条件下的安全水平。

“发现风险就是对人工智能系统展开安全评测，这是当前一个重点，也是一个难点。”在朱萌看来，应采用前瞻的检测方法及时发现人工智能模型的弱点，防止这些模型带病上线、带病上岗。处置风险方面，应通过构建人工智能安全防火墙等措施，形成针对各类对抗攻击或数据投毒等新时代攻击方法的应对能力，并不断根据攻击方法形成新的应对方法。防范风险方面，考虑到大规模的人工智能研发未来将应用在实际工作场景中，应针对此构建人工智能安全靶场，使安全因子贯穿人工智能整个过程当中，从源头上提升人工智能的安全防御能力。

完善科技监管体制机制

正如行业所普遍认知的那样：数字技术在为金融业带来机遇的同时，也对传统金融模式带来一定的挑战，包括数据安全、隐私保护、网络安全、技术风险等问题，这要求监管工作必须与时俱进，通过完善科技监管体制机制、推进监管科技基础能力建设、探索金融科技创新运用等一系列工作，引导“科技向善”。

基于大数据平台的新三板市场监察系统正是新三板、北交所主动拥抱数字经济时代新特点、新变化的一个探索。全国中小企业股份转让系统有限责任公司、北京证券交易所副总经理孙立介绍，该系统以集成化、智能化、可视化为建设方向，应用监管科技最新成果，创新性地建立起“预警+核查”双核心驱动的市场监察体系，全面提升了新三板、北交所市场风险防控能力和科技监管应用服务水平。系统采用前沿流式计算引擎技术，支持不同交易方式、不同层级证券的400余种实时监测预警场景，提供异常报警、原因分析、违规处理、运行评估、阈值优化等监控分析功能；依托大数据平台，系统整合挂牌公司、财务、交易、行情等800余项多元数据，实现了200余种核查业务场景下违法违规线索的动态跟踪；从实时监控、事后核查发现的异常线索出发，系统实现一键采取、自动送达、短信通知、券商反馈等监管措施的全流程对接；系统还建立措施台账、操作流水记录，便于事后跟踪审计。

“富有科技感的多维度海量数据可视化展示和全业务流程电子化支持，能有效将市场监察人员从繁重的数据收集整理和统计分析工作中解脱出来，大幅提升了数据丰富度和精确度，为保护投资者合法权益，促进新三板和北交所市场安全稳定运行提供了有力保障。”孙立说。