推广 热搜: 未来    中国  企业  政策  服务  公司  快速  上海  设备 

多重保障护航金融大模型御险前行

   日期:2024-06-18       caijiyuan   评论:0    移动:http://www.dbeile.cn/mobile/news/9536.html
核心提示:点击上方“国家金融与发展实验室”,关注我们。本文长度2885字,建议阅读时间20分钟随着金融科技的蓬勃发展,金融业正经历一场革
点击上方“国家金融与发展实验室”,关注我们。

本文长度2885字,建议阅读时间20分钟

ntent="t" style="text-align:justify;margin-top: 5px;margin-bottom: 5px;outline: 0px;color: rgb(196, 213, 227);font-size: 18px;border-color: rgb(196, 213, 227);visibility: visible;">随着金融科技的蓬勃发展,金融业正经历一场革命性变革。金融垂直领域模型构建与金融数据的结合成为推动金融科技创新和发展的重要动力源,尤其在数字金融发展浪潮下,金融服务实体经济质效或将实现进一步提升。然而,大模型在金融领域的应用仍面临诸多风险和难题,如何安全高效地拥抱大模型技术将成为关键一环。



多重保障护航金融大模型御险前行



杨涛

国家金融与发展实验室副主任



01

金融业应用大模型面临风险挑战

综合考虑大模型自身的可靠性、隐私性、可解释性等特征,大模型在金融领域的合规应用仍面临准确性、严肃性等考验。

从合规性视角看,存在以下风险:一是内容可信风险。大模型的可信问题简单来说就是“一本正经地胡说八道”,貌似合理的语句和逻辑,却生成胡编乱造的内容,无法保障内容真实性和可验证性,或多或少存在伦理、道德和法律等方面风险,由此给许多行业应用带来挑战。二是数据泄露与隐私风险。训练模型需要依托海量数据,在数据采集、存储、处理、流通等阶段都可能存在泄露风险。对于行业应用而言,由于需要用公共网络调用信息并离开本地,所以可能存在商业信息或用户数据的安全风险。三是可解释性存疑。大模型本质上是利用拥有大量参数的神经网络进行分析,输入数据与输出结果之间可能存在“黑箱”,通常很难解释清楚生成答案背后的因果关系。四是知识产权问题。通过各种途径采集和训练数据,可能带来知识产权风险,例如,侵犯版权、商标权、专利权等。

金融大模型应用还可能存在金融市场的系统性与非系统性风险。一方面,防范系统性风险是金融工作的重中之重。早在监管部门规范资管市场时,就已关注到智能投顾算法可能引发的风险。例如,算法同质化、编程设计错误、对数据利用深度不够等算法模型缺陷或系统异常,可能加剧投资行为的顺周期性,影响金融市场的稳定性。伴随大模型对于算法的显著优化,应未雨绸缪深入研究其对金融市场和金融稳定的影响。另一方面,金融机构面临流动性风险、信用风险、操作风险等非系统性风险。例如,操作风险是指由于内部程序、人员、系统不完备或失效,或由于外部事件造成损失的风险,可能缘于人为错误、系统故障、欺诈行为等。随着大模型在金融业的加快应用,如果缺乏足够的操作安全保障,可能会增加潜在风险。

需要关注金融大模型应用所伴随的制度性与伦理性风险。未来,当大模型应用于不同类型的金融业务活动中,将面临各类监管制度挑战,需要真正落实“责任清晰,风险自担”原则。在金融数据安全方面,如果国内机构直接使用境外大模型的SaaS服务,或基于境外大模型进行训练和开发,可能会涉及跨境数据传输、数据主权与安全、监管差异等方面问题。从底层芯片到上层软件构建大模型基础与应用体系时,可能面临更加突出的自主可控风险。此外,监管部门推动建设的金融科技伦理体系,涵盖金融业的个人信息保护、知识产权保护、伦理道德、算法歧视等诸多方面,大模型的应用可能对于上述方面带来更为复杂的挑战。


02

加快大模型监管创新升级

新兴技术的快速发展,为金融监管科技发展提供新的想象空间,监管科技的快速发展一方面依托科技手段以实现更高效、更精准的监管;另一方面,将推动金融科技创新,为金融业深入数字化转型赋能。

针对大模型金融应用特征,探索“五大监管”创新。在优化机构监管方面,关注大模型是否会给金融机构的合法性、合规性、安全性和稳健性带来影响;行为监管则关注大模型支撑的金融产品或交易能否保障公平性、透明度、有效性;功能监管则重点考虑大模型是否实现金融功能的提质增效而非损害,支持金融服务的协调完善;穿透式监管则真正深入到应用大模型产品的各环节,实现可审计、可解释性;持续监管则深入跟踪大模型技术迭代与金融应用创新趋势,充分保障大模型金融应用的连续性和稳定性。

引导金融业大模型应用采取差异化策略,避免“一哄而上”。实践中,金融业大模型应用有几种典型技术路线,一是根据现有开源大模型、基础大模型进行优化调整;二是与一线技术企业合作开发自研大模型;三是通过API接口接入商用大模型等方式使用部分功能。对于不同体量、不同类型、处于不同区域与业务特点的银行而言,需根据自身资源禀赋进行技术布局与路线选择。同时并非“唯大模型不可”,因为大模型短时间内不会全面替代小模型,从更长的时间线来看,更可能出现大模型与传统小模型协同发展的局面。

监管部门需要引导金融机构理性应用大模型。例如,选择非核心业务领域、已具备可用条件的场景,用轻量级投入跟进和追随新技术、新趋势,待未来成熟时再扩展应用范围。需要注意的是,在各方条件尚未齐备的情况下,大模型金融应用在初期应“先内再外”,即先在金融机构内部进行尝试应用,致力于改善内部管理、流程、信息处理、运作效率等,待到技术、合规、生态更加健全时,再考虑面向客户的服务能力提升。

不断优化监管科技水平。面对大模型在内的新技术应用挑战,监管部门应积极拥抱新技术,全面提升监管能力。国家金融监督管理总局科技监管司表示,将对监管大数据平台进行全面升级,建设“智慧监管平台”,作为推进数字化智能化监管的重要科技载体,打造兼具信息展示、智能分析、流程管控、智慧决策的一体化科技平台。为更好地应对技术带来的新挑战,监管部门应积极探索大模型等新技术在监管与合规领域的应用创新。


03

为行业规模应用提供更有力保障

完善大模型相关制度规则。当前,各国都在加快完善与大模型相关的法律法规。例如,欧盟以《人工智能法案》为核心,针对大模型可能涉及的相关领域专项立法,建立起多层次的人工智能法律监督体系,呈现出专项法案为主、现有法规为辅的特征。在我国,网信办等七部门已发布《生成式人工智能服务管理暂行办法》,但在金融业这样的专业垂直领域,还缺乏相关专项法规的约束。同时,在相关“软规则”方面,虽然人民银行已发布《金融领域科技伦理指引》,但针对大模型的风险治理与伦理原则,仍需更加细化的政策与标准。

加快优化大模型基础要素。在数据层面,大模型训练需要更大体量、更高质量的数据,以此提升训练与应用效果。相较于其他行业,虽然金融业的数据质量相对较高,但能否进一步合规、有效地提供优质的金融数据集,成为大模型金融应用的差异化变量。在算法层面,各方参与者积极创新迭代,整体采用Transformer模型基础架构。下一阶段,如何使算法能够与金融业产品需求、合规需求有效融合,仍存在诸多挑战。在算力层面,大模型快速应用引发“算力危机”,尤其是各类金融机构的算力基础设施布局面临所在城市电力、节能、低碳等方面的约束,难以进行快速增量建设。同时,通用算力正转向智能算力、单点算力正转向分布式发展,因此,金融业如何引导和优化公共、个体算力配置,应成为监管部门关注的重点之一。

金融大模型应用离不开专业人才保障。在大模型应用于金融业过程中,一方面缺乏算法工程师、自然语言处理、算法研究员等技术人员,另一方面也缺乏能够从实务角度深刻理解大模型,实现“业技结合”的专业人才。伴随大模型技术的分工更加细化,在金融领域应用的开发、部署和落地,都需要产业链的重构、整合与合作。例如,大模型在金融业的二次开发、迭代升级、运维服务等,对相关专业人才提出更高要求,需针对性培养金融大模型相关的科研型、教学型、应用型、管理型、技术型、业务型等人才。

(原文载于《中国农村金融》2024年第10期)


点击下方【阅读原文】查看全文





中国社会科学院国家金融与发展实验室设立于2005年,原名“中国社会科学院金融实验室”。这是中国第一个兼跨社会科学和自然科学的国家级金融智库。2015年6月,在吸收社科院若干其他新型智库型研究机构的基础上,更名为“国家金融与发展实验室”。2015年11月,被中国政府批准为首批25家国家高端智库之一。


请点击标题下方“国家金融与发展实验室”蓝字关注我们,或者长按下方二维码图片并选择“识别图中二维码”。


本公众号独家文章未经授权不得以任何形式转载、摘编。如若转载,请联系我们,并注明来源,文章标题文字和内文文字(包含文末责任编辑)禁止二改!否则一经发现,将追究相关责任,谢谢理解和配合。

微信号:国家金融与发展实验室

ID:NIFD2015

本文地址:http://www.dbeile.cn/news/9536.html    多贝乐 http://www.dbeile.cn/ , 查看更多
 
 
更多>同类行业资讯
0相关评论

新闻列表
企业新闻
推荐企业新闻
推荐图文
推荐行业资讯
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2023001713号