人工智能“燃冬”，谁来守护金融领域系统安全？

  【雷竞技须安全稳定 IT新闻频道】在瑞士达沃斯举办的世界经济论坛2024年年会上，世界经济论坛创始人兼执行主席施瓦布在致辞中感慨道：2023年年初，生成式人工智能技术(AIGC)还只是个“婴孩”，不过一年时间竟已长成“少年”。

  正因如此，“人工智能推动经济社会发展”成为2024世界经济论坛年会的四大关键议题之一，AI热度可谓点燃了这个以冰雪度假胜地闻名的小镇。业界普遍认为，人工智能技术在为人类社会发展提供机遇的同时，也在安全、治理、监管、版权、伦理等多个方面带来风险和挑战。

  从技术角度来看，人工智能算法面临诸多涉及技术性攻击的安全风险。常见的人工智能算法攻击方法包括窃取攻击、药饵攻击、闪避攻击、逆向攻击、模仿攻击等。

  近年来，借助人工智能迅猛发展的浪潮，银行业乘势推进数字化、智能化转型。国内部分商业银行积极布局AIGC以及其他人工智能技术相关的应用场景。

  但是，人工智能算法的应用可能带来更多金融交易风险和数据泄露风险，给金融领域系统安全带来新的挑战。因此人工智能技术应用到金融领域，其安全性当为重中之重。

  为保障人工智能金融应用健康发展，监管部门不断制定、完善相关法律法规与行业规范。2021年3月，中国人民银行发布《人工智能算法金融应用评价规范》(JR/T 0221—2021)，为金融机构加强人工智能算法应用风险管理提供指引。

  中国金融认证中心(CFCA)立足于金融行业，建立了涵盖安全性、可解释性、精准性和性能等方面的人工智能算法检测体系，可提供符合《人工智能算法金融应用评价规范》(JR/T 0221-2021)要求的人工智能算法金融应用评估服务。

  2021年10月，CFCA作为试点检测机构参与了人工智能算法金融应用安全测评试点工作，对宁波银行“应用于快审快贷产品的LightGBM算法”进行了检测。检测结果显示，宁波银行送检的应用于快审快贷产品的LightGBM算法符合规范要求，具有较强的安全性保障。

  近年来，CFCA在人工智能、多方安全计算、区块链、联邦学习等领域积极布局，参与各项技术标准和检测标准的制定，持续加大人工智能领域的投入，与产业各方广泛合作，为金融行业提供涵盖安全性、可解释性、精准性和性能等方面的人工智能算法检测服务，与各方携手共同推进人工智能技术在金融行业规范、健康发展。