上海金融与发展实验室曾刚：目前银行对人工智能的实践应用还处在初级阶段

近日，浙江数字金融科技联合会金融科技伦理委员会2024年第一场活动智行天下，责在人工:探索人工智能大模型负责任应用在上海举办。该活动由中国人民银行浙江省分行、中国人民银行安徽省分行指导，浙江大学金融科技研究院提供学术指导，浙江数字金融科技联合会蚂蚁集团研究院、上海市互联网金融行业协会、安徽省数字金融科技协会、江苏省数字金融协会、华东师范大学长三角金融科技研究院共同主办，森浦为本次活动的支持单位。

上海金融与发展实验室主任曾刚在演讲中提到，目前银行对人工智能的实践应用还处在非常初级的阶段。他指出，从金融大模型的监管侧，大模型的运作难以按目前的监管要求实现可解释；在用户与金融机构交互的过程中，消费者树立负责任的理念，也是构建金融科技伦理的重要基础；此外，在大模型应用中，要高度关注国家对金融消费者保护问题的重视，应当持续关注负责任的金融理念和监管内容的细化。

曾刚认为，技术因为纯粹追求有效，越有效的技术越有可能对客户造成最严厉的伤害。比如要买东西的时候，第一时间就提供消费信贷产品，这个过程当中从市场金融角度来讲可能会存在欠缺，可能就会对客户造成伤害，是一个伦理的问题。

浙江数字金融科技联合会会长、浙江大学国际联合商学院院长贲圣林在开场致辞中表达了智行天下责在人工，强调推动金融科技行业的伦理与责任，乃是每位金融界人士的共同使命。

蚂蚁集团研究院院长李振华在开场致辞中提到，2021年蚂蚁积极参与并推动在浙江数字金融科技联合会成立了金融科技伦理专业委员会。随着金融领域AI大模型应用的探索发展，新兴技术的应用也带来了一系列新的挑战，包括数据采集训练缺乏安全性、大模型训练和应用成本高效率低、大模型缺乏稳定性和安全性等，值得业界共同关注。蚂蚁集团自启动AI first战略以来，全力推动AI赋能各大业务场景，包括把平等普惠的金融服务带给消费者和每一个小微企业。政府、产业界、研究机构以及学术界需要展开深入的沟通与协作，共同寻求解决方案，推动形成更广泛的行业共识。

苏商银行董事长黄金老发表了主题为人工智能在银行业的有效应用治理的演讲，从业务智能化和管理智能化两个板块介绍了江苏银行业开发和应用AI技术的一些实践，包括智能客服、客户风险画像生成、研发代码助手、金融市场城投债报告助手等。此外，他还介绍了银行业AI应用面临的资源挑战、技术挑战、制度挑战，并就这三个挑战给出建议。

浙江大学金融科技研究院执行副院长张瑞东主要强调了AIGC模型的局限性及潜在的产生虚假的信息问题，认为在特定应用场景对AIGC提供的答案要有交叉验证机制而不是直接接受或引用。张瑞东提到，目前AIGC的自我纠错能力及机制还有没有形成，模型的迭代及叠加很可能会导致信息可信度的降低，也会导致对AI应用的悲观预期，所以价值对齐及信息交叉验证的第三方机制在未来十分重要。此外，张瑞东认为站在应用者角度，也需要学习与AI共处，对AI养成一个健康的心态，不要盲目信从。

另外，华东师范大学长三角金融科技研究院院长陈琦伟，中国社科院科学技术和社会研究中心主任、浙江金融科技伦理委员会委员段伟文，蚂蚁集团全面风险管理部AI风险治理总监杨舟等出席本次座谈会。