Gartner高级研究总监颜晶：AI风险对于未来银行业全面的影响，依然是有待观察的

随着ChatGPT的爆火，生成式人工智能技术越来越备受银行业的关注。ChatGPT等生成式AI技术给银行业带来了什么？未来将如何发展？

(资料图片)

8月22日，在Gartner线上媒体沟通会上，Gartner高级研究总监颜晶表示，“在这几个方向，生成式AI将为银行的生产力带来非常大的帮助和提高。具体而言，一是前台和服务的转型；二是营销；三是运营转型；四是数据管理。”

颜晶称：“随着技术的进步发展，ChatGPT可以应用在银行业的范畴将会越来越广，并且它也可以为银行未来的业务和运营开辟更多的可能性。”与此同时，她也认为，“AI风险对于未来银行业全面的影响，依然是有待观察和研究的。”

国内部分银行已开展生成式AI的试点工作

据Gartner此前的调研报告显示，虽然目前全球经济还处于低迷期，但是采用生成式AI的一些机构，并不主要考虑用生成式AI来节省成本。根据报告，38%的受访者希望通过生成式AI去提升客户服务，26%是用于利润增长，只有17%的受访者表示他们用生成式AI的主要目的是用于成本优化，而7%用于支持业务的连续性。

颜晶称，“55%的受访银行正在计划应用ChatGPT来提高客户服务，比如说我们最常见的虚拟助手等。”目前银行对ChatGPT的运用主要包括五个方向，包括客户服务、数据分析、商业智能、运营以及应用开发等。而这五个方向也是目前银行重点花费投资的领域。

在国内银行的具体应用案例上，据颜晶介绍，已经有一些银行正在生成式AI的试点中。有的已经通过千亿级企业的数据进行深度的深度学习，并且建设了中国小微企业的AI大模型，并创新运用分段式训练的模型架构与绿色和低成本的方式，实现了模型参数变量突破100亿的大关。

例如，目前微众银行，已经将这个AI大模型运用到银行业务中，比如像：信贷、风险评估、账户风险管理、客户服务、消费者权益等。

此外，农业银行新推出一个叫“ChatABC”的新产品。通过异构的知识库，去充分融合农行内部的知识库，而通过一些工具、比如：农行内部的“研发问答助手、工单自动回复”等，但是他们这个目前只是向内部员工开放试用。

颜晶表示，随着技术的进步发展，ChatGPT可以应用在银行业的范畴将会越来越广，并且它也可以为银行未来的业务和运营开辟更多的可能性。

颜晶认为，“在这几个方向，生成式AI将为银行的生产力带来非常大的帮助和提高。具体而言，一是前台和服务的转型；二是营销；三是运营转型；四是数据管理。”

AI风险包括“不准确的信息”“系统性偏见”等

虽然生成式AI已经为银行业带来了很多机遇，但是风险和机遇是并存的。颜晶表示，AI风险对于未来银行业全面的影响，依然是有待观察和研究的。

她列举了几大风险，包括：不准确的信息、系统性偏见、隐私和安全、道德风险。关于不准确信息方面，她举例解释，“一个金融的聊天服务机器人，就不应该向金融客户提供与健康相关的一些服务内容。”

在AI带来的风险上，颜晶还详细提出两点问题：一是透明和可解释性。例如，当客户不理解为何AI会拒绝客户的贷款申请时，而银行又不可以为AI的行为做出更多的解释时，就会削弱客户对银行的信任感，并且甚至可能会为监管机构带来一些风险和问题。

二是问责制。银行没有适当的机制为生成式人工智能犯的错误来承担这些后果或者是追责时，这个也会让客户和银行之间产生更多的一些信任危机和风险。此外，还有泄露风险，例如，关键信息被泄露、违反政策和假新闻等。

封面图片来源：视觉中国-VCG211221772591