您的位置 首页 金融

上海金融与发展实验室主任曾刚:避免大模型幻觉,关键环节还需人机协作

2024年政府工作报告提出,要大力推进现代化产业体系建设,加快发展新质生产力。“人工智能+”被首次写入政府工作报告。

2024年政府工作报告提出,要大力推进现代化产业体系建设,加快发展新质生产力。“人工智能+”被首次写入政府工作报告。

3月28日,由马上消费联合中国科学技术出版社、金融界共同举办的“大模型驱动下的金融新质生产力创新论坛暨全国首部《金融大模型》著作发布”活动在京举行。

上海金融与发展实验室主任曾刚:避免大模型幻觉,关键环节还需人机协作

图片来源:每经记者 张宏 摄

在主题分享环节,上海金融与发展实验室主任曾刚表示,传统业务发展模式受到越来越大的挑战,金融行业需要用大模型提升效率、适应客户需求变化和拓展新的服务空间及场景。会后,曾刚就“金融机构在AI应用中如何避免大模型幻觉”这一话题接受了《每日经济新闻》记者采访。

传统业务发展模式受到挑战,行业需要用大模型提升效率

在主题分享环节,上海金融与发展实验室主任曾刚表示,AI的发展会去除“知识中介”。生成式人工智能可以对一些没有原创性的“知识中介”进行替代,很多看似有门槛的专业技术会被淘汰,我们个人对自身的定位也会发生重大变化。

上海金融与发展实验室主任曾刚:避免大模型幻觉,关键环节还需人机协作

曾刚指出,从金融领域来看,行业面临着几大问题。一是资产获取难度越来越大,随着传统客户竞争越来越激烈,新客户发掘越来越难,信贷投放面临压力,传统服务模式可能无法触及客户;二是资产质量发生变化,一些过剩的行业正在经历调整,这个过程对风险防控的要求不断提升;三是息差的收窄,2023四季度商业银行净息差为1.69%,一些银行是低于这一水平的;四是资本补充有一定困境。

他强调,传统业务发展模式受到越来越大的挑战,行业需要用大模型去提升效率、适应客户需求变化、拓展新的服务空间及场景。

避免大模型幻觉,关键环节还需人机协作

会后,曾刚在接受《每日经济新闻》记者采访时表示,既要看到大模型的潜力,又要关注可能的风险。一方面,要依靠技术的不断改进纠正可能发生的大模型幻觉;另一方面,可以通过人机结合,将大模型圈定在助手层面。

上海金融与发展实验室主任曾刚:避免大模型幻觉,关键环节还需人机协作

上海金融与发展实验室主任 曾刚 图片来源:主办方

NBD:金融是一个严谨的领域,要在金融业务中进行AI应用,如何避免大模型幻觉?

曾刚:现在我们确实对风险审慎经营保持极大关注。首先,机构层面要审慎经营、避免(使用)过度的风险。在使用(AI的)过程中,对客户、消费者的保护要做到位,避免对客户利益的损伤。

金融大模型应用中,可能会在两个层面上产生风险。一是在交易过程中,如果使用大模型时出现大模型幻觉,可能会导致一些潜在的风险,对机构造成伤害;二是在业务过程中,对客户造成伤害。

因此要求金融机构,从研发到应用大模型的过程中,均高度关注可能出现的大模型幻觉。既要看到大模型的潜力,又要关注可能的风险。

一方面,依靠技术的不断改进,通过各种方法纠正可能的幻觉,但这需要一个过程;另一方面,在实践当中,实现人机结合,不要完全把任务抛给大模型。大模型可以替代一部分工作,但在关键环节还需人工进行校正、核验。通过人机结合,把大模型圈定在人的助手层面上,而不是让大模型完全替代人的工作。既能保证效率提高,同时也能避免大模型幻觉。

其次,监管层面上对科技应用也要提出规范要求,避免可能的风险。目前,科技监管越来越规范,通过监管层面引导机构完善治理架构、工作流程,以确保把发展过程中潜在的风险控制在可接受范围之内。

封面图片来源:视觉中国-VCG31N2008742366


作者: 网站小编

这家伙很懒什么都没说!

为您推荐

返回顶部