12月22日,在中国财富管理50人论坛2024年会(十一届)上,工商银行首席技术官吕仲涛指出,大模型应用落地方面,目前业界尚无标准方法论。
吕仲涛认为,企业可按照场景通用化、专业化的程度来结合自身实际,分别使用基础大模型、行业大模型、企业大模型、任务大模型。他在介绍大模型场景运用时提到,利用构建全行资金营运调度助手,可对工商银行未来30天的存款余额走势及分行收支情况进行预测。
工商银行首席技术官吕仲涛
图片来源:主办方
四层大模型专业属性逐层增强
吕仲涛指出,企业可分别使用的前述基础大模型、行业大模型、企业大模型、任务大模型等四层模型,在规模和算力投入上各有差异,专业属性逐层增强。
基础大模型基于互联网通识数据,从零开始训练构建,例如大家熟知的GPT-4o等,可直接用于文本摘要生成等通用场景,可类比于高中生,可塑性强,但无法解决特定行业的专有问题。
行业大模型基于基础大模型,通过行业公共数据的二次训练,无各企业的私域数据,行业普适性强,现阶段像医疗、金融等数字化程度较高的行业,已在逐步开展行业大模型的开发,可以较好地解决行业普适性问题,它可类比于大学生经过金融、计算机等四年专业学习,具备较好的行业理论知识,但并不具备解决企业具体实战经验。
企业大模型在行业大模型基础上,结合企业内部私域数据进行训练,兼具行业普适性和企业自身特征,对于特别敏感的私域数据,一般不会加入这个模型,而是通过“外挂”知识库的方式开展,同时做好合理的授权和敏感数据的实时更新。
任务大模型,是针对有些企业大模型无法较好解决的业务场景,通过采用少量数据进行微调,形成专属领域的任务大模型。
大模型可预测分行未来30天收支情况
吕仲涛介绍,工商银行体系化推动大模型企业级的技术能力建设,按照三大支柱、1+X的范式、两权平台、全域生态的建设思路,立足于全栈国产化技术,建成集算力、算法、数据、工具、能力、安全、应用、生态于一体的企业级千亿金融大模型技术体系,协同赋能,打造人工智能+金融的新生态。
算力方面,工商银行建成千卡规模信创AI算力云,具备了面对TB级数据三周内完成千亿大模型全参稳定训练的能力。
数据方面,工商银行打造了一套适配大模型的金融支持工程,革新数据要素运营模式,建成从世界通识、行业通识、企业通识、领域及任务的五层知识架构,形成了采集、清洗、管理、应用标准工艺,实现全集团内外部全量支持的体系化管理,及时更新迭代和灵活应用。
在具体实践中,吕仲涛说,工商银行针对金融行业知识专业性高、任务执行严谨、权限隔离严格等特点,总结了适配金融行业的1+X工程化解决方案,其中“1”是指金融智能中枢,通过应用大模型的理解调度能力,实现在金融复杂场景下任务拆解、规划、执行,成功率达到90%以上。“X”包含知识检索、数据分析、文档编写、智能搜索等多项常用智能,金融知识问答满意度90%,对话式指标查询准确率95%以上。
吕仲涛进一步介绍了两个运用场景。在金融市场业务领域,以金融市场数字员工“工小金”为交易的统一入口,工商银行推出ChatDealing智能对话交易产品,将智能化深度融合于业务全过程,推动金融市场业务全链数字化,其中交互式对话交易助手ChatDealing基于All in Chat的理念,实现了支行、分行、总行多方交易员在同一交易对话框中,通过对话完成价格磋商,运用大模型适配用户意图,并智能识别交易话术,生成交易意向达成交易,重塑原有的先线下电话沟通,后线上审批报价的业务模式,实现对客交易效率提升3倍,现已上线即期结售汇、远期结售汇、即期外汇、远期外汇、外汇组合产品等业务产品,目前已覆盖了80%对客询价交易场景。
在资产负债领域,面向资产负债管理、资金管理岗业务人员提供资金运营调度的智能辅助决策能力,显著提升资金管理人员对全行存量资产的负债产品、每日流动资金的管理效能。利用构建全行资金营运调度助手,实现了更加高效精准的资金预测,可对工商银行未来30天的存款余额走势及分行收支情况进行预测。
封面图片来源:主办方