金融行业迎来大模型时代,存算基建成决胜关键

北京2023年9月21日 /美通社/ -- 去年年底,ChatGPT诞生,凭借强大、精准的自然语言理解和生成能力,令全球用户为之一震。

自此,各行各业纷纷投身大模型研发竞赛,掀起新一轮技术创新热潮。金融行业更是如此。如何构筑面向大模型时代的新型算力和存力基础设施,实现大模型能力向金融领域的迁移,成为金融机构热议的话题。

金融大模型 在哪些场景有用武之地?

作为AI新基建,大模型在金融行业有着广泛的应用场景。

在前台,智能客服,是AI在金融领域最常见的应用方向之一。还记得钢铁侠电影里的AI管家贾维斯(Jarvis)么?金融大模型将大幅提升客户经理的专业水平和服务能力,大幅降低客户经理的运营成本,让每个人都拥有类似Jarvis的24小时在线的专业客户经理。

在中台,AI大模型有机会改变金融机构内知识获取、内容创作、会议与沟通、代码开发与测试的方式,提升内部办公效率,甚至引发研发测试模式变革,全方位提升金融机构内部运营效率。

在后台,大模型将成为智能科技底座的标配,大幅降低智能技术应用的门槛,只需少量标注数据就可以让智能技术覆盖广泛的场景。

总之,AI大模型在内容生成与创作、信息摘要与总结、知识理解与问答、自然交互与对话等方面具备非常出色的能力,在金融行业有广泛的应用前景。

万卡规模、万亿参数,大模型有"高门槛"

大模型的快速迭代,需要高效算力和存储基础设施的加持。

一方面,算力是大模型的引擎。语言类、视觉类模型容量和相应的算力需求都在快速扩大,金融大模型发展的背后是庞大的算力支撑。如果用"算力当量"(PetaFlops/s-day,PD),即每秒千万亿次的计算机完整运行一天消耗的算力总量,来对人工智能任务所需算力总量进行度量,大模型训练需要几百甚至几千PD的算力支持,也意味着需要巨大的算力成本。


算力是大模型发展核心要素

例如,OpenAI在2020年推出的GPT-3,对算力的需求至少要上万颗A100 GPU,一次模型训练总算力消耗约3,640PD的算力。又如,浪潮信息推出的"源"中文语言大模型有近2500亿个模型参数,算力消耗达4000PD。再如,当前GPT-4和PaLM-2的算力当量已经达到GPT-3的数十倍。这还不算,谷歌正在开发的下一代多模态大模型Gemini,其训练量碾压GPT-4,达到后者5倍。

快速攀升的AI算力消耗,有限的IT预算,让大多数金融机构陷入两难境地:想做大模型,但资源匮乏、成本压力大、人才稀缺;不做大模型,又只能坐看机会错失。

对此,分而治之或许是一种可行的办法。所谓分,就是把大模型分为通用大模型和行业大模型。金融机构不用自己打造通用大模型,而是基于第三方的通用大模型,在此基础上专注打造行业大模型。根据信通院发布的《行业大模型标准体系及能力架构研究报告》,通用大模型缺乏专业知识和行业数据,而且构建和训练成本很高,难以实现商用。为更好解决特定行业为题,行业大模型应运而生。行业大模型可以满足特定场景需求,更好地为行业提供优质的服务,促进行业智能化转型升级。

浪潮信息AI服务器产品专家郭磊表示,"金融机构可以集中资源在行业大模型上,不是'在一千米的地上挖一米深的沟',而是'在一米的地方挖一千米深'"。


大模型训练四个阶段

具体来看,大模型训练的第一阶段是无监督预训练阶段,训练周期往往持续数十天到数月,需要数千张GPU卡同时计算,算力消耗巨大,训练时间非常长,训练出来的模型是基础语言模型。金融机构可以通过使用开源平台或者第三方合作(如浪潮信息的"源"大模型),获得基础语言能力。第二到第四阶段是有监督精调阶段、奖励模型训练和强化学习,这3个阶段需要数十张乃至上百张GPU卡同时计算,算力消耗的规模和训练时长相比第一阶段都有明显下降,所以金融机构可以在这三个阶段进行训练,打造有金融行业优势的大模型。

另一方面,大模型光有算力远远不够,还取决于数据规模和数据质量。

大模型的优势在于海量信息的搜集、提取和分析能力,这是人类难以企及的。

近几年,通用大模型的参数量快速增长。2016年OpenAI发布Gym强化学习平台,2018年GPT-1问世,模型参数为1.17亿,经过不断迭代,GPT-4参数规模达到1.76万亿。Google从2017年发布Transformer(6500万参数)架构以来,陆续发布BERT(2018年,3亿参数)、T5(2019年,110亿参数),参数规模逐步提高。近期,Google发布通才模型PaLM-E,这是迄今为止全球最大的视觉语言模型,包含5620亿参数。

在垂直行业,金融大模型的数据集在通用大模型基础上还需包含诸如金融研报、股票、基金、银行、保险等方向的专业知识,通过在训练过程中加入大量金融对话数据并针对金融领域进行特定的预训练调优,提升其在金融垂直领域的表现。

同时,多模态、跨模态成为常态,金融大模型的数据类型变得更加丰富。其中无监督数据,即原始数据,数据格式可以是网页、文本或语音数据;有监督数据,即经过标注的数据,格式可以为json或Query。此外,为了给投资者提供实时市场舆情和风险预测等服务,金融机构还要高效处理金融行业新闻、股票交易,乃至社交评论等金融数据。这些巨量、多模态、实时的金融数据新需求、新特征,传统集中式存储难以应对,需要弹性、灵活的新型分布式存储架构来支撑。

由此可见,随着金融大模型的演进,整个数据中心的架构都会发生改变,从AI服务器、到存储、再到网络的全栈方案都需要适应大模型时代的需求。

基础设施 如何"存得下、算得快、传得稳"

只有数据"存得下"、算力"算得快"、网络"传得稳",数字基础设施才能充分发挥数据要素价值,推动大模型应用落地,带动新业态繁荣发展。

对此,浪潮信息基于智慧计算战略,从算力、算法、数据、互联四方面推进产品创新,为大模型打造强大底座。

算力方面,浪潮信息通过千亿参数规模的大模型创新实践,已在算力集群构建、算力调度部署、算法模型开发等方面,构建起全栈领先的大模型算力系统解决方案,助力大模型训练开发。其中最新一代融合架构的AI训练服务器NF5688G7采用Hopper架构的GPU, 较上代平台大模型实测性能提升近7倍,同时支持最新的液冷解决方案,可实现更低的集群能耗比与运行成本,PUE小于1.15,以一个4000卡的智算中心为例,每年可节电620万度、降碳1700吨。

存储方面,浪潮信息生成式AI存储解决方案用一套AS13000融合存储支撑生成式AI的全阶段应用,提供全闪、混闪、带库、光盘四种介质,支持文件、对象、大数据、视频、块多种协议。结合AIGC数据处理的五个阶段:数据采集、准备、训练、推理和归档,浪潮信息由同一套存储提供端到端的数据流支持,满足文本、音频、图像、视频、代码等多模态数据的存储和处理需求。


浪潮信息存储产品

在集群高速互联层面,浪潮信息基于原生RDMA实现整个集群的全线速组网,并对网络拓扑进行优化,可以有效消除混合计算的计算瓶颈,确保集群在大模型训练时始终处于最佳状态。

当前,国有大行、股份制银行以及部分城商行,均已经开展或计划开展金融大模型研发,AI算力和数据基建将迎来高速发展。根据IDC预测,未来5年中国智能算力规模的年复合增长率将达52%,分布式存储增速将达到中国市场增速的2倍。大模型时代,金融机构需要以AI的场景、架构为抓手,结合各行的数据特点,打造新一代智算基础设施。

原创文章,作者:,如若转载,请注明出处:https://knewsmart.com/archives/209322

(0)
上一篇 2023年9月21日
下一篇 2023年9月21日

相关推荐

  • 新起点、新梦想、新跨越、新未来 派能科技总部基地正式启用

    上海2024年5月22日 /美通社/ -- 5月22日,派能科技总部基地入驻仪式隆重举行。上海市张江科学城建设管理办公室主任、一级巡视员侯劲,上海市浦东新区科技和经济委员会副主任、二级巡视员张彤,上海市张江科学城建设…

    6小时前
    13.7K
  • 品效销合一,麻辣王子的经营链路已经是next level了

    都说休闲零食行业正在进入存量市场时代,不少知名品牌开始“卷”价格。但是,在“辣条”这一细分赛道,却有品牌只用两年时间从3亿营收规模增长至10亿级别。 2023年,麻辣王子仅靠一款辣条单品创下年营收10亿元的业绩,…

    专栏 10小时前
    16.3K
  • 2024全年GMV或超200亿元,霸王茶姬稳拿“狂飙”剧本?

    作者:松果财经 茶,远看是文化、历史,近看可能就是你手边的一杯茶饮。 不过,无论远近,皆显示了茶的重要性,它是历史延续,也是生活日常。而为了持续弘扬茶的经济、社会和文化价值,“国际茶日”应运而生,这也成…

    专栏 10小时前
    19.3K
  • 7年助力7企破百亿:增长背后需要怎样的战略推力?

    来源 / 节点财经 文 / 崔大宝  无论在哪个时代,增长永远是最大的主题。  今年两会,中国政府工作报告指出:2024年发展主要预期目标是国内生产总值(GDP)增长5%左右。  但对企业来说,宏观愿景很多时候都和微观现…

    专栏 10小时前
    18.9K
  • 新茶饮兴起 n 种新玩法

    来源 | 伯虎财经(bohuFN) 作者 | 灵灵 新茶饮自诞生以来,揽获了极大关注。不同阶段,总会以不同的形象,活跃于大众视野内。 5月17日,#奶茶酸奶都卷向壮阳了#话题登上微博热搜,引发广泛关注。有消费者表示,“奶…

    专栏 10小时前
    16.6K
  • 安踏集团上榜2024幸福企业百强榜

    作者:互联网那些事 日前,由《经济观察报》与FESCO联合发起,清华大学积极心理学研究中心作为学术指导单位共同评选的“中国幸福企业百强榜”发布,安踏集团上榜,共同上榜的还有星巴克、蒙牛等品牌。 据了解,“中国…

    专栏 10小时前
    17.7K
  • BOSS直聘2024年第一季度财报:营收17.04亿元超此前预期,同比增长33.4%

    来源 / 市值榜 5月21日美股盘前,BOSS直聘(NASDAQ:BZ,HK:2076)发布了2024年第一季度财报。公司在第一季度获得了扎实增长,营收、付费企业客户数、平均月活跃用户数等主要经营指标均创下历史新高。 第一季度,BOSS…

    专栏 10小时前
    21.0K
  • 从“数字化软件公司”到“智能化运营系统服务商” 看有赞的“变化”

    作者:陈小欢 2024年5月21日,有赞在北京举办2024有赞春季发布会,这次发布会的主题是"利润增长‘AI",近年来消费市场发生了重大变化,用有赞创始人白鸦的话来说“消费市场已经从增量市场进入存量市场”,以前做生意讲…

    专栏 10小时前
    17.3K
  • 理想的业绩,理想汽车难把握

    作者:松果财经 “最难的是,和自己的较量”。对此,理想汽车或深有体会。 5月20日,理想汽车公布了2024年第一季度业绩:营收为256亿元,同比增长36.4%,环比减少38.6%;而净利润为5.91亿元,同比减少36.7%,环比减少…

    专栏 10小时前
    16.6K
  • 《庆余年2 》宠粉,加餐不减配

    来源 / 财经故事会 采写/万天南 编辑/陈纪英 断层式领先,开播即王炸。 时隔五年,再度归来的《庆余年2》,预约人数、热度值、播放量等数据,都创了历史新纪录。 灯塔数据则显示,从5月16日到21日,《庆余年2》播…

    专栏 10小时前
    23.1K

发表回复

登录后才能评论
联系我们
联系我们
分享本页
返回顶部