用AI释放科技温度 京东云“守正创新”让年味儿更暖心

作为央视虎年春晚独家互动合作伙伴,京东云完成了一次史无前例的技术大考:

短短19天的备战时间、持续23天的10倍脉冲式流量洪峰、世界上规模最大的网络活动、也是全球最复杂的线上线下交互场景。

这四大曾被外界认为不可能完成的技术难题,却在京东云凭借对计算资源的大规模精准调动下,在没有新增一台服务器的基础上顺利解决。

据此前多家媒体的报道,本次项目的负责人由京东集团总裁徐雷亲自担任,项目执行牵头人则是京东零售CEO辛利军。在“考前准备”中,京东内部成立了8个项目小组、调动了100多个虚拟团队、参与协同的研发人数更是多达上万人。

春晚红包互动项目一直是中国技术领域万众瞩目的挑战,伴随央视春晚的圆满结束,为此次央视春晚红包互动提供坚实技术支撑的京东云成功保障了全球华人红包互动的“丝滑”体验,成功应对世界最大规模、最复杂场景、最长周期、最短备战时间的虎年春晚红包互动活动。

从开始探索春晚红包互动的无人区,到技术日益成熟平稳保障;从互联网厂商主导的流量角逐,到新型实体企业推动的数实融合,这一转变过程,不仅是京东云持续创新的AI技术对行业降本增效的持续探索,更是云厂商利用AI技术为传统春节等国民节庆活动带来的科技人文新体验。

10倍流量来袭,智能客服请求出战

本次春晚项目的诸多难题中,京东云首先要面对的,是即将如山洪暴发般涌入的流量。

10倍流量,参照物并非普通时段,而是双十一大促当天的峰值数据。也就是说,京东云此次春晚的流量承压,相当于10个双十一的加总。从最终的数据来看,春晚期间,全球华人参与京东APP红包累计互动量达691亿次。

与往届由快手、百度、抖音等支持承办的央视春晚红包互动不同,京东云今年除了要支持春晚红包互动的复杂场景之外,还需支撑用户在“年货节”、 “摇一摇”、“15亿红包和好物”等消费的全链路场景。从技术层面来看,这意味着春晚红包互动要叠加“年货春运”中零售和物流在内的所有供应链履约能力。从前端网站的订单、结算、支付、搜索、推荐,到后端的仓储、配送、客服、售后,所有业务系统都面临着前所未有的挑战。

如此巨大的流量来袭,率先请求出战的,是春晚红包环节中接触广大观众最直接、最频繁的智能客服言犀团队。

拆解一下京东智能客服言犀的兵力,主要可以分为三个部分:第一个,是日常承接最大流量、也是春晚项目备战中最重要的在线机器人系统;第二个,是主要面向C端用户的语音应答机器人,主要起到分流和削峰作用;第三个,是内部管理端的支撑系统,其基于大数据智能分析对各类潜在的风险做出预判。

作为京东科技副总裁、智能客户服务产品部前台负责人,刘丹在这次大考面前则显得十分镇定。

他并不担心即将到来的流量洪峰。事实上,京东智能客服言犀团队储备下的人机交互计算能力,已经能达到一小时近15亿次,相当于完成了一轮全国人民的咨询。也正是这种技术沉淀,让智能客服团队在整个京东春晚项目中,犹如一道强有力的护城墙,极大地分担了洪峰流量的挑战。

常态化也是超进化。在刘丹看来,智能客服团队此次之所以能从容应战,实则仰赖于其背后的京东云底层技术。没有像往年央视春晚的互动合作伙伴一样大量购买扩充服务器,京东选择将此次项目全部放到云端进行,“榨干”每一个CPU的时间片和计算资源。在较少增加计算资源的前提下,成功应对世界最大规模、最复杂场景、最长周期、最短备战时间的虎年春晚红包互动活动。

“可以做到高效弹性扩缩容。”刘丹表示这也是一种云计算对资源的精准腾挪,把包括“央视春晚红包”、“年货节”等所有项目资源都储存在云端,并通过时间、优先级、量级规模等维度对其进行计算区分,便可以最大程度的实现资源的高效利用。

奋战在一线的京东云工程师

虽然在应对洪峰流量上信心满满,但智能客服言犀团队仍要在短期内克服一大难题,即历史数据和语料的缺乏。

“在抢红包互动的过程当中,抢不抢得到,抢到了怎么用,在哪里查看,以及使用的过程当中有任何问题,都可以第一时间通过智能客服来咨询。”已在京东智能客服言犀团队一线工作十余年的陈鹏表示,往日里智能客服应用多在零售场景,相应的AI技术已经达到了高级专家水平,但春晚红包场景中的很多具体细节问题,对技术团队来说仍是个不小的挑战。

“我举一个例子,平常普通用户,可能就问一句话,实际上放到十几亿观众范围内,这个问题的问法可能会多达几十、上百种,我们都要进行很好的应对。”

为了给春晚观众提供最好的咨询体验,智能客服团队下了一番苦功夫。

据智能客服产品经理李杨晶讲述,其所在团队将春晚咨询相关的经验快速沉淀成算法,并从京东以往用户的历史咨询中取出了最有可能被提问的内容。

有了大方向后,智能团队的技术人们随后火力全开,基于内部“言犀”人机交互平台所沉淀的能力,在短短一周之内便迁移式地将咨询语料覆盖率提升到了80%,而后增加至95%,包括线上应答系统对用户意图的识别、对相关活动的引导、甚至是对未知场景的猜想,一个几十人的团队运用深度学习,硬是把十几亿国人的提问内容摸索了个遍。

不仅如此,在与用户交互的具体环节落地中,智能客服团队也做好了预判和引导,与以往大促中会产生的三轮左右对话相比,春晚红包互动能做到五轮以上。

AI技术的人格化温度

系统有了抵御洪峰流量的能力并逐渐趋于稳定后,新的问题又来了。

如果说既保证全国人民在央视春晚中顺利参与红包活动、又使消费者拥有完整的“年货节”消费体验是京东云做到的“守正”,那么在这个特殊的时间点和千载难逢的项目中,京东云显然还想做出些“创新”的事情。

在这一点上,京东云利借助AI技术所做的探索——虚拟数字人便是最佳范例。

为了保障平台用户拥有更好的消费体验,京东临近春节上线了首个智能数字人客服“芊言”。这个拥有媲美真人3D形象的数字人,是一个22岁活泼可爱的Z世代美少女,她不仅可以实现售前、售中、售后等各类咨询问题,还是一名靠谱的种草达人和好物推荐官。实现芊言自然交流、流畅互动的背后,是京东云自主研发的京东智能客服言犀提供了多模态交互技术。

智能数字人客服“芊言”

基于流式端到端conformer的模型架构等行业先进的语音识别技术,芊言在近场的中文普通话识别准确率可达98%,并可以提供四川话、广东话、英文与普通话等混合识别服务,支持用户边说边返回文字,其响应速度高达毫秒级。与此同时,芊言还能支持在语音自训练平台中上传热词词汇并自助进行模型训练,精准提升业务领域词汇识别率和个性化识别准确率。

在李杨晶看来,虚拟数字人芊言的诞生也是客服角色的升级与延展。

“以前客服的角色更多是承接需求,为用户提供好服务,让他们感到快乐和舒适,客服默默躲在后面就可以了。但现在不一样了,以前那个被动的影子式的角色正向一个管家和朋友的身份转化。比如芊言,我们为她提供了变装、表情、生动形象等人格化的过程。”

而芊言之所以在上线后受到广泛欢迎,也是得益于京东云AI技术的沉淀和200个日夜的“入职训练”。依托京东智能客服言犀的多模态交互技术,芊言实现了语音识别、语音合成、自然语言理解、3D美术、视频驱动多模态技术的创新融合。

更重要的是,虚拟数字人的人格化进程,也在加速着AI技术情感化的脚步。与以往的智能客服相比,情感化的数字人多了些许温度,也为春节增添了些许人情味。

此外,京东虚拟数字人借助言犀平台大量的垂直领域语料,也不断扩充着自身的应用行业范围,其目前已在包括电商、政务、金融、保险、交通等领域中投入使用。

在2021年双11期间,在AI技术的驱动下,虚拟数字人主播已覆盖3C、家电、母婴等类型的京东自营店铺,能够结合商品的不同功能,配合做出丰富多样的动作。

将数字人主播应用在直播场景中,不仅弥补了真人直播空档期的销售,还增加了直播场次和时长,协助实现全天直播,虚拟数字人主播刚“上岗”一个半月,就助力Beats京东自营旗舰店实现直播时长和GMV翻倍增长。

此外,京东智能客服言犀还与江南农商银行合作,在2021年12月推出了全国首个业务办理类数字人“言犀VTM数字员工”。区别于过往咨询问答式机器人,言犀VTM数字员工可独立、准确完成银行交易场景的自助应答、业务办理等全流程服务。

以人工智能、大数据、云计算等技术为基础,京东云在不断深入探索虚拟数字人、多模态人机交互技术等数智能力,为各行各业的实体企业用户带去更好的云技术体验,从而助力社会经济的高质量发展。

京东云产品研发部工程师讨论春晚项目

在陆续完善准备工作的同时,一轮又一轮压力测试也在同期进行着。

据京东智能客服团队的开发工程师马浩回忆,从项目开始没多久,工程部就紧锣密鼓地安排了一轮又一轮的压测。首先是模拟春晚的洪峰流量给系统加压,寻找系统瓶颈并进行优化。如此反复,一轮一轮的压测让系统性能和资源利用效率都经受了千锤百炼。

“像这样没日没夜的压测,总的次数不下20轮,因为要确保以最平稳的性能来接待春晚咨询量的峰值,还要在同时做到资源的合理利用。”马浩表示,虽然整个过程非常辛苦,但最后经历7轮红包互动后呈现出的结果让所有人都觉得非常值得。

AI技术搭台,科技春节唱戏

1月31日虎年央视春晚的除夕现场,京东不负众望地完成了这场规模庞大的红包活动。在向全国人民发放15亿红包和好物的同时,京东在除夕当晚还批量复制了数十万条锦鲤,达成了691亿次互动总数,刷新了历史记录。

那些为了保障系统安全而彻夜守卫在旁的京东工程师们,也再次亲眼见证了云技术的巨大潜力。

京东云基础设施研发部高级总监常亮仍能记起早些年圈内刚开始做“云”的场景,那时即便是业内站位较高的大佬对此也颇有争议,有人觉得是新瓶装旧酒,也有人作壁上观,还有人觉得是风口所以大力投入。事实上,云技术的发展也的确经过了一个非常虚无缥缈的阶段,当摸着石头过河的人走过了最艰辛的路之后,虚幻的技术才找到了坚实的落脚点。

“以前我们的云技术大多还是为企业增加服务,体量做不到很大,包括前几届春晚红包的承办平台也还是在用自己的算力,但今年的春晚项目我们做到了用京东云作为技术底座,打通了流量的全链路,这其实依赖的是我们从前端到后端的技术能力。”

京东云带给春晚观众的科技体验,也体现于红包在后续场景落地中的方方面面。

基于自然语言理解与知识图谱等AI技术,并通过大量的研究与模拟,京东云支持京东零售开发出了针对商品营销内容的智能写作服务,并同时应用在了京东商城的“发现好货”频道、智能客服、社交电商三大板块中,既填补了商品更新与人工商品文案更新直接的巨大缺口,又提升了商品文案的丰富性。

降低人力成本,提升工作效率,是AI的一大优势,但对于智能写作来说,速度快只是一方面,质量高才是最关键的。AI创作的商品文案既要符合语法语义、通顺流畅,还要抓住商品的卖点逻辑,迎合消费者的购买心理。智能写作的研发团队曾挑选了一批由AI和达人分别创作的文案,并将其用作调研让受访者“盲选”,令人较为惊喜的是,智能写作与达人写作以1:1打平。

而在近期由京东云与中国美术学院合作研发的AI春联项目,更是结合了NLP情感识别技术和GAN图像生成技术,用户使用该功能既可以实现春联的自动生成,字体也能根据不同的情绪,进行风格化篇章书法的生成,不仅满足了国人基于情感和表达主题自动生成内容的需求,还推动了科技与艺术、传统文化、民俗的融合。

春联AI项目

此外,为了广大用户更方便地使用春晚红包,京东云也支持零售场景推出了基于计算机视觉技术的拍照购/搭配购应用,辅以语音对话交互技术,消费者可以通过拍照或截图方式,对非标准化商品和不易描述商品进行以图搜图。

相比于市面上现有的电商图片识别技术,拍照购/搭配购基于PVANET物体检测模型进行了进一步优化,拍照购可支持多商品主题检测,同时识别图像中的多个商品,并根据不同商品主体的显著性,优先推荐显著商品主体对应的购买链接。

AI春联、达人写作、拍照购/搭配购,其本质都是人工智能技术在春节营销场景的应用落地。以此为基础,京东云还在不断助力行业提升着平台用户、甚至更广大群体的线上春节消费体验。

从简单粗暴的拼流量阶段,发展到如今的数实融合新阶段,万众瞩目的春晚在科技与实体的融合下涌现出越来越多的优秀企业,京东云凭借行业领先的AI技术所打造的智能客服、虚拟数字人,以及智能写作等功能,不仅为全国观众带来了一个有温度的科技春节,其通过实践总结出的资源高效利用方式,也为大行业的降本增效提供了最佳范本。

随着京东云AI技术的持续加速发展,相信其对产业数智化的赋能、对实体经济的发展、对国民传统节日风俗与科技的融合,都将带来源源不断的创新力量。

给TA买糖
共{{data.count}}人
人已赞赏
专栏发现

春节假期全国共揽投快递包裹7.49亿件

2022-2-7 9:56:27

专栏发现

但愿这是最后一个“VR元年”

2022-2-7 9:56:35

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索