在国内大模型领域同不断取得突破性进展时,2021年浪潮信息就发布了当时全球最大的中文AI训练模型“源”:各种诗文创作不在话下,玩转剧本杀,懂心理学……然而,衡量技术是否存在商业价值的核心在于其是否能够适用于企业数字化转型的业务场景。因此在不断创造神奇感知的同时,如何将大模型的智能落地在各行各业,创造更大的产业价值,才是重中之重。
目前,“源”已经落地在浪潮信息的服务领域,成功打造出“智能客服大脑”。值得一提的是,由于浪潮信息自身IT业务的原因,服务工作多是专业和复杂的垂直领域,这虽加剧了与AI应用结合的高难度和挑战性,但也为AI的发展提供了丰富的应用场景。
“从大模型的角度开看,尤其是落地到行业应用里边,需要跟行业业务相关的数据支持,智能客服就是一个很好的代表。”浪潮信息AI软件研发总监吴韶华介绍道,大模型学习的知识主要是来自于互联网上开源的各类对话、文档以及百科类知识等,在专业性方面需要行业专门的知识来做支撑,这种支撑方式可以有两种:大模型基于具体行业数据做微调以及采用外挂知识库的形式,浪潮信息选择的是第二种。“我们把行业数据编码成具体的知识库,在大模型在实际用的时候通过知识库的形式来做有针对性的检索以及知识的综合,随后将综合之后的知识返回给终端用户。”
那么如何针对已经拥有的行业数据来构建相关的知识库?这两个其实是相互连带的问题。事实上,行业数据,有相当一部分是没有经过处理的数据,浪潮信息需要把这些数据抽取,形成知识库。这些内容通过浪潮信息在智能客户方面的实践,最终形成比较好的知识库自动化构建的工具和方法。
当大模型落地到具体应用场景时,需要结合业务场景会做具体的适配,比如知识库的知识编码模型,由大模型蒸馏出来小模型,做知识编码,通过蒸馏出来的具体小模型,它不仅可以非常有效的提升大模型的编码效率,还可以针对编码后的知识进行二次检索的精度。
“浪潮信息探索的基于外挂知识库的方式,具有更强的特殊性——当我们把行业知识统一聚合到知识库,大模型的通用能力可以和行业知识形成一种松耦合。行业知识经过检索之后,反馈给大模型的是用户的问题强相关知识,利用大模型对知识的综合的能力,反馈给用户需要的回答。在这种情况下,行业的数据的更新,可以很方便的通过知识库的更新来做,然后大批的能力可以持续的被复用到每一次知识库的更新。”吴韶华表示,大模型基于行业数据库的微调,浪潮信息也在探索,只不过会持续产生较高的开销和成本。因此,浪潮信息当前比较倾向于大模型在具体行业落地的时候,采用大模型外挂知识库的形式,更好的将行业知识和大模型本身的能力进行结合。
回到AI和业务场景如何形成良好的互动的话题,服务作为一家公司重要的窗口业务部门,是和客户交互最紧密的平台,所以首先考虑是怎样把实际业务和AI算法结合在一起。
“浪潮信息在IT的服务场景非常复杂,面对更多大量的B类客户,我们也在讨论是否需要花费精力,做AI相关技术和算法的落地。”浪潮信息服务总监陈彬表示,从这几年取得的成果来看,浪潮信息总结了两个心得:因地制宜,按照公司的长期目标和实践条件,坚定不移的沿着AI方向和业务结合为目的落地;在具体落地时,小步快跑,前期找痛点、后期分阶段。
以客服机器人为例,这是客户服务的一个重要窗口。浪潮信息深知,不突破智能机器人的实际“智能”的瓶颈,仅仅是在形式上做“表面工夫”解决不了业务的痛点,因此,浪潮信息选择用“源”嵌入智能客服底层,变革传统模式并尝试突破瓶颈,,下一步,浪潮信息将根据业务需求来拓展智能客服机器人的功能属性,持续推进服务智能化转型。据了解,浪潮信息规划在明年把AR等技术嵌入到整个服务的流程,进一步夯实服务能力。
如今,浪潮信息智能客服在“源”的强智能的加持下,做到了解决问题广、客户答案精准专业以及交互贴心智能:智能客服能力覆盖浪潮信息八大产品线,和客户问答的匹配率达到92%;同时,智能客服对常见的复杂问题解决率达到了85%以上,平均解决率65%左右。此外,智能客服不仅支持图片交流,还可以针对客户输入信息自动查询匹配,最大程度减少对话交流花费的时间,原来和人工客服需要10分钟才能解决的问题,在智能客服中可能经过三轮对话10秒钟就解决了。
从模式上来看,不同于传统智能客服多模型和多数据库架构,浪潮信息智能客服采用统一架构,支持多种任务。“以往智能客服都是多模型和多数据库,整个技术架构比较复杂,维护难度较大,因此浪潮信息将智能客服升级为大模型驱动,完成了从碎片级到集成化的跃升,也改变了在多个知识库、多个模型之间进行任务调度的情况。”陈彬表示,在成本上,通过大模型的引入直接省去知识库的人工标注的工作,同时智能客服大脑还支持对企业文档、知识库,对内部的产品资料自动学习能力,能够时刻让智能客服大脑保证专业知识的实时更新,做到更快的进化学习。
目前,浪潮信息智能客服大脑以InService产品为载体对外提供服务。InService平台是完全免费开放给浪潮信息的客户使用。同时,基于“源”大模型构建智能客服大脑的流程、方法和经验,浪潮信息形成了面向不同行业构建“行业大脑”的解决方案,以标准化的流程,高效快捷的助力企业构建精准满足自身客户服务需求的智能大脑,来加速企业的数智化进程推进。
“‘源’在智能客服服务大脑以及在InService打造的过程中起到了隐性的作用,通俗的讲就是powered by 源。这种状态,InService平台基于源的智能客服大脑助力各个环节有效的协同。”在陈彬看来,在InService客户端,浪潮信息主要是利用自然语言理解的技术把庞大的客服知识库转化成客户随时能够问的服务专家,通过告警压缩、性能预测、容量预测等多种能力来实现设备的实时在线管理,贯穿着客户和客户产品使用的全生命周期。保证设备稳定不间断运行,满足客户在智能客服智能运维智能在线管理的需求。
另一方面,InService的后台也就是浪潮内部的运维端,能够把客户的需求精准转译成资源的指令,协调各部分的大脑各部分的运转,并提供资源储备的相关信息。准确的诊断结果为智能调派、智能供应链提供准确的人机料法环触发的指令,基于这种系统的准确前瞻性的数据,把调度运筹学和机器学习相结合,高效快速的调拨人和备件的资源,同时指导资源安排,补充备件或者人员进行跨区调动,实现服务运营的智能化。
写在最后
整体上来看,浪潮服务体系涵盖热线、指挥、备件、实施、服务管理、渠道管理、技术管理等模块,分别承担海量服务接入、服务工程师调派、备件仓储调拨、现场服务实施、服务流程管控、服务商体系管理以及工程师培养和知识库更新等核心要务。
目前,浪潮信息服务整体人员规模占浪潮信息总人员规模的4%,与业内15%到20%的占比相比,浪潮信息整体服务人员的ROI处在行业领先水平。而这背后,是浪潮信息多年来对于服务智能化转型的坚持与创新。