专注于数字技术的商业观察者
登录×
科技
2023-11-24

生成式AI如何从技术走向落地,亚马逊云科技联合德勤中国交出 “答卷”

时间: 2023-11-24 编辑:

科技经常会给企业带来很多跨越式的发展,但是真正用好科技,还需要有一定的场景。 2023年11月16号,亚...

科技经常会给企业带来很多跨越式的发展,但是真正用好科技,还需要有一定的场景。

2023年11月16号,亚马逊云科技与德勤中国正式联合发布生成式AI联合实验室,旨在通过双方的优势,真正创造出好的场景、产品和模型,服务于企业客户的业务创新需求。

众所周知,生成式AI正在席卷全球,其发展轨迹好比过去信息革命浪潮一样,重塑所有的产业和行业。据高盛统计,全球GDP的七个百分点的增长会由生成式AI来拉动,近七万亿美元。从另一报告显示,企业层面上,它可以被用到63个场景,解决具体的业务挑战。

可预见的是,生成式AI将改变各行各业,从金融、到医疗和生命科学,到制造、泛娱乐、游戏,每一个行业都在探索如何使用生成式AI来提升客户体验,加快产品和业务创新。

然而,趋势不代表行业所有的客户真正能够从生成式AI当中取得价值,也并不意味着每一个行业、每一个客户就这么轻易地能够重新定义自己的场景和服务。对于企业而言,他们不仅需要关注生成式AI的新用例、新功能,还需要知道如何运用、部署和运维,并持续地评估它的价值。

各个行业都希望把生成式AI看成是将来提升自己竞争能力的一个候选者,但是有多少企业真正能够做到这一点呢?当务之急仍然是需要把这些能力贯彻到它的组织当中。

“越来越多的企业会要寻找如何把生成式AI和自身的业务能力紧密结合,把创新能力通过量身定制、优化的方式集成到业务当中,同时通过流程自动化降低运用生成式AI的成本。”德勤中国管理咨询云服务领导合伙人及人工智能与数据服务副领导合伙人孙晓臻认为,尽管生成式AI是个热点,但阻碍它真正成为企业能力的障碍之一就是它的成本太高:层出不穷的AI模型、与既有的业务融合以及安全法规等。

在孙晓臻看来,生成式AI联合实验室的初衷是从三个方面帮助企业客户加速生成式AI落地:帮助企业解决普遍存在的业务场景模糊问题。凭借在管理与战略咨询、技术落地实施方面的深厚积累,德勤帮助企业洞察行业趋势,发掘应用场景,制定生成式AI战略;在业务、数据层面为客户提供生成式AI的安全合规咨询服务,并针对不同国家和地区的生成式AI法律法规进行解读,将其融入企业的业务流程和产品研发,帮助企业提升整体业务和产品安全合规性;利用亚马逊云科技海外区域全新的托管生成式AI服务Amazon Bedrock和全托管机器学习服务Amazon SageMaker推出了系列解决方案,以满足企业的各类出海应用场景需求。

据了解,首批解决方案分别是:基于大语言模型的智能BI解决方案,以Amazon Bedrock和Amazon SageMaker为基础,预置了包括中文在内的多种大语言模型,可实现自然语言到SQL查询语言的无缝转换;生成式AI知识管理解决方案,基于Amazon Bedrock和Amazon SageMaker,提供包括Amazon Titan和Anthropic Claude等领先人工智能公司的高性能基础模型,以及多种开源大语言模型选项;大语言模型运维平台(LLMOps)解决方案,通过采用Amazon SageMaker作为模型训练和推理平台,使客户能自助对大语言模型调优工作进行流程化管理,利用基础设施即代码(IaC)快速生成工具链资源,实现操作自动化,提高模型迭代效率。

“亚马逊云科技始终以不断降低人工智能及机器学习的门槛为目标和愿景,并提供了一系列的技术、服务和工具,无论各个企业的技术水平、人才储备如何,都可以帮助所有企业充分释放生成式AI的潜力。”亚马逊云科技大中华区创新成长企业及合作伙伴生态系统事业部总经理倪殿令日前在接受笔者的采访时表示,亚马逊云科技提供从底层的加速层如加速芯片,存储优化,到中间层模型构建工具和服务,再到最上层的生成式AI相关应用,在每一个技术栈,都提供相关的生成式AI服务。

具体来看,在底层,有亚马逊云科技自研机器学习推理芯片Amazon Inferentia2和自研机器学习训练芯片Amazon Trainium。基于Amazon Inferentia2芯片的Amazon EC2 Inf2实例,可以打造最具成本效益的生成式AI云基础设施。生成式AI推理工作负载的要求很高,Inf2实例为在亚马逊云科技上大规模运行这类工作负载提供了最佳性能、最高能效和最低成本。基于Amazon Trainium芯片的新型Trn1n实例,将网络带宽提高了一倍,为训练生成式AI模型提供了更高的性能。

在中间层,亚马逊云科技发布了全新托管生成式AI服务Amazon Bedrock和全托管机器学习服务Amazon SageMaker,帮助客户去安全地、便捷地选择最适合的业务模型。

使用基础模型构建和扩展生成式AI应用程序,Amazon Bedrock是最简单的方法。通过API使用基础模型加速开发生成式AI应用程序无需管理基础设施;借助Amazon Bedrock,用户可从亚马逊云科技、AI21 Labs Anthropic和Stability AI等提供的基础模型中找到适合用例的基础模型;同时,Amazon Bedrock支持客户利用自己的私有数据对模型进行微调,以满足自身个性化需求。

同时,从数据准备、基础模型选型、基础模型微调到基础模型部署和管理,Amazon SageMaker帮助客户完成基础模型的微调与部署。在Amazon SageMaker JumpStart上基于公开可用的基础模型进行微调。

在最上层,亚马逊云科技还推出了开箱即用的生成式AI应用Amazon CodeWhisperer。它可以通过编写大部分无差别的代码,帮助开发人员消除重复性工作并专注创新本身。

也就是说,基于生成式AI联合实验室,双方将整合优势资源,形成了“1+3”合作模式:“1”是以亚马逊云科技的坚实技术为依托,在AI计算能力、亚马逊云科技海外区域推出的全新托管生成式AI服务Amazon Bedrock、和全托管机器学习服务Amazon SageMaker等技术领域深入合作;“3”是结合德勤在战略咨询、技术实施和全球合规方面的卓越能力,在生成式AI业务应用战略咨询、生成式AI安全合规咨询和生成式AI应用落地场景创新三大方面展开合作,帮助企业打通从业务战略、应用场景、安全合规到技术落地的业务闭环,充分释放生成式AI的巨大潜力。

值得一提的是,在人力上,联合实验室由双方委派产品专家、架构师、数据科学家、AI专家和行业专家等组成,亚马逊云科技投入云上计算资源、行业最佳实践以及合作伙伴资源,德勤中国投入行业解决方案资产、商业最佳实践、开发与运营能力,以及生成式AI业务应用战略咨询服务和生成式AI安全合规咨询服务,真正为客户走到最后的三公里做好努力。

标签:
版权声明:本文版权归数字商业时代所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。