英特尔搭建框架，联合生态伙伴落地AI应用

“AI还未达到无处不在。”

去年以来，AIGC忽然爆火，人工智能的出现，不仅改变了“行业生态”，还改变了许多人的创业轨迹。不过，英特尔中国软件技术合作事业部总经理唐炯认为，尽管现已经经过机器学习、深度学习、生成式AI，到现在怎么样能够落地企业AI，真正帮助企业发展。但离AI无处不在还有很长的路要走。

在他看来，AI这个话题之所以热门，主要在于它的日新月异。“实际上AI这一理念在几十年前就有，只不过随着算力的发展，AI从机器学习到深度学习到生成式AI成为可能。”唐炯所提到的无处不在的最终方向，其实是已深入人心，进入到了每个人的生活、每个企业的工作中。

而AI的步步推进，不得不考虑三件事情：一、加速创新。现在已经有了许多的生成式AI，但是不得不承认的是，距离打造一个真正的不可或缺的“杀手级应用”还要进行大量创新；二、价值最大化。AI最终是要产生价值的，该怎样能够让AI的发展对个人、企业产生价值？三、灵活部署。AI是一个灵活的题材，不同的软件公司、合作伙伴，无论是模型、数据库还是数据治理、安全或是企业应用，当下需要的是如何整合才能够为企业提供一个完整的解决方案堆栈。

不得不承认，2023年的科技版图里，AI无疑会是一个重要的转折点。这不仅会影响业界的广泛关注，也对全球经济、社会结构产生了深远的影响。从AI大型语言模型的持续发展，到AI技术在不同行业的广泛应用，每一步都在描绘着未来趋势的轮廓。“从算力生态到开放的基础生态，到开放的软件生态以及应用生态，不同的服务体系都各有所长。”唐炯表示：“通过解构，能够使每个生态合作伙伴关注于最擅长的部分。强强联合只为能够实现完整的、合适的解决方案，让AI能力真正落地。”

英特尔，解构AI 创造落地能力

英特尔在开放生态系统上耕耘多年，跟生态或作伙伴一起开发、一起发展，是为长期计划。为此，英特尔在加速创新方面，提到的关键词是“开放”。即围绕软件、应用，面向个人、企业提供更加开放的资源平台。比如PyTorch、TensorFlow和Python等，都是可编程的开放环境，以来助力越来越多的人进行应用创新。

此外，因为AI的基础构架多样化的原因，所以每一个开发者都会在不同的平台上去开发不同的版本。为了能够更好的兼容性来适应异构的底层平台，英特尔提供了oneAPI、Open VINO等大量开源工具，同时通过一次性变成，在XPU易购的平台里面都可以使用，不用重新编程。当然英特尔还会考虑到企业AI在落地时的可靠性。比如To C场景下，AI的准确度往往在90%、95%是可以接受的，但是在医疗合作的时候，准确性还需要有进一步的提升，这也是在整个加速创新中，着重考虑的问题。

而在价值最大化方面，云本质的因素，企业早已习惯了服务器分享式的运营方式，成本利润往往会更高一些。唐炯提到，但是在AI时代里，云计算本身底层逻辑被打破，不管是AI加速还是GPU，都不存在空闲时间，所以AI的成本结构与原先的云计算的成本结构不一样。要实现价值最大化，就需要把整个基础架构和AI应用更好地适配起来。比如AI部署在云、边、端。唐炯还提到，尤其是在端侧，如果客户有PC，便能够视为一台PC的算力，就会帮助ISV或企业降低云端成本，以此类头，如果一台PC可以承担一部分AI算力应用，那么加起来就会使云端的算力成本下降。“AI PC的出现不仅仅是因为PC算力，而是它使得AI整个解决方案的部署成本得到优化。重要的是，云、边、端的整个部署，可以使AI解决方案价值最大化。”

第三，灵活部署。事实上，现在还没有一家公司可以提供一套完整的AI解决方案，还需要应用厂商、数据库厂商多方合作才能够将AI解决方案搭建起来。但由于大多数企业客户会觉得AI是仍然需要探索的，并且不了解其内部运作和使用场景。

其中Open Platform for Enterprise AI（OPEA）便是英特尔打造的开源社区，目的是为了帮助企业AI落地的厂商共享代码和模块，从而打造一套完整的企业级AI应用。当前，OPEA在今年上半年正式向全球推出之后，全球范围内一些头部ISV已经加入，包括国内厂商也纷纷加入。唐炯相信，后续还会有更多的软件行业伙伴加入OPEA，为整个开源社区作出贡献。

“未来一定会有更多的异构计算、创新应用和数据管理与治理方案。而通过一个开放、透明的平台，通过开源社区的贡献，可以使大家便捷了解到自身所处的位置、能够在整个解决方案当中所做的贡献以及可优化之处，不至于因为某一个大模型选择错误而将整个应用推倒重来、重新编码。”唐炯说道：“英特尔在开放生态系统上耕耘多年，跟生态合作伙伴一起开发、一起发展，也是长期的规划。同时也会继续支持不同的合作伙伴，希望可以博采众长，最终为用户提供更好的、更适合的解决方案。”

英特尔与生态伙伴

作为业界知名的半导体行业和计算创新领域的厂商，英特尔正转型为一家以数据为中心的公司，并与合作伙伴一起，推动人工智能、5G、智能边缘等转折性技术的创新和应用突破。目前，英特尔能够推动加速创新的进程，自下而上打造一套软件工具以实现性能的提升。例如，底层硬件构架有Xeon、Core、XPU等硬件的支撑；上层有开放可编程性的工具PyTorch、TensorFlow和Python等开发环境，也有oneAPI、OpenVINO等大量开源工具。

“东方国信与英特尔已经有五年的合作关系了，在各种各样前沿计算技术领域都与英特尔有过合作，包括数据库、大数据、判别式AI和现在的生成式AI。例如在大数据方面，有一个工作内容是Spark集成英特尔Gluten + Velox + 英特尔QAT/AVX512，这个工作就是利用现有CPU上向量化的指令集来加速数据处理的性能。使用户在不增加投资的前提下，可提升一倍以上的性能。”东方国信副总裁兼CTO查礼如实说道。

东方国信是一家专注大数据、云计算、人工智能的一个软件公司。他们有个大模型应用体系叫“幕僚”，主要应用方向有四个，智能BI系统、智能客服系统以及幕僚智用和幕僚智数。“幕僚”大模型应用体系的构建，是以智算算力云服务作为底层基础，然后做了融合异构加速器的算力云，来把异构的各种算力，变成了一个标准化、在公有云上可以开通使用的产品。目前，主要的目标客户有消费端的用户，消费端用户登录到公有云的门户上，就可以根据不同的需求去充值下单即可线上开通使用了。

海鑫智圣是一家基于CV（机器视觉）的大模型厂商，与英特尔的合作也会比较聚焦。海鑫智圣总经理孟凡军表示：“我们的解决方案是‘向上管理与合作’，只有在云、边、端都和芯片公司有了很好的合作，做底层拟合，才能实现数据集、精度集云边端的统一，所以这是一个很难的工程。”他们在英特尔新推出的CPU后，也应用了英特尔提供的OpenVINO和oneAPI软件提高了CPU适用的宽度，并提高了AI推理性能。

星环科技是一家成立于2013年企业级大数据基础软件的开发商。在这些年的发展过程中，星环科技在十几个To B行业积累了1500家终端付费的客户，而成立之初便与英特尔结了缘。去年所推出的Hippo向量数据库产品，是基于第五代英特尔至强可扩展处理器进行了性能调优，与第三代的产品性能相比有2.07倍的提升。而在企业部署大模型产品及一些知识体系中，向量库负责数据分析、数据召回等这些场景，因此在这个时代，这款数据库跟大家的部署是分不开的。

除此之外，还在去年年底推出了TKH（Transwarp Knowledge Hub），其中有两款比较核心的应用，无涯·问知和无涯·问数。无涯·问知主要是帮助客户做一些实时问答的场景，主要分为云端和PC端。前者已经对社会全面开放使用，后者则是与英特尔联合打造了无涯·问知AI PC版。

“进入AI时代，与云时代相比，很多的底层逻辑上发生了有很大的变化。”唐炯说道：“其实英特尔更多的是构建一个全面的框架，并与我们的合作伙伴共同完善这一框架，使其成熟并能够适应不同的应用场景，最终实现在企业中的落地应用，以提供相互配合的服务。尽管我们不直接与企业讨论具体的流程操作或AI流程转换的细节，但是会提供框架为企业带来一本指导性文件，其中包含了整体考虑的步骤和概念。这样的文件为企业指明了在实施AI技术时应考虑的关键步骤和要素。”

写在最后：

人工智能赛道一直是备受关注的独角兽之一，从业界的角度来看，可以分为两个阶段：1.0阶段主要集中于分析和判断，而2.0阶段更侧重于生成。2.0阶段的代表模型是大型语言模型和图像生成模型。“我们今天讨论的企业级AI，尽管随着算力的提升和模型参数的增加，理论上可以发展出非常强大的无损模型。但如果这些模型不能在应用中落地，实际上就没有经济基础去推动它们达到那种程度。”唐炯认为，在AI技术落地的过程中，大模型不仅要建立在丰富的知识储备基础之上，还要将其运用到实践中，从而进一步去学习和适应，以更好地融应用的环境中。他将大模型比作为“初出茅庐的大学生”，而制造模型的企业则被视为最头部的顶尖高等学府。人才的招募，更像是专注于特定任务的技术学校毕业生，例如图像识别或客服电话接听。所以大模型需要在实践中不断适应和微调，只有在特定行业如金融等领域直接工作的通用能力，才能够配合前端应用，并融入应用当中。

所以，唐炯也指出，在招聘人员时，对于培训、实习和资源访问的成本有着清晰的认识。通过解耦这一过程，可以明确在培训、实习和访问图书馆等环节所需的成本。综合考虑这些成本，会发现，并非每个阶段都需要像在大学学习那样，提供大量的实验设备或由资深教授亲自指导。所以，AI技术具体化之后，每一步操作也都伴随着相应的成本。通过解构过程，可以识别出成本降低的潜在环节。“利用OPEA，甚至可以在某些环节实现成本的降低，从而进一步减少总体拥有成本。这不仅是在技术成本整体下降的市场趋势之外，而且是在具体实施过程中可以采取的措施。”