“AI是创新、效率的代言词,但当我们把目光投向开源软件,就会发现两者之间的核心竟如此十分相似——创新、透明、安全、弹性。”红帽全球副总裁兼大中华区总裁曹衡康日前在2024红帽论坛上表示,十几年前,云计算的出现颠覆了人们对计算方式的改变,如今AI的出现亦是如此。
所以,企业如何从0走向AI?红帽看到的趋势是:开源正在凭借其创新、安全、透明度高以及协同合作的优势逐渐成为主流。
IDC数据统计,目前有83%的CIO认为他当时的所谓的云的战略要重新思考,其中75%的CIO认为它要走混合云的,因为公有云不够弹性,也不安全,同时成本太高。所以,混合云成为了最理想的模式。
另一方面,无论是在公有云,还是数据中心,以及边缘计算等方面,算力的使用也十分关键,AI也是一样道理。混合开放的模式去开发AI就是一个必然的趋势。
对于企业来讲,再多好听的技术名词也不如技术本身能够为业务创新带来价值来得实际,这才是最关键的。
那么,企业的需求到底在哪里呢?IDC的全球数据调研显示,整个中国在AI场景方面投资大量暴增,2024年是74个场景,预估到2025年将达到100左右,在整个亚太区平均值的以上。所以中国在AI方面外投资是远远超过亚太区,甚至可能是全世界的。
目前,AI场景的投资主要以三个方向为主,包括预测型AI、GenAI和解释型AI。不过对于企业而言,他们更关心的是如何借助AI实现生产力的提升,做出更智慧的决策和拓展新的商机。
虽然AI的基础架构已经基本完善。但过去两年,全球资本大举投入基础建设,不久前美国股市暴跌引发了关于高昂投入却未见显著成效的讨论,许多企业应用仍未落地。不少企业尝试用大模型提升效能,但发现大模型不适合生产场景,因为一点小错就可能带来风险。
因此,红帽在过去几年提出了“小模型”概念,即专属模型(faithful purpose),让企业的数据驱动AI模型的生成,确保模型稳定、安全,并符合企业的特定需求。
红帽的InstructLab是一个学习平台,支持市面上各种模型。红帽的理念不仅是创建和使用开源模型,更在帮助企业构建个性化模型。通过“小模型”概念,可以快速将客户的知识库输入到模型中,无论采用何种模型架构,都可以通过深度数据的方式生成企业的专属模型。这种方法能够快速搭建适合客户的特有模型。
“设计InstructLab有两个主要目的:一是让客户基于Granite基础模型,使用InstructLab和自身数据训练出符合需求的模型,这个输出可以留在企业内部。InstructLab的输出分为知识(knowledge)和技能(skill),这两者可以在企业内部自用。”红帽大中华区方案架构部总经理王慧慧认为,InstructLab是连接社区和客户的桥梁。红帽的开源平台上几乎所有产品都遵循这种模式,而在开源模型领域,这种方法是红帽和IBM首次探索的方向,旨在通过开源社区推动开源模型的持续进步,而不仅仅是开放某个版本的模型。
作为一家数字化工厂,西门子工业自动化(成都)有限公司始终重视AI、数据及技术平台的投入,并且已经在实际应用中采用了许多数字化理念和方法来提升生产效率和质量。
“我们公司很早就开始应用小模型,尤其是在生产领域,比如机器视觉。”西门子工业自动化(成都)有限公司信息技术部经理杨健以垃圾分拣为例:原材料加工后产生的垃圾有金属、塑料和纸张等,以前的机器人视觉识别准确率只有大约85%。通过小模型训练,比如利用开源的OpenCV基础框架,将准确率从85%提升到95%以上,大幅提升了分拣效率。
在他看来,大模型有时会出现幻觉现象,这在生产应用中存在风险。比如在知识库问答中,生活场景下偶尔答错影响不大,但在生产线上,如果工艺流程的操作指导出错,可能导致严重问题。因此,对大模型的应用目前保持探索并较为谨慎。相较之下,小模型在生产中非常适用,应用和场景单一,错误率低,能保证质量和过程的可控性。
此外,红帽还引入了“社区版”小模型,通过合成数据大幅减少对真实数据的需求,将数据量降至原来的千分之一。这种方式不仅降低了算力需求,节约了成本,能耗也大幅减少,对环境更加友好。在基础架构上,红帽采用混合云模式,支持本地数据中心、公有云和边缘计算环境的运行,为企业提供灵活的AI模型部署方案。
关于场景应用,红帽引入了“开放实验室”的概念,与客户的顾问团队合作,针对企业的研发、生产、市场行销和客户支持等环节,一起找出最具效能的应用场景。从一个小应用成功起步,再逐步扩展至更大的场景。
总的来看,红帽为企业的AI应用献上的“锦囊妙计”可以归结为三个步骤:首先,企业可以通过红帽的InstructLab和podman建立一个小模型;其次,当规模变大后,用企业内部数据中心来建模,此时红帽的Enterprise linux AI可以无缝衔接;最后,当企业的数据和规模都相对成熟了,客户计划大规模落地实施AI,就可以通过红帽的OpenShift AI来完成。
写在最后
“来红帽7年的时间里,我感触很多。虽历经各种挑战,但去年我们依旧创下了历史新高,今年也继续保持了双位数增长,这在外企中相当难得。”在曹衡康看来,红帽的增长来自于越来越多的企业接受开源技术,同时还得益于红帽广泛的生态系统,在开源领域,技术必须能被大多数厂商适配和支持,这也是客户信任红帽的原因。据了解,红帽的合作伙伴超过5000家,涵盖硬件和软件厂商,确保所有新版本都能顺利集成。
2024年是红帽在中国的第20年。这对红帽来说是一个重要的里程碑。曹衡康坚信,AI的前景是无限的,关键在于应用场景,红帽将继续专注于在架构中探索更多应用场景,这才刚刚开始。