北京灵奥科技：加速企业生成式AI应用的落地

随着大模型在各行各业的广泛应用，基于大模型AI Agent迎来了快速发展的阶段。毫无疑问，AI Agent正在成为推动企业业务快速增长的关键力量。

北京灵奥科技是一家快速成长的初创企业，致力于推动生成式AI技术的普及，为此先后推出了Vanus Connect、Vanus AI和VanChat三款帮助企业构建AI Agent的SaaS产品，从而加速企业的商业成功，目前其已经累计服务全球30,000+用户。

需要注意的是，数据已成为企业落地大模型的核心挑战之一：一方面，模型需要深入理解企业多样化的业务数据，然而数据的类型繁多、格式杂乱且来源无法统一；另一方面，业务数据随着企业运营实时变化，模型需不断学习不同来源的、持续变化的业务信息；与此同时，数据隐私和大模型使用的安全合规是企业业务不能触碰的红线。企业既要让模型理解好数据，又需要做到安全合规。

而数据偏见和公平性问题，例如不同大语言模型由于训练数据来源不同，侧重点有差异，导致模型会存在偏见。企业需要评估不同模型的能力以及为不同业务场景选择合适的模型。

“Vanus通过将大模型优势和业务数据无缝结合，可以帮助企业解决数据问题：在神经网络层，Vanus Connect可以连接企业不同的数据源，实时感知企业业务事件的变化，并推送给神经中枢，然后接收神经中枢的指令去做执行；在神经中枢层，Vanus AI结合知识库（向量数据库）和大模型，帮助企业做业务的决策。”北京灵奥科技CEO厉启鹏在接受笔者的采访时表示，Vanus大模型中间件介于大模型和应用之间，是打通大模型企业端落地最后一公里，也是企业构建AI应用的必备组件。

据了解，大模型中间件Vanus可以提供Claude 3等多模型选择，实现商品数据自动同步，包括商品数据自动更新、Shopify数据自动接入等，还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成，助力企业灵活定制机器人，自定义聊天风格、欢迎词、外感颜色等。

值得一提的是，Vanus整个平台都是基于亚马逊云科技构建的，利用亚马逊云科技的基础云服务、大语言模型、数据存储三类云服务，为企业构建AI Agent平台，现已服务全球数万家用户。

其中，利用Amazon Elastic Kubernetes Service（Amazon EKS）基于网络流量的弹性扩展能力，Vanus AI构建的Agent可以根据用户业务流量平滑弹性伸缩，帮助企业平均成本降低30%，性价比提高20%；通过Amazon DocumentDB原生的3可用区、6副本的设计，提高可用性和可靠性，可以达到不低于99.99%正常运行时间的服务等级协议（SLA）；借助Amazon Simple Storage Service（Amazon S3）及数据库高并发数据查询能力提高大模型上下文加载时间，同时借助亚马逊云科技全球网络节点加速能力，整体将Agent回复系统延时降低40%。

此外，通过Amazon Bedrock提供的Claude模型，为Vanus平台的AI Agent提供非常强的语言理解和逻辑推理能力。

“亚马逊云科技提供使用简单、功能强大的云服务，这是合作的基础。而且Vanus绝大部分的技术问题，在亚马逊云科技上都能找到答案和相关的云产品，这些产品能够增强性能、提升稳定性，为我们提供强有力的支撑。”厉启鹏坦诚，作为一家初创企业，北京灵奥科技受益良多：从成立之初，北京灵奥科技就加入了亚马逊云科技合作伙伴网络（APN），亚马逊云科技不仅会提供全方位的技术服务，包含技术方案和架构师等，加速Vanus的产品落地，还可以提供全面的推广资源和支持，加速产品进入市场。

例如，Vanus AI为国内某ERP企业客服人员构建AI Copilot。该企业各部门沉淀大量内部数据，但是跨部门知识共享效率低，需花费大量时间对客服进行培训。同时，客服人员基于传统搜索方式获取知识，响应时间长导致用户的投诉率较高。

Vanus基于Amazon S3、数据库等云服务，帮助用户从文档、数据库、SaaS软件等多个数据源中实时抽取数据，构建统一的企业知识库；并借助Amazon Bedrock等服务，为企业客服人员构建AI Copilot，基于全域业务数据实时推理，为客服人员秒级提供回复建议，大大降低了客服响应时间。

现在，客服人员将问题回复时间从分钟级降至秒级。AI Copilot将客服团队的人效提高70%，很大程度降低了客服投入的成本。

“作为全球最大的一朵云，亚马逊云科技是最值得信赖的云服务提供商。它有非常强大的运营经验，能够帮助我们更好地服务分布在不同区域、不同国家的客户。”厉启鹏表示，亚马逊云科技是北京灵奥科技首选的一朵云，接下来，北京灵奥科技将会继续深化对Claude系列产品的使用，帮助客户构建一个稳定、安全且可靠的AI Agent SaaS平台。