“中午做彩排的时候市场部告诉我,你要站在灯的下面,因为会让你看起来发光、发亮。这给了我一个很深的启发:在急剧变幻的IT市场,站对地方真的很重要。”伊克罗德信息执行长黄国华日前在伊克罗德X墨奇科技联合媒体采访的时候表示,十年前,伊克罗德第一次站对的地方就是成为第一批拥抱亚马逊云科技的服务合作伙伴,不管从基础的云咨询、云迁移,还是云托管,伊克罗德信息都在亚马逊云科技大中华区的合作伙伴中做到了第一;第二次站对的地方就是与墨奇科技开展合作。
墨奇科技成立于2022年4月,是由一群热情的科学家和极客创立的企业级AI数据库公司。以研发引领尖端的人工智能技术和产品为目标,旨在彻底改变对大规模非结构化数据的处理方式。
作为一家 AI 基础技术和平台公司,墨奇科技坚持将源头技术创新视为解决智能化时代挑战的重要手段,在 AI 基础技术领域完成了一系列的创新和突破,构建了下一代人工智能的新型 AI 数据库,开创性地以统一的方式来表示和处理非结构化数据和AI 知识数据。目前,墨奇AI数据库用户来自于包括中国、北美、欧洲、日本、东南亚等国家和地区,覆盖金融、法律、咨询、游戏、媒体等行业。
“生成式AI是一个前所未有的、现象级的时代级机会,对于每个人、每个行业都是如此。”墨奇科技副总裁孟卓飞表示,这种程度的智力以及算力的全球化集中,在过去几十年内是非常罕见的,它不光可以解决问题,还改变了每个人的工作方式。
过去一年中,LLM的发展以及生成式AI浪潮在全球范围内引起了广泛关注。数据显示,90%的企业客户的需求更偏向于大模型的应用。可预见的是,其商业化之路必定面临许多挑战。
首先,生成式人工智能对算力的要求很高,随着模型复杂度的增加,对计算资源的需求也会相应增加,需要投入大量的时间和资金来实现算力的提升,这使得生成式人工智能在某些应用场景中的部署变得困难;其次,开发成本高,商业化回报有限;再次,商业化场景、产品、服务模糊。如何更好地找到适合且能创造商业价值的场景、产品和服务需要一段时间去尝试、试错;最后,企业用好生成式AI的“老大难”人才短缺。
“伊克罗德信息携手墨奇科技、亚马逊云科技替解决最后三公里的工程化挑战。我们的解决方案架构师、生成式人工智能专家和客户一起寻找场景、打磨算法、构建产品原型、寻找技术解决方案。”黄国华总结认为,对于企业在生成式AI的落地可以在5点的基础展开:找到合适的业务场景;更容易地选择和使用基础模型;在保护企业私有数据安全的前提下去“更容易”地对模型做调优;降低门槛让更多人有能力开发生成式AI的应用;超大规模和高性价比的算力资源,尤其是考虑未来的应用推理成本。
基于市场的需求变化,伊克罗德信息与墨奇科技2024年3月28日正式官宣双方达成战略合作,旨在通过双方的AI大模型领域的技术融合和创新力量,推动前沿科技的快速发展,双方将优势叠加,利用大语言模型LLM(Large Language Model)、向量数据库构建生成式AI应用解决方案,通过检索增强生成RAG (Retrieval-Augmented Generation) 提升性能并降低模型成本,打造企业AI新范式,为企业带来更加智能化、便捷的服务体验。
从产品和服务的角度来看,墨奇科技是目前市面上唯一一个有高性能向量计算以及SQL全兼容的数据库,不管对于开发者的开发习惯还是复杂数据场景的迁移成本,以及更灵活的数据查询方式来说,都是不可替代的一个选型考虑。
另外,墨奇科技向量数据库可以处理复杂的查询能力。所有的场景不是向量查询可以独立完成的,需要把结构化数据的处理能力综合考虑,加上结构化数据之后的复杂查询能力,目前是没有产品能够同时兼顾得很好。墨奇科技是在复杂查询的性能和性价比上做了非常多的调优,取得了最佳的平衡点。
“大家现在需要的不是最快的向量数据库,而是一个最合适且最划算的向量数据库。”孟卓飞强调,RAG是把数据库连着大模型一起用的实践方法,大模型的推理速度仅仅能到秒的级别,但墨奇科技向量查询是毫秒级的,中间差两到三个数量级。“在大部分用户的场景中,向量数据库的性能是过剩的,溢出了十到一百倍。因此我们是在锚定一个绝大部分场景可用的场景下,尽可能地去优化用户的成本,反而是更为市场接受的一种做法。”
值得一提的是,墨奇科技首次宣布经过为期半年的代码规范和技术文档准备工作,将发布其首个开源版本的向量数据库——墨奇AI数据库。此次开源涉及上百万行代码,将向全球开发者免费公开墨奇AI数据库商用版本大部分核心功能,加速AI场景下数据基础设施和传统关系型数据库的有机融合。
“开源不是一个小事情,它是一个系统性的工作。我们为此包括代码准备、文档准备和相关的社区支持,做了半年多的时间。”孟卓飞表示,之所以将其开源主要是两个方面的考虑:第一点是希望将向量的功能带给更多的分析型数据库的用户,而不仅仅是为了要使用大语言模型才来寻找向量数据库的用户;第二点是,从墨奇科技自身的业务来讲,其正在加速全球化的步伐,开源毫无疑问是一个必选项。
“生成式AI真的是一个很实在的东西,对于企业客户而言,他们迫切的需要一个实实在在能够为业务赋能的东西,”黄国华认为,尤其是在降本增效已经不是企业拿来使用新的IT技术的唯一理由的驱使下,他们更希望新的IT技术,比如生成式AI能为企业找到新的商业模式。
在黄国华看来,这是一个试错的过程。作为亚马逊云科技的合作商,伊克罗德信息第一步做的就是引导咨询,有丰富的客户经验,可以结合客户的核心场景,真的帮助企业落地生成式AI;第二步协助客户选对他需要的ISV;第三步,基于生成式AI一起在合作、探讨,填满“最后一公里”。
“墨奇有技术,伊克罗德有客户;墨奇有产品,伊克罗德有渠道;墨奇有算法,伊克罗德有服务。这个合作我相信是非常顺理成章的。”孟卓飞希望在2024年年底再开一次发布会,只不过不是签约仪式,而是庆功宴。