【资料图】
近日,汇集全球专家的云计算行业盛会——2023 亚马逊云科技中国峰会在上海举办,向量数据库的奠基者和领先者 Zilliz 受邀参会。峰会现场,Zilliz 合伙人兼产品负责人郭人通、首席工程师焦恩伟通过主题分享的方式从不同维度为开发者和行业专家详解云原生向量数据库在大模型时代的重要意义。
在企业转型 ISV 创新与探索论坛上,郭人通和亚马逊云科技人工智能与学习产品总监张洋分享了亚马逊云科技在 AIGC 行业的应用洞察及服务、基于大语言模型的落地方案和成功案例。其中,郭人通重点讲述了向量数据库如何助力 AIGC 构建存储、缓存以及 Zilliz 如何为 AWS 生态赋能。
郭人通从大模型的 “AI 幻觉”讲起。他表示,当下“AI 幻觉”是大模型的主要痛点之一,构建知识库是应对此问题的有效方式,向量数据库可以作为知识库的扩展插件为大模型进行知识增强。这也为 LLMs 时代构建数据应用提供了一种新的范式——CVP Stack。其中 C 是以 ChatGPT 为代表的大模型;V 代表 Vector Database;P 代表 prompt engineering。其中 C 作为运算单元,提供逻辑分析和自然语言对接的能力,V 作为存储单元,提供稳定准确、高容量的知识,P 在前两者的基础上,提供面向具体业务的适配能力。
在整个 CVP Stack 中,向量数据库扮演着重要角色,其中,Milvus 作为云原生的开源向量数据库,被全球超过 1000 家企业用户所信赖,下载和安装次数超过 350 万,在 GitHub 的 Star 数目超 2 万,在 SIGMOD 和 VLDB 等数据库顶会上发表了论文,奠定了向量数据库的基础。目前,Milvus 不仅具备百亿级向量的扩展能力,还集成 OpenAI、Langchain、Huggingface、Pytorch 等 AI 生态,是大语言模型落地应用的重要组成部分。
而为了给用户提供开箱即用的全托管向量检索服务,Zilliz 还推出了全托管 Milvus 的向量数据库 Zilliz Cloud,具备维护成本低、使用门槛低、丰富的企业级特性及安全放心的特点。据郭人通透露,Zilliz Cloud 已支持 AWS、GCP,不日即将支持阿里云、百度智能云、腾讯云、金山云等。作为 AWS 的优秀生态合作伙伴,Zilliz Cloud 可以轻松与其它两百多种 AWS 服务进行集成,例如利用 AWS 行业领先的安全服务,构建云上安全的向量数据库。同时,借助 AWS 的 region 力量,Zilliz Cloud 可以为全球不同地区的用户提供近距离的高质量服务。
在云原生数据库论坛上,焦恩伟与亚马逊云科技数据分析专家汤市健共话 AIGC 时代“新基建”的向量存储与检索服务,他们不仅分享了亚马逊云科技上的向量存储与检索选项、服务实践,也对全球流行的向量数据库Milvus 及 Zilliz Cloud 进行了架构揭秘。其中,焦恩伟从非结构化数据处理面临的挑战讲起,通过对 Milvus 服务于 AIGC 的特性与大模型应用的实践,展示了向量数据库的未来和无限潜力。
焦恩伟表示,向量数据库是为 AI 而生的数据库,Milvus 作为全球第一款开源向量数据库,具备云原生分布式、超高性能、可插拔引擎及云端一体的特点。Milvus 与 NVIDIA Rapids 的合作,使其成为全球第一个支持 GPU 的向量数据库,相比于 CPU 实现了 3 倍查询性能的提升;而 Milvus 团队与 AWS Graviton 合作,利用 ARM Neon 指令集加速,大幅提升了向量检索在 ARM CPU 上执行的性价比。
而随着 AIGC 浪潮翻涌,以 Milvus 和 Zilliz Cloud 为代表的向量数据库成为 AIGC 时代架构的重要组成部分,其中重要的大模型应用场景是 OSSChat 和 GPTCache。未来,在 AIGC 领域的发展推动下,向量数据库将向着更大、更快、更稳的方向发展,降低使用成本,更好地为开发者与企业服务。
此外,在“开发者会客厅”活动上,Zilliz 的展位吸引了来自全球各地的开发者打卡、交流,他们对于向量数据库的佼佼者 Milvus 以及 Zilliz Cloud 充满好奇,争相加入项目社区,探讨云原生向量数据库技术与自身业务场景结合的更多可能性。
总体而言,向量数据库作为大模型时代颇受关注的细分赛道,其重要性不言而喻。Milvus 和 Zilliz Cloud 作为赛道的奠基者与领先者,通过 CVP Stack 的方式为大模型场景的落地提供了典型的范本。回归 AI 时代,对于为广大开发者和相关企业而言,探索开箱即用的向量数据库产品势在必行。好消息是,据 Zilliz 官方透露,全托管 Milvus SaaS/PaaS 即将上线,由 Zilliz 原厂打造!覆盖阿里云、百度智能云、腾讯云、金山云。目前已支持申请试用,企业用户 PoC 申请或其他商务合作请联系 business@zilliz.com。
关键词: