今天的话题主要是讨论向量数据库,在进入正文之前,先了解一下什么是向量检索服务,了解了向量检索服务,自然也就明白了什么是向量数据库。
什么是向量检索服务
节录一段官方关于向量检索服务的描述:【向量检索服务基于阿里云自研的向量引擎 Proxima 内核,提供具备水平拓展、全托管、云原生的高效向量检索服务。向量检索服务将强大的向量管理、查询等能力,通过简洁易用的 SDK/API 接口透出,方便在大模型知识库搭建、多模态 AI 搜索等多种应用场景上集成。】 向量检索服务产品首页:https://www.aliyun.com/product/ai/dashvector
其实,通过向量检索服务的定义还是不太容易理解什么是向量数据库,毕竟官方的定义往往比较专业,专业带来的结果就是晦涩难懂。那么我在这里基于一个大家在日常生活中经常会用到的场景来解释一下。
拍照搜商品
拍照搜商品用官方的话语描述就是【电商智能搜索和偏好推荐场景】,怎么理解呢?在日常生活中你走在大街上,当你看到某个东西觉得不错,比如衣服、鞋子、手办等等,那么你是否会拿出手机,点开购物APP的拍照搜商品呢?那么这个时候你用到的就是【电商智能搜索】,而当你搜索完一件商品之后,不管是通过图片还是文字搜索,购物APP都会在首页或者搜索栏下面为你推荐相似的商品,这就是【偏好推荐场景】。而你拍照搜商品或者文本搜商品,用到的数据库,就叫做【向量数据库】。到这里,你还会觉得向量数据库只是AI热潮中是昙花一现吗?
为了更好的理解什么是【电商智能搜索和偏好推荐场景】,这里我查阅了官方的描述,还是可以理解的,节录如下:【在电商智能搜索和偏好推荐场景中,向量数据库可以实现基于向量相似度的搜索和推荐功能。例如一个电商平台中包含了各种商品的图像和描述信息,用户在搜索商品时,可以通过图像或者描述信息查询相关的商品,并且还希望能够实现推荐功能,自动向用户推荐可能感兴趣的商品。
用户只需要先将商品的图像和描述信息使用Embedding技术转换为向量表示,并将其存储到向量数据库中。当用户输入查询请求时,向量检索服务可以将其转换为向量表示,然后计算查询向量与向量数据库中所有商品向量的相似度,然后返回相似度最高的几个商品向量。另外,还可以基于用户的历史行为和偏好通过向量检索服务将用户的历史浏览记录和购买记录转化为向量表示,并在向量数据库中查询与该向量最相似以及相似度较高的商品向量,为用户推荐可能感兴趣的商品,提供更加智能和个性化的服务、更加高效和优秀的性能与购买体验。】
到这里,我想大家对于向量数据库,或者说对于向量检索服务,一定都会有一个比较明确的认知了吧,下面再来进入今天的话题讨论。
你使用过向量数据库吗?使用体验?
基于上面关于向量检索服务的介绍,我想大家应该都用过向量数据库了,只是你是在无意之间用过的。只要你有过网购,那么你都可以很认真的说:我用过向量数据库,并且体验还很不错。不管你是在淘宝、京东、抖音网购,不管你是以拍照搜商品还是文本搜商品,你用到的基本都是向量数据库。当然我不能保证全部都是,毕竟内部检索的核心技术我是无法知晓的。但是从用过的向量数据库的体验感来说,不管是拍照搜商品还是文本搜商品,体验感都很不错,数据返回很快,也都是自己有意向的商品。
为什么向量数据库能借由大模型引起众多关注
对于向量数据库来说,单独拿出来的向量数据库可以应用的场景有限,因而关注度不多。但是随着大模型深度学习的发展,大模型需要利用向量来表示复杂的数据,向量数据库能够高效存储和检索这些高维向量数据,为大模型提供强大的数据支撑。另外,向量数据库可以通过关联真实世界的数据点,如实体、关系等,构建知识图谱,进而支持模型查询和验证语义信息,从而降低模型输出错误的概率。在大模型中,需要处理的数据量极大,传统的关系型数据库几乎无法满足性能需求。而向量数据库由于其内部优化和并行处理能力,可以高效地处理大规模数据集,提供快速的查询和算法执行速度。
这也就是向量检索服务的另一个应用场景【自然语言处理等AI问答系统场景】,下面节录一段这个应用场景的官方描述:【问答系统是属于自然语言处理领域的常见现实应用。典型的问答系统比如通义千问、ChatGPT、在线客户服务系统、QA聊天机器人等。例如在一个问答系统,其中包含了一些预定义的问题和对应的答案。用户希望能够根据输入的问题,自动匹配到最相似的预定义问题,并返回对应的答案。为了实现此功能,首先可以通过向量检索服务将预定义的问题和答案转换为向量表示,并将其存储到向量数据库中。其次当用户输入问题时,向量检索服务可以将其转换为向量表示,并在向量数据库中查询与该向量最相似的问题向量。然后使用模型训练、问答推理、后期优化等步骤,实现类似通义千问、ChatGPT等的语言智能交互体系。】
到这里,向量数据库为大模型提供了这么大的助力,那么向量数据库借由大模型引起众多关注也就顺理成章了。
向量数据库在当前AI热潮中是昙花一现,还是未来AI时代的航道灯塔?
眼下的AI热潮、大模型等,离不开向量数据库的助力,那么向量数据库可以说足以作为当前AI热潮的基石存在,那么基于此,向量数据库在当前AI热潮中自然也就不是昙花一现,而是AI时代的航道灯塔。
向量数据库在当下AI热潮中的作用,不管你说他是基石还是灯塔,向量数据库都担得起。未来的AI时代,数据体量只会更加庞大,在目前已知的数据库,也就只有向量数据库足以高效存储和检索这些高维向量数据,为AI提供强大的数据支撑,因此向量数据库必是未来AI时代的航道灯塔。