带你读《Elastic Stack 实战手册》之74:——4.1.6.优化Elasticsearch中的打分(_score)(中)

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: 带你读《Elastic Stack 实战手册》之74:——4.1.6.优化Elasticsearch中的打分(_score)(中)


《Elastic Stack 实战手册》——四、应用实践——4.1 企业搜索应用场景 ——4.1.6.优化Elasticsearch中的打分(_score)(上) https://developer.aliyun.com/article/1226242



使用全局计算打分


我们都知道 Elasticsearch 是一个分布式的搜索引擎,我们的数据分布在不同的分片上,在 _score 的计算过程中,Elasticsearch 默认取当前分片的数据来计算一个文档的相关性打分,也就是说我们搜索相同的内容,在不同分片上的打分是不同的,这样会导致我们搜索出来的内容相关性不那么‘靠谱。Elasticsearch 在这种场景下的解决方案是指定 search_type 为dfs_query_then_fetch,使用这个模式进行搜索,Elasticsearch 会首先从搜索的所有分片收集信息,全局计算分布式词频。然后再进行默认的 query_then_fetch 查询。这样计算的优点就是我们获取的文档的相关性是非常准确的,不会出现排序上的差异。缺点肯定就是增加了一次全局计算的过程,这样可能就会导致我们的搜索速度变慢,对机器的负载肯定是有影响的。所以就要权衡一下利弊,看下是搜索的速度稳定性更重要,还是搜索的准确性更重要。


调整打分公式


对于 _socre 的计算公式,如果我们需要更改,或者调整其中的参数,Elasticsearch 也给了方便的 API 来实现,例如下面这请求,我们认为默认的 BM25 满足不了我们目前的需求,需要定义一个打分公式,这个打分公式使用 DFR 算法,对于里面的一些参数我们自己指定:

PUT /index
{
  "settings": {
    "index": {
      "similarity": {
        "my_similarity": {  // 定义一个名为 my_similarity 的打分公式
          "type": "DFR",
          "basic_model": "g",
          "after_effect": "l",
          "normalization": "h2",
          "normalization.h2.c": "3.0"
        }
      }
    }
  }
}

我们可以在我们的 mapping 中指定我们的打分公式:


PUT /index/_mapping
{
  "properties" : {
    "title" : { "type" : "text", "similarity" : "my_similarity" }
  // 表示我们这个索引下的 title 字段使用我们上面设置的打分公式
  }
}

Elasticsearch目前支持了以下公式的定制:


l BM25 Okapi_BM25 (默认),type:BM25,可以调整的参数:k1、b。

l DFR divergence from randomness,type:DFR,可以调整的参数:basic_model、after_effect、normalization。

l DFI divergence from independence,type:DFI,可以调整的参数:independence_measure。

l IB Information based model,type:IB,可以调整的参数:distribution,lambda,normalization。

l LM Dirichlet LM Dirichlet similarity, type:LMDirichlet,可以调整的参数:mu。

l LM Jelinek Mercer LM Jelinek Mercer similarity,type:LMJelinekMercer,可以调整的参数:Lambda。

l 同时 Elasticsearch 可以使用脚本来定制一个相关性打分,例如我们重新定义TF-IDF:

 

PUT /index
{
  "settings": {
    "number_of_shards": 1,
    "similarity": {
      "scripted_tfidf": {  // 定义一个名为 scripted_tfidf 的打分公式
        "type": "scripted", 
        "script": {
          "source": "double tf = Math.sqrt(doc.freq); 
           // 定义 tf 的计算逻辑为 freq 词频的平方根
           double idf = Math.log((field.docCount+1.0)/(term.docFreq+1.0)) + 1.0; 
           // 定义 idf = log((文档总数 + 1)/(匹配到的文档数 + 1)) + 1
           double norm = 1/Math.sqrt(doc.length);
           return query.boost * tf * idf * norm;"
           // 定义最终打分的逻辑 
        }
      }
    }
  },
  "mappings": {
     "properties": {
      "field": {
        "type": "text",
        "similarity": "scripted_tfidf" // 这个字段使用上面我们定义的打分函数
      }
    }
  }
}

对于企业搜索中的一些特殊打分需求,我们可以通过定制打分公式来实现。对于这种调整,我们要对调整后的公式有充分的了解并对用户的 query 进行大量测试,避免出现一些难以处理的问题。

 

调整 DSL

 

当 _score 的计算方法确定以后,我们的dsl也是有调整空间的,Elasticsearch 也提供了很多查询方式给我们来调整 _score。这里主要说一下Script Score query、 Boolean query(布尔查询,就是利用布尔关系,链接多个子查询)、Boosting query(通过Boosting查询,降低某些文档匹配)、Disjunction max query(最佳字段查询)、Function score query(使用

function_score 来为一个查询定义计算最终打分的方法)。


Script Score query

 

使用 Script Score query 可以方便的在检索中修改文档的 _score,我们可以定义类似脚本语言的语句,灵活的定制打分。例如下面这个例子,我们用 script_score 来标识这是一个ScriptScore query,在 script 节点就可以写语句来表示我们想要将打分变成什么样子。

 

GET /_search
{
    "query" : {
        "script_score" : {
            "query" : {
                "match": { "tag": "Apple" }
            },
            "script" : {
                "source" : "doc['price'].value / 10 " 
        // 这里表示将文档的打分设置为 ’price‘ 字段的十分之一
            }
        }
     }
}

在 script 里面有很多种方式来改变打分,例如:

"script" : {
   "source" : "doc['price'].value + _score"  // 打分为当前得分加上’price’值
}
// 取一个随机数
"script" : {
    "source" : "randomScore(100)"
}
// 日期类型字段的衰减函数
"script" : {
    "source" : "decayDateGauss(params.origin, params.scale, params.offset, params.decay, doc['date'].value)",
    "params": {
        "origin": "2008-01-01T01:00:00Z",
        "scale": "1h",
        "offset" : "0",
        "decay" : 0.5
    }
}


《Elastic Stack 实战手册》——四、应用实践——4.1 企业搜索应用场景 ——4.1.6.优化Elasticsearch中的打分(_score)(下) https://developer.aliyun.com/article/1226238  


相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
3月前
|
存储 自然语言处理 BI
|
20天前
|
数据采集 人工智能 运维
从企业级 RAG 到 AI Assistant,阿里云Elasticsearch AI 搜索技术实践
本文介绍了阿里云 Elasticsearch 推出的创新型 AI 搜索方案
139 3
从企业级 RAG 到 AI Assistant,阿里云Elasticsearch AI 搜索技术实践
|
5月前
|
SQL JSON 大数据
ElasticSearch的简单介绍与使用【进阶检索】 实时搜索 | 分布式搜索 | 全文搜索 | 大数据处理 | 搜索过滤 | 搜索排序
这篇文章是Elasticsearch的进阶使用指南,涵盖了Search API的两种检索方式、Query DSL的基本语法和多种查询示例,包括全文检索、短语匹配、多字段匹配、复合查询、结果过滤、聚合操作以及Mapping的概念和操作,还讨论了Elasticsearch 7.x和8.x版本中type概念的变更和数据迁移的方法。
ElasticSearch的简单介绍与使用【进阶检索】 实时搜索 | 分布式搜索 | 全文搜索 | 大数据处理 | 搜索过滤 | 搜索排序
|
6天前
|
人工智能 自然语言处理 搜索推荐
云端问道12期实操教学-构建基于Elasticsearch的企业级AI搜索应用
本文介绍了构建基于Elasticsearch的企业级AI搜索应用,涵盖了从传统关键词匹配到对话式问答的搜索形态演变。阿里云的AI搜索产品依托自研和开源(如Elasticsearch)引擎,提供高性能检索服务,支持千亿级数据毫秒响应。文章重点描述了AI搜索的三个核心关键点:精准结果、语义理解、高性能引擎,并展示了架构升级和典型应用场景,包括智能问答、电商导购、多模态图书及商品搜索等。通过实验部分,详细演示了如何使用阿里云ES搭建AI语义搜索Demo,涵盖模型创建、Pipeline配置、数据写入与检索测试等步骤,同时介绍了相关的计费模式。
|
6天前
|
人工智能 算法 API
构建基于 Elasticsearch 的企业级 AI 搜索应用
本文介绍了基于Elasticsearch构建企业级AI搜索应用的方案,重点讲解了RAG(检索增强生成)架构的实现。通过阿里云上的Elasticsearch AI搜索平台,简化了知识库文档抽取、文本切片等复杂流程,并结合稠密和稀疏向量的混合搜索技术,提升了召回和排序的准确性。此外,还探讨了Elastic的向量数据库优化措施及推理API的应用,展示了如何在云端高效实现精准的搜索与推理服务。未来将拓展至多模态数据和知识图谱,进一步提升RAG效果。
|
1月前
|
机器学习/深度学习 人工智能 运维
阿里云技术公开课直播预告:基于阿里云 Elasticsearch 构建 AI 搜索和可观测 Chatbot
阿里云技术公开课预告:Elastic和阿里云搜索技术专家将深入解读阿里云Elasticsearch Enterprise版的AI功能及其在实际应用。
138 2
阿里云技术公开课直播预告:基于阿里云 Elasticsearch 构建 AI 搜索和可观测 Chatbot
|
17天前
|
数据采集 人工智能 运维
从企业级 RAG 到 AI Assistant,阿里云Elasticsearch AI 搜索技术实践
本文介绍了阿里云 Elasticsearch 推出的创新型 AI 搜索方案。
|
1月前
|
存储 人工智能 API
(Elasticsearch)使用阿里云 infererence API 及 semantic text 进行向量搜索
本文展示了如何使用阿里云 infererence API 及 semantic text 进行向量搜索。
|
1月前
|
搜索推荐 API 定位技术
一文看懂Elasticsearch的技术架构:高效、精准的搜索神器
Elasticsearch 是一个基于 Lucene 的开源搜索引擎,以其强大的全文本搜索功能和快速的倒排索引技术著称。它不仅支持数字、文本、地理位置等多类型数据,还提供了可调相关度分数、高级查询 DSL 等功能。Elasticsearch 的核心技术流程包括数据导入、解析、索引化、查询处理、得分计算及结果返回,确保高效处理大规模数据并提供准确的搜索结果。通过 RESTful API、Logstash 和 Filebeat 等工具,Elasticsearch 可以从多种数据源中导入和解析数据,支持复杂的查询需求。
107 0
|
2月前
|
存储 缓存 固态存储
Elasticsearch高性能搜索
【11月更文挑战第1天】
65 6

热门文章

最新文章

相关产品

  • 检索分析服务 Elasticsearch版