《Elastic Stack 实战手册》——四、应用实践——4.1 企业搜索应用场景 ——4.1.6.优化Elasticsearch中的打分(_score)(上) https://developer.aliyun.com/article/1226242
使用全局计算打分
我们都知道 Elasticsearch 是一个分布式的搜索引擎,我们的数据分布在不同的分片上,在 _score 的计算过程中,Elasticsearch 默认取当前分片的数据来计算一个文档的相关性打分,也就是说我们搜索相同的内容,在不同分片上的打分是不同的,这样会导致我们搜索出来的内容相关性不那么‘靠谱’。Elasticsearch 在这种场景下的解决方案是指定 search_type 为dfs_query_then_fetch,使用这个模式进行搜索,Elasticsearch 会首先从搜索的所有分片收集信息,全局计算分布式词频。然后再进行默认的 query_then_fetch 查询。这样计算的优点就是我们获取的文档的相关性是非常准确的,不会出现排序上的差异。缺点肯定就是增加了一次全局计算的过程,这样可能就会导致我们的搜索速度变慢,对机器的负载肯定是有影响的。所以就要权衡一下利弊,看下是搜索的速度稳定性更重要,还是搜索的准确性更重要。
调整打分公式
对于 _socre 的计算公式,如果我们需要更改,或者调整其中的参数,Elasticsearch 也给了方便的 API 来实现,例如下面这请求,我们认为默认的 BM25 满足不了我们目前的需求,需要定义一个打分公式,这个打分公式使用 DFR 算法,对于里面的一些参数我们自己指定:
PUT /index { "settings": { "index": { "similarity": { "my_similarity": { // 定义一个名为 my_similarity 的打分公式 "type": "DFR", "basic_model": "g", "after_effect": "l", "normalization": "h2", "normalization.h2.c": "3.0" } } } } }
我们可以在我们的 mapping 中指定我们的打分公式:
PUT /index/_mapping { "properties" : { "title" : { "type" : "text", "similarity" : "my_similarity" } // 表示我们这个索引下的 title 字段使用我们上面设置的打分公式 } }
Elasticsearch目前支持了以下公式的定制:
l BM25 Okapi_BM25 (默认),type:BM25,可以调整的参数:k1、b。
l DFR divergence from randomness,type:DFR,可以调整的参数:basic_model、after_effect、normalization。
l DFI divergence from independence,type:DFI,可以调整的参数:independence_measure。
l IB Information based model,type:IB,可以调整的参数:distribution,lambda,normalization。
l LM Dirichlet LM Dirichlet similarity, type:LMDirichlet,可以调整的参数:mu。
l LM Jelinek Mercer LM Jelinek Mercer similarity,type:LMJelinekMercer,可以调整的参数:Lambda。
l 同时 Elasticsearch 可以使用脚本来定制一个相关性打分,例如我们重新定义TF-IDF:
PUT /index { "settings": { "number_of_shards": 1, "similarity": { "scripted_tfidf": { // 定义一个名为 scripted_tfidf 的打分公式 "type": "scripted", "script": { "source": "double tf = Math.sqrt(doc.freq); // 定义 tf 的计算逻辑为 freq 词频的平方根 double idf = Math.log((field.docCount+1.0)/(term.docFreq+1.0)) + 1.0; // 定义 idf = log((文档总数 + 1)/(匹配到的文档数 + 1)) + 1 double norm = 1/Math.sqrt(doc.length); return query.boost * tf * idf * norm;" // 定义最终打分的逻辑 } } } }, "mappings": { "properties": { "field": { "type": "text", "similarity": "scripted_tfidf" // 这个字段使用上面我们定义的打分函数 } } } }
对于企业搜索中的一些特殊打分需求,我们可以通过定制打分公式来实现。对于这种调整,我们要对调整后的公式有充分的了解并对用户的 query 进行大量测试,避免出现一些难以处理的问题。
调整 DSL
当 _score 的计算方法确定以后,我们的dsl也是有调整空间的,Elasticsearch 也提供了很多查询方式给我们来调整 _score。这里主要说一下Script Score query、 Boolean query(布尔查询,就是利用布尔关系,链接多个子查询)、Boosting query(通过Boosting查询,降低某些文档匹配)、Disjunction max query(最佳字段查询)、Function score query(使用
function_score 来为一个查询定义计算最终打分的方法)。
Script Score query
使用 Script Score query 可以方便的在检索中修改文档的 _score,我们可以定义类似脚本语言的语句,灵活的定制打分。例如下面这个例子,我们用 script_score 来标识这是一个ScriptScore query,在 script 节点就可以写语句来表示我们想要将打分变成什么样子。
GET /_search { "query" : { "script_score" : { "query" : { "match": { "tag": "Apple" } }, "script" : { "source" : "doc['price'].value / 10 " // 这里表示将文档的打分设置为 ’price‘ 字段的十分之一 } } } }
在 script 里面有很多种方式来改变打分,例如:
"script" : { "source" : "doc['price'].value + _score" // 打分为当前得分加上’price’值 } // 取一个随机数 "script" : { "source" : "randomScore(100)" } // 日期类型字段的衰减函数 "script" : { "source" : "decayDateGauss(params.origin, params.scale, params.offset, params.decay, doc['date'].value)", "params": { "origin": "2008-01-01T01:00:00Z", "scale": "1h", "offset" : "0", "decay" : 0.5 } }
《Elastic Stack 实战手册》——四、应用实践——4.1 企业搜索应用场景 ——4.1.6.优化Elasticsearch中的打分(_score)(下) https://developer.aliyun.com/article/1226238