一步一步学lucene——(第四步:搜索篇)

简介: 下面说的主要是lucene如何进行搜索,相比于建索引,搜索可能更能提起大家的兴趣。 lucene的主要搜索的API 下面通过表格来看一下lucene用到的主要的搜索API 类 目的 IndexSeacher 搜索操作的入口,所有搜索操作都是通过IndexSeacher实例使用一个重载的search方法来实现 Query(及其子类) 具体的Query子类为每一种特定类型的查询进行逻辑上的封装。

下面说的主要是lucene如何进行搜索,相比于建索引,搜索可能更能提起大家的兴趣。

lucene的主要搜索的API

下面通过表格来看一下lucene用到的主要的搜索API

目的
IndexSeacher 搜索操作的入口,所有搜索操作都是通过IndexSeacher实例使用一个重载的search方法来实现
Query(及其子类) 具体的Query子类为每一种特定类型的查询进行逻辑上的封装。Query实例被传递到IndexSearcher的search方法中
QueryParser 将用户输入的(并且可读的)查询表达式处理为一个具体的Query对象
TopDocs 保持由IndexSearcher.search()方法返回的具有较高评分的顶部文档
 ScoreDoc  提供对TopDocs中每条搜索结果的访问接口

 

对特定项进行搜索

其中IndexSearcher是对索引中文档进行搜索的核心类,我们下面的例子中就会对subject域进行索引,使用的是Query的子类TermQuery。

测试程序如下:

View Code
 1   public void testTerm() throws Exception {
 2     Directory dir = TestUtil.getBookIndexDirectory(); //A
 3     IndexSearcher searcher = new IndexSearcher(dir);  //B
 4 
 5     Term t = new Term("subject", "ant");
 6     Query query = new TermQuery(t);
 7     TopDocs docs = searcher.search(query, 10);
 8     assertEquals("Ant in Action",                //C
 9                  1, docs.totalHits);                         //C
10 
11     t = new Term("subject", "junit");
12     docs = searcher.search(new TermQuery(t), 10);
13     assertEquals("Ant in Action, " +                                 //D
14                  "JUnit in Action, Second Edition",                  //D
15                  2, docs.totalHits);                                 //D
16 
17     searcher.close();
18     dir.close();
19   }

当然在不同的情况下你可以改变其中的代码来搜索你想要的东西。

解析用户查询

lucene中解析用户的查询需要一个Query对象作为参数。那么也就是将Expression组合成Query的过程,这里边有一个对象叫QueryParser,它将前面传过来的规则的解析成对象然后进行查询。下面我们看下流程是如何处理的:

            图:QueryParser对象处理复杂的表达式的过程

下面看一个程序示例,这个是基于lucene 3.0的,在后面的版本中会有所变化。

程序结构如下:

View Code
 1 public void testQueryParser() throws Exception {
 2     Directory dir = TestUtil.getBookIndexDirectory();
 3     IndexSearcher searcher = new IndexSearcher(dir);
 4 
 5     QueryParser parser = new QueryParser(Version.LUCENE_30,      //A
 6                                          "contents",                  //A
 7                                          new SimpleAnalyzer());       //A
 8 
 9     Query query = parser.parse("+JUNIT +ANT -MOCK");                  //B
10     TopDocs docs = searcher.search(query, 10);
11     assertEquals(1, docs.totalHits);
12     Document d = searcher.doc(docs.scoreDocs[0].doc);
13     assertEquals("Ant in Action", d.get("title"));
14 
15     query = parser.parse("mock OR junit");                            //B
16     docs = searcher.search(query, 10);
17     assertEquals("Ant in Action, " + 
18                  "JUnit in Action, Second Edition",
19                  2, docs.totalHits);
20 
21     searcher.close();
22     dir.close();
23   }

其实主要就是A和B两部分,将规则解析成lucene能识别的表达式。

下面的表格中列出了查询表达式的范例:

表达式 匹配文档
java 在字段中包含java
java junit
java or junit
在字段中包含java或者junit
+java +junit
java and junit
在字段中包含java以及junit
title:ant 在title字段中包含ant
title:extreme
-subject:sports
title:extreme
AND NOT subject:sports
在title字段中包含extreme并且在subject字段中不能包含sports
(agile OR extreme) AND methodology 在字段中包含methodology并且同时包括agile或者extreme
title:"junit in action" 在title字段中包含junit in action
title:"junit action"~5 包含5次junit和action
java* 包含以java开头的,例如:javaspaces,javaserver
java~ 包含和java相似的,如lava
lastmodified:[1/1/04 TO 12/31/04] 在lastmodified字段中值为2004-01-01到2004-12-31中间的

接下来测试一下QueryParser的各个表达式,程序结构如下:

View Code
 1 public class TestQueryParser {
 2 
 3     public static void main(String[] args) throws Exception {
 4 
 5         String[] id = { "1", "2", "3" };
 6         String[] contents = { "java and lucene is good",
 7                 "I had study java and jbpm",
 8                 "I want to study java,hadoop and hbase" };
 9 
10         Directory directory = new RAMDirectory();
11         IndexWriter indexWriter = new IndexWriter(directory,
12                 new IndexWriterConfig(Version.LUCENE_36, new StandardAnalyzer(
13                         Version.LUCENE_36)));
14         for (int i = 0; i < id.length; i++) {
15             Document document = new Document();
16             document.add(new Field("id", id[i], Field.Store.YES,
17                     Field.Index.ANALYZED));
18             document.add(new Field("contents", contents[i], Field.Store.YES,
19                     Field.Index.ANALYZED));
20             indexWriter.addDocument(document);
21         }
22         indexWriter.close();
23 
24         System.out.println("String is :java");
25         search(directory, "java");
26 
27         System.out.println("\nString is :lucene");
28         search(directory, "lucene");
29 
30         System.out.println("\nString is :+java +jbpm");
31         search(directory, "+java +jbpm");
32 
33         System.out.println("\nString is :+java -jbpm");
34         search(directory, "+java -jbpm");
35 
36         System.out.println("\nString is :java jbpm");
37         search(directory, "java jbpm");
38 
39         System.out.println("\nString is :java AND jbpm");
40         search(directory, "java AND jbpm");
41 
42         System.out.println("\nString is :java or jbpm");
43         search(directory, "java or jbpm");
44     }
45 
46     public static void search(Directory directory, String str) throws Exception {
47         IndexSearcher indexSearcher = new IndexSearcher(directory);
48         Analyzer analyzer = new StandardAnalyzer(Version.LUCENE_34);
49         QueryParser queryParser = new QueryParser(Version.LUCENE_34,
50                 "contents", analyzer);
51         Query query = queryParser.parse(str);
52         TopDocs topDocs = indexSearcher.search(query, 10);
53         ScoreDoc[] scoreDoc = topDocs.scoreDocs;
54         for (int i = 0; i < scoreDoc.length; i++) {
55             Document doc = indexSearcher.doc(scoreDoc[i].doc);
56             System.out.println(doc.get("id") + " " + doc.get("contents"));
57         }
58         indexSearcher.close();
59     }
60 }

运行程序就会得到输出结果。

搜索用到的各个类的相互关系

我想看图应该会比较清晰,下面的图比较清晰的组合了程序的结构:

      图:搜索用到的各个类的相互关系

搜索结果分页

其实这个所谓的分页跟数据库的分页功能差不多,只是一个是从数据库中读取数据,而一个是从索引文件中找到对应的数据。

在lucene搜索分页过程中,可以有两种方式:

  • 一种是将搜索结果集直接放到session中,但是假如结果集非常大,同时又存在大并发访问的时候,很可能造成服务器的内存不足,而使服务器宕机
  • 还有一种是每次都重新进行搜索,这样虽然避免了内存溢出的可能,但是,每次搜索都要进行一次IO操作,如果大并发访问的时候,你要保证你的硬盘的转速足够的快,还要保证你的cpu有足够高的频率

而我们可以将这两种方式结合下,每次查询都多缓存一部分的结果集,翻页的时候看看所查询的内容是不是在已经存在在缓存当中,如果已经存在了就直接拿出来,如果不存在,就进行查询后,从缓存中读出来。比如:现在我们有一个搜索结果集 一个有100条数据,每页显示10条,就有10页数据。按照第一种的思路就是,我直接把这100条数据缓存起来,每次翻页时从缓存种读取而第二种思路就是,我直接从搜索到的结果集种显示前十条给第一页显示,第二页的时候,我在查询一次,给出10-20条数据给第二页显示,我每次翻页都要重新查询。

第三种思路就变成了

我第一页仅需要10条数据,但是我一次读出来50条数据,把这50条数据放入到缓存当中,当我需要10--20之 间的数据的时候,我的发现我的这些数据已经在我的缓存种存在了,我就直接存缓存中把数据读出来,少了一次查询,速度自然也提高了很多. 如果我访问第六页的数据,我就把我的缓存更新一次.这样连续翻页10次才进行两次IO操作同时又保证了内存不容易被溢出.而具体缓存设置多少,要看你的服务器的能力和访问的人数来决定。

下面是一个示例程序没有做缓存,缓存的部分可以自己实现,也可以选择ehcache等开源的实现。

程序结构如下:

View Code
 1 public class TestPagation {
 2 
 3     public void paginationQuery(String keyWord, int pageSize, int currentPage)
 4             throws ParseException, CorruptIndexException, IOException {
 5         String[] fields = { "title", "content" };
 6         // 创建一个分词器,和创建索引时用的分词器要一致
 7         Analyzer analyzer = new StandardAnalyzer(Version.LUCENE_36);
 8         
 9         QueryParser queryParser = new MultiFieldQueryParser(Version.LUCENE_36,
10                 fields, analyzer);
11         Query query = queryParser.parse(keyWord);
12         
13         // 打开索引目录
14         File indexDir = new File("./indexDir");
15         Directory directory = FSDirectory.open(indexDir);
16 
17         IndexReader indexReader = IndexReader.open(directory);
18         IndexSearcher indexSearcher = new IndexSearcher(indexReader);
19 
20         // TopDocs 搜索返回的结果
21         TopDocs topDocs = indexSearcher.search(query, 100);// 只返回前100条记录
22         int totalCount = topDocs.totalHits; // 搜索结果总数量
23         ScoreDoc[] scoreDocs = topDocs.scoreDocs; // 搜索返回的结果集合
24 
25         // 查询起始记录位置
26         int begin = pageSize * (currentPage - 1);
27         // 查询终止记录位置
28         int end = Math.min(begin + pageSize, scoreDocs.length);
29 
30         // 进行分页查询
31         for (int i = begin; i < end; i++) {
32             int docID = scoreDocs[i].doc;
33             Document doc = indexSearcher.doc(docID);
34             int id = NumericUtils.prefixCodedToInt(doc.get("id"));
35             String title = doc.get("title");
36             System.out.println("id is : " + id);
37             System.out.println("title is : " + title);
38         }
39 
40     }
41     
42     public static void main(String[] args) throws CorruptIndexException, ParseException, IOException {
43         TestPagation t = new TestPagation();
44          //每页显示5条记录,显示第三页的记录
45         t.paginationQuery("RUNNING",5,3);
46     }
47 
48 }

 

[源码下载]

 

 

目录
相关文章
|
12天前
|
人工智能 自然语言处理 安全
阿里云千问办公 QwenWork详细介绍:产品核心能力、典型场景、价格及常见问题解答
千问办公是阿里云推出的一站式AI办公平台,主打"不止于对话,更注重交付",依托通义千问旗舰大模型,用户一句话即可完成数据分析、PPT生成、视频剪辑等复杂任务,直接输出可用成果。产品深度打通钉钉生态与企业OA,覆盖桌面端、网页端,提供企业标准版198元/人/月等多档订阅方案,新用户注册即赠2000积分,适配工程师、HR、财务等多职业办公场景,成为能动手干活的"全能AI同事"。
|
12天前
|
人工智能
千问办公官网入口:阿里AI办公QwenWork产品页和免费网页端链接
千问办公官网含两大入口:一是网页端(qwenwork.cn),即开即用,支持浏览器直接访问;二是阿里云产品页 https://t.aliyun.com/U/JNKJuO 提供免费/付费版详情、功能介绍及使用指南。
|
19天前
|
网络协议 Linux iOS开发
【2026实测】Wireshark下载+安装+汉化+使用教程(图文版,巨详细)
Wireshark 是一款免费开源的网络协议分析工具,可实时捕获、解析并可视化数据包,助你诊断网络故障、分析通信协议(如HTTP、DNS、TCP等)。支持Windows/macOS/Linux,含中文界面,新手入门便捷。(239字)
|
11天前
|
IDE 开发工具
Qoder 上线 Sonus 模型,Computer Use 能力全面增强
Qoder国际版上线全新内置大模型Sonus(/ˈsoʊnəs/),全球领先,专精超长任务执行与电脑操作(Computer Use)。配合Qoder桌面端0.2.3版本,可自主完成编程、金融建模、科研及表格制作等复杂工作。现全面支持Qoder全系产品,效率提升3.2倍。
1433 8
Qoder 上线 Sonus 模型,Computer Use 能力全面增强
|
14天前
|
缓存 人工智能 自然语言处理
阿里云qwen3.8-flash大模型介绍:模型能力、模型价格、免费额度与最新活动
本文是阿里云百炼平台Qwen3.8-Flash大模型的选型接入指南,作为兼顾性能与响应速度的高性价比多模态模型,它支持百万级上下文窗口、全场景多模态输入与完整智能体能力矩阵,适配编程辅助、智能体协作等核心场景。文中同步梳理了最新下调的阶梯定价、夜间4折等优惠活动,搭配OpenAI兼容流式调用示例,帮助开发者低成本快速落地高并发AI应用。
阿里云qwen3.8-flash大模型介绍:模型能力、模型价格、免费额度与最新活动
|
13天前
|
人工智能 API 内存技术
刚刚 DeepSeek V4.1 Flash 开启内测,1 分钟教你用上!
刚刚 DeepSeek 内测群发布了 DeepSeek V4.1 Flash 中间版本内测的消息,这次的模型采用了新的结构,原生支持多模态、能力更强、速度更快、且成本更低。
1988 15
|
7天前
|
缓存 IDE Java
【保姆级】Android Studio下载、安装和汉化教程(2026最新)
Android Studio 是 Google 官方推出的免费 Android 应用开发集成环境,基于 IntelliJ IDEA,内置模拟器、调试器、性能分析及 Compose 界面工具,功能全面,文档丰富,是安卓开发首选工具。(239字)
|
18天前
|
人工智能 运维 BI
阿里云千问办公QwenWork深度解析:基于Qwen3.8,六大核心能力重构企业全自动化工作流与计费选型指南
传统AI办公工具大多停留在对话问答、文档摘要、简单文案生成层面,只能完成单点碎片化任务,无法自主拆解复杂业务流程,很难串联多工具、多文档、外部业务系统完成端到端完整工作交付。很多企业在落地AI办公的时候,需要组合多款不同工具,来回切换界面,手动复制粘贴中间结果,智能化改造落地门槛居高不下。千问办公QwenWork是整合多款智能体产品能力打造的一体化企业办公智能体平台,底层基座依托Qwen3.8大模型,打通桌面端Agent、云端Agent、企业协同Agent三种运行形态,不再局限简单问答,接收业务目标之后自主拆解任务步骤,调用各类工具,处理文档、表格、浏览器自动化、数据查询,直接输出可交付的办公
1689 4
|
12天前
|
人工智能 安全 JavaScript
DeepSeek Harness开源Agent运行框架实战:4种安装方式、WebUI启动、插件管理与排坑全流程
随着AI Agent技术快速发展,单纯依靠大模型对话能力,很难完成复杂的自动化任务。模型需要具备读取本地文件、执行脚本、访问网页、操作文件系统、拆分复杂任务并分步执行的能力。DeepSeek Harness,简称DSH,是开源的AI Agent执行运行框架,遵循“Agent = 大模型 + Harness执行底座”的设计理念,为大模型提供一套安全可控的工具调用、任务编排、沙箱执行与插件扩展能力。它提供Web可视化界面与完整命令行工具,支持插件化扩展,能够让大模型自主拆解复杂需求,调用各类工具分步完成目标,无论是本地电脑调试,还是部署在云服务器上长期运行智能体任务都十分合适。本文为从0到1完整保
883 0
|
14天前
|
缓存 JSON API
阿里云千问Qwen3.8‑Max深度解析:核心能力、订阅计费规则、API接入配置与生产落地完整教程
Qwen3.8‑Max作为千问系列新一代MoE架构旗舰基座,总参数量达到2.4万亿,激活参数950亿,是面向复杂专业任务、长周期智能体、工程级代码开发、多模态深度解析的高阶大模型,原生支持文本、图像、视频多模态输入,最大上下文窗口达到百万Token,最大输出Token支持131072,内置深度思考推理链路,在编程、科研、法律金融专业分析、长视频文档解析、自主Agent任务等场景能力表现突出。很多开发者在项目前期直接接入该旗舰模型,却对模型能力边界、多种计费模式、订阅套餐权益、API参数配置、上下文缓存优化缺乏完整认知,出现成本失控、接口报错、长文本信息丢失、深度思考模式额外消耗大量Token等
942 3