Solrflux源码分析-Sql Support within Solr-类Sql的solr搜索实现(2)

简介: 假期重新把之前在新浪博客里面的文字梳理了下,搬到这里。

Solrflux 开源code google 地址 http://code.google.com/p/solrflux/

1.Solrflux 概述

  Solrflux 主要工作是完成 Sql 语法到solr语法的转换,并执行查询,保存结果。

  当前solrflux已经停止更新了,还是2010.Mar antlr3.2.jar 1.4solrj的版本。

  Solrflux支持select|update|delete|optimze|commit|rollback| 其中在select语法上,

不支持hlfacetfunction等高级用法。就目前solrflux代码,基本满足80%的场景。

  并且支持直接完整solr原始query 语法,此时不做解析,直接视作完整串,弥补了复杂query 串的处理,

也兼容solr语法。

 

2.Solrflux 工作原理、流程

 solrflux工作原理:对sql语句执行语法分析,对生产的语法树做语句映射,拼接为solr语法,执行查询。

 solrflux工作流程:

(1)将用户输入的sql语法(部分语法带有solr本身query特征,例如commitoptimize),按照自定义的词法、语法、抽象语法定义规则,执行词法分析、语法分析、生成抽象语法树,

主要依赖 /grammar/Solrq.g

net.moraleboost.flux.lang包中的 SolrqLexer.java SolrqParser.java

(2)然后对抽象语法树进行遍历,根据node type 生成对应类型的statement,例如selectstatmentupdatestatement等模板对象。

net.moraleboost.flux.lang 包中的StatementListBuilder 这是上层管理对象,然后调用

net.moraleboost.flux.eval.stmt 包中的各种statment

BaseStatementCommitStatementDeleteStatementInsertStatementOptimizeStatementRollbackStatement

SelectStatement\UseStement

其中,UseStatement 主要任务是server对象的初始化,构建与solrj client端,自然整个solrflux是基于http 协议。非embeded方式工作,是solrj clienthttp client方式。

所有Statement extends baseStatement,抽象的baseStatement 实现接口Statement

 

(3)对生成的statement集合遍历,调用各自的execute方法,执行查询并保存结果。

statement中保存了各自对应语句的上下文参数,execute方法中执行查询。

 

3.扩展使用方法

对于语句类型,selectupdatecommitdeleteoptimizerollback等已经定型了框架。

扩展过程,主要是select过程中,例如hlfacet function boost等参数支持。扩展方法

(1)扩展Solrq.g语法规则

(2)生成LexerParser

(3)修改Statement方法

具体细节有:

在对应的语句类型下,修改Solrq.gtokens、词法、语法、抽象树规则,使用

antlrworks-1.4.3.jar 来查看语法结构图、测试语法。

下载antlrworks-1.4.3.jar  from http://www.antlr.org/download.html

windows下双击,弹出窗口,选择语法文件。点击debug选项。

input 中输入待测试语句、AST中选择语法规则、Parse Tree整个语法树构图

image.png


如果测试并没有出错,基本上语法扩充是ok的。

solrflux依赖的是antlr.3.2.runtime.jar,如果下载antlr-3.4-complete-no-antlrv2.jar 会出现,那么报错

无法找到server问题。

StatementListBuilder.buildSelectStatement 中在 T_FROM中将soucre注入到statment中,对比两个jar

发现树形输出不一样,然后没有注入这个souce。具体问题有待进一步分析。

 

当词法、语法、抽象树没有问题后,采取anltrwork 字段生成LexerParser代码,将相关代码替换原来的lexer\Parser,分别是SolrqLexerSolrqParser

 

至此,再修改对应statement中的新参数的setget方法,以及excute中的query 拼接。

 

难点:扩展词法、语法规则并debug。复杂sql语法规则,可以参考antlr mainlist上的mysql语法规则,基本可以直接引用了。

 

目录
相关文章
|
5月前
|
SQL Oracle 关系型数据库
SQL 通配符:用于模糊搜索和匹配的 SQL 关键技巧
通配符字符用于替代字符串中的一个或多个字符。通配符字符与LIKE运算符一起使用。LIKE运算符用于在WHERE子句中搜索列中的指定模式。
75 0
|
2月前
|
SQL 数据处理 数据库
SQL正则表达式应用:文本数据处理的强大工具——深入探讨数据验证、模式搜索、字符替换等核心功能及性能优化和兼容性问题
【8月更文挑战第31天】SQL正则表达式是数据库管理和应用开发中处理文本数据的强大工具,支持数据验证、模式搜索和字符替换等功能。本文通过问答形式介绍了其基本概念、使用方法及注意事项,帮助读者掌握这一重要技能,提升文本数据处理效率。尽管功能强大,但在不同数据库系统中可能存在兼容性问题,需谨慎使用以优化性能。
34 0
|
4月前
|
SQL 监控 安全
代码审计-PHP原生开发篇&SQL注入&数据库监控&正则搜索&文件定位&静态分析
代码审计-PHP原生开发篇&SQL注入&数据库监控&正则搜索&文件定位&静态分析
|
3月前
|
SQL
常用工具类---SQL工具,HTTP工具
SQL工具,HTTP工具,两个实用小工具~~~
|
4月前
|
SQL 关系型数据库 MySQL
实时计算 Flink版操作报错合集之在执行SQL语句时遇到了类找不到,该怎么解决
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
135 0
|
5月前
|
Oracle Java 关系型数据库
【问题】Cause: java.sql.SQLException: 不支持的字符集 (在类路径中添加 orai18n.jar): ZHS16GBK
【问题】Cause: java.sql.SQLException: 不支持的字符集 (在类路径中添加 orai18n.jar): ZHS16GBK
|
5月前
|
SQL 数据库 开发者
百度搜索:蓝易云【SQL高级之慢查询日志?】
慢查询日志是数据库性能优化中一个重要的工具,通过记录执行时间较长的查询语句,帮助识别和解决数据库中的性能问题。它提供了有价值的信息,帮助开发者和管理员优化查询和提升数据库的性能。
65 6
|
10月前
|
SQL XML Java
mybatis SQL类
mybatis SQL类
61 1
|
5月前
|
SQL 存储
百度搜索:蓝易云【高级SQL语句】
这些是SQL中一些常见的高级语句示例,它们可以帮助你处理更复杂的查询和数据操作需求。请根据具体情况选择适当的语句,并参考相关的SQL文档和教程来进一步了解和学习。
56 0
|
5月前
|
SQL Java 数据库连接
【Java调试】通过SqlSessionFactory类对象获取mapper文件内的动态SQL在执行时的完整SQL及参数(2种使用方法+测试Demo及结果)
【Java调试】通过SqlSessionFactory类对象获取mapper文件内的动态SQL在执行时的完整SQL及参数(2种使用方法+测试Demo及结果)
145 0
下一篇
无影云桌面