Solrflux源码分析-Sql Support within Solr-类Sql的solr搜索实现(2)

简介: 假期重新把之前在新浪博客里面的文字梳理了下,搬到这里。

Solrflux 开源code google 地址 http://code.google.com/p/solrflux/

1.Solrflux 概述

  Solrflux 主要工作是完成 Sql 语法到solr语法的转换,并执行查询,保存结果。

  当前solrflux已经停止更新了,还是2010.Mar antlr3.2.jar 1.4solrj的版本。

  Solrflux支持select|update|delete|optimze|commit|rollback| 其中在select语法上,

不支持hlfacetfunction等高级用法。就目前solrflux代码,基本满足80%的场景。

  并且支持直接完整solr原始query 语法,此时不做解析,直接视作完整串,弥补了复杂query 串的处理,

也兼容solr语法。

 

2.Solrflux 工作原理、流程

 solrflux工作原理:对sql语句执行语法分析,对生产的语法树做语句映射,拼接为solr语法,执行查询。

 solrflux工作流程:

(1)将用户输入的sql语法(部分语法带有solr本身query特征,例如commitoptimize),按照自定义的词法、语法、抽象语法定义规则,执行词法分析、语法分析、生成抽象语法树,

主要依赖 /grammar/Solrq.g

net.moraleboost.flux.lang包中的 SolrqLexer.java SolrqParser.java

(2)然后对抽象语法树进行遍历,根据node type 生成对应类型的statement,例如selectstatmentupdatestatement等模板对象。

net.moraleboost.flux.lang 包中的StatementListBuilder 这是上层管理对象,然后调用

net.moraleboost.flux.eval.stmt 包中的各种statment

BaseStatementCommitStatementDeleteStatementInsertStatementOptimizeStatementRollbackStatement

SelectStatement\UseStement

其中,UseStatement 主要任务是server对象的初始化,构建与solrj client端,自然整个solrflux是基于http 协议。非embeded方式工作,是solrj clienthttp client方式。

所有Statement extends baseStatement,抽象的baseStatement 实现接口Statement

 

(3)对生成的statement集合遍历,调用各自的execute方法,执行查询并保存结果。

statement中保存了各自对应语句的上下文参数,execute方法中执行查询。

 

3.扩展使用方法

对于语句类型,selectupdatecommitdeleteoptimizerollback等已经定型了框架。

扩展过程,主要是select过程中,例如hlfacet function boost等参数支持。扩展方法

(1)扩展Solrq.g语法规则

(2)生成LexerParser

(3)修改Statement方法

具体细节有:

在对应的语句类型下,修改Solrq.gtokens、词法、语法、抽象树规则,使用

antlrworks-1.4.3.jar 来查看语法结构图、测试语法。

下载antlrworks-1.4.3.jar  from http://www.antlr.org/download.html

windows下双击,弹出窗口,选择语法文件。点击debug选项。

input 中输入待测试语句、AST中选择语法规则、Parse Tree整个语法树构图

image.png


如果测试并没有出错,基本上语法扩充是ok的。

solrflux依赖的是antlr.3.2.runtime.jar,如果下载antlr-3.4-complete-no-antlrv2.jar 会出现,那么报错

无法找到server问题。

StatementListBuilder.buildSelectStatement 中在 T_FROM中将soucre注入到statment中,对比两个jar

发现树形输出不一样,然后没有注入这个souce。具体问题有待进一步分析。

 

当词法、语法、抽象树没有问题后,采取anltrwork 字段生成LexerParser代码,将相关代码替换原来的lexer\Parser,分别是SolrqLexerSolrqParser

 

至此,再修改对应statement中的新参数的setget方法,以及excute中的query 拼接。

 

难点:扩展词法、语法规则并debug。复杂sql语法规则,可以参考antlr mainlist上的mysql语法规则,基本可以直接引用了。

 

目录
相关文章
|
7月前
|
SQL Oracle 关系型数据库
SQL 通配符:用于模糊搜索和匹配的 SQL 关键技巧
通配符字符用于替代字符串中的一个或多个字符。通配符字符与LIKE运算符一起使用。LIKE运算符用于在WHERE子句中搜索列中的指定模式。
103 0
|
24天前
|
SQL 存储 BI
gbase 8a 数据库 SQL合并类优化——不同数据统计周期合并为一条SQL语句
gbase 8a 数据库 SQL合并类优化——不同数据统计周期合并为一条SQL语句
|
4月前
|
SQL 数据处理 数据库
SQL正则表达式应用:文本数据处理的强大工具——深入探讨数据验证、模式搜索、字符替换等核心功能及性能优化和兼容性问题
【8月更文挑战第31天】SQL正则表达式是数据库管理和应用开发中处理文本数据的强大工具,支持数据验证、模式搜索和字符替换等功能。本文通过问答形式介绍了其基本概念、使用方法及注意事项,帮助读者掌握这一重要技能,提升文本数据处理效率。尽管功能强大,但在不同数据库系统中可能存在兼容性问题,需谨慎使用以优化性能。
70 0
|
6月前
|
SQL 监控 安全
代码审计-PHP原生开发篇&SQL注入&数据库监控&正则搜索&文件定位&静态分析
代码审计-PHP原生开发篇&SQL注入&数据库监控&正则搜索&文件定位&静态分析
|
5月前
|
SQL
常用工具类---SQL工具,HTTP工具
SQL工具,HTTP工具,两个实用小工具~~~
|
6月前
|
SQL 关系型数据库 MySQL
实时计算 Flink版操作报错合集之在执行SQL语句时遇到了类找不到,该怎么解决
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
149 0
|
7月前
|
Oracle Java 关系型数据库
【问题】Cause: java.sql.SQLException: 不支持的字符集 (在类路径中添加 orai18n.jar): ZHS16GBK
【问题】Cause: java.sql.SQLException: 不支持的字符集 (在类路径中添加 orai18n.jar): ZHS16GBK
|
7月前
|
SQL 存储
百度搜索:蓝易云【高级SQL语句】
这些是SQL中一些常见的高级语句示例,它们可以帮助你处理更复杂的查询和数据操作需求。请根据具体情况选择适当的语句,并参考相关的SQL文档和教程来进一步了解和学习。
70 0
|
7月前
|
SQL Java 数据库连接
【Java调试】通过SqlSessionFactory类对象获取mapper文件内的动态SQL在执行时的完整SQL及参数(2种使用方法+测试Demo及结果)
【Java调试】通过SqlSessionFactory类对象获取mapper文件内的动态SQL在执行时的完整SQL及参数(2种使用方法+测试Demo及结果)
245 0
|
7月前
|
Oracle Java 关系型数据库
Generator【SpringBoot集成】代码生成+knife4j接口文档(2种模板设置、逻辑删除、字段填充 含代码粘贴可用)保姆级教程(注意事项+建表SQL+代码生成类封装+测试类)
Generator【SpringBoot集成】代码生成+knife4j接口文档(2种模板设置、逻辑删除、字段填充 含代码粘贴可用)保姆级教程(注意事项+建表SQL+代码生成类封装+测试类)
136 0