文本词频统计的利器 Trie树

简介: 字典树简介Trie树 Trie树一般指字典树又称单词查找树,Trie树,是一种树形结构,是一种哈希树的变种。典型应用是用于统计,排序和保存大量的字符串(但不仅限于字符串),所以经常被搜索引擎系统用于文本词频统计。它的优点是:利用字符串的公共前缀来减少查询时间,最大限度地减少无谓的字符串比较,查询效率比哈希树高。

字典树简介

Trie树

Trie树一般指字典树又称单词查找树,Trie树,是一种树形结构,是一种哈希树的变种。典型应用是用于统计,排序和保存大量的字符串(但不仅限于字符串),所以经常被搜索引擎系统用于文本词频统计。

它的优点是:利用字符串的公共前缀来减少查询时间,最大限度地减少无谓的字符串比较,查询效率比哈希树高。

性质

它有3个基本性质:

(1)根节点不包含字符,除根节点外每一个节点都只包含一个字符;

(2)从根节点到某节点,路径上经过的字符连接起来,为该节点对应的字符串;

(3)每个节点的所有子节点包含的字符都不相同。

基本操作

                   其基本操作有:查找、插入和删除,当然删除操作比较少见。

实现方法

搜索字典项目的方法为:

(1) 从根结点开始一次搜索;

(2) 取得要查找关键词的第一个字母,并根据该字母选择对应的子树并转到该子树继续进行检索;

(3) 在相应的子树上,取得要查找关键词的第二个字母,并进一步选择对应的子树进行检索。

(4) 迭代过程……

(5) 在某个结点处,关键词的所有字母已被取出,则读取附在该结点上的信息,即完成查找。

其他操作类似处理

应用举例

串的快速检索

给出N个单词组成的熟词表,以及一篇全用小写英文书写的文章,请你按最早出现的顺序写出所有不在熟词表中的生词。

在这道题中,我们可以用数组枚举,用哈希,用字典树,先把熟词建一棵树,然后读入文章进行比较,这种方法效率是比较高的。

“串”排序

给定N个互不相同的仅由一个单词构成的英文名,让你将他们按字典序从小到大输出

用字典树进行排序,采用数组的方式创建字典树,这棵树的每个结点的所有儿子很显然地按照其字母大小排序。对这棵树进行先序遍历即可。

最长公共前缀

对所有串建立字典树,对于两个串的最长公共前缀的长度即他们所在的结点的公共祖先个数,于是,问题就转化为当时公共祖先问题。


列如 :我们有and,as,at,cn,com这些关键词,将如下建树

网络异常,图片无法展示
|

代码实现:

    trie[root][id]=tot;  root 为 根节点(父节点),id 为子节点或字符的映射,tot 为节点的编号 或者标记

(1)插入操作:

voidinsert(char*s){//插入单词inti,id,len,root=0; len=strlen(s);
for(i=0;i<len;i++){ 
id=s[i]-'a';//按ASCII编号映射(子节点)if(!trie[root][id])trie[root][id]=++tot;没存在字典树中加入编号(标记)root=trie[root][id]; //跟着树分支走    }
}

(2)查询操作:

intsearch(char*s){//查询单词inti,len,id,root=0;len=strlen(s);
for(i=0;i<len;i++){
id=s[i]-'a';//按ASCII 映射 (子节点)if(!trie[root][id])return0;
root=trie[root][id];
    }
return1;
}

(3)删除操作:

      此方法适用标记型插入方法

voiddelete(char*s){//假定s一定存在inti,len,id,root=0;len=strlen(s);
for(i=0;i<len;i++){
id=s[i]-'a';
root=trie[root][id];
    }
trie[root][id]=0;
}
目录
相关文章
|
6月前
|
机器学习/深度学习 自然语言处理 算法
文本分析-使用jieba库进行中文分词和去除停用词(附案例实战)
文本分析-使用jieba库进行中文分词和去除停用词(附案例实战)
3356 0
|
6月前
深度优化搜索,字典树
深度优化搜索,字典树
63 0
|
6月前
|
自然语言处理 Python
Python实现词频统计
Python实现词频统计
|
6月前
|
自然语言处理 算法 Python
【Python自然语言处理】规则分词中正向、反向、双向最大匹配法的讲解及实战(超详细 附源码)
【Python自然语言处理】规则分词中正向、反向、双向最大匹配法的讲解及实战(超详细 附源码)
228 0
|
算法 测试技术
蓝桥算法_单词分析-wordAnalysis
蓝桥算法_单词分析-wordAnalysis
|
自然语言处理 数据处理 Python
|
数据采集 机器学习/深度学习 自然语言处理
文本处理技能与文本数据清洗、提取、分词与统计
文本处理技能与文本数据清洗、提取、分词与统计
|
C++
C/C++每日一练(20230506) 翻转词序、字符金字塔、单词搜索
C/C++每日一练(20230506) 翻转词序、字符金字塔、单词搜索
113 0