瑞士小哥开源文本英雄Texthero:一行代码完成数据预处理,网友:早用早下班!

本文涉及的产品
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
NLP 自学习平台,3个模型定制额度 1个月
简介: 自然语言处理任务的数据通常是杂乱无章的,而文本预处理要消耗大量的时间和精力。近日,GitHub上开源了一个NLP工具箱Texthero,不仅功能完善一个pipeline完成所有操作,速度还超快堪比SpaCy,一起来尝鲜吧!

微信图片_20220109130049.png


NLPer最头疼的可能就是数据预处理了,拿到的多源数据通常长下面这样,乱成一团。

     

微信图片_20220109130051.png

   

「我只想远离我的数据集,休息一下。」

 

如果你已经处理过文本数据并应用过一些机器学习算法,那么你肯定了解「NLP 管道」是多么复杂。

 

你通常需要写一堆正则表达式来清理数据,使用 NLTK、 SpaCy 或 Textblob 预处理文本,使用 Gensim (word2vec)或 sklearn (tf-idf、 counting 等)将文本向量化。

 

即使对于 Python 专家来说,如果考虑不周全,不理解哪些任务是必需的,也很容易迷失在不同的包文档中。

 

而现在有一个全新的自然语言处理工具箱,你只需要打开一个新的笔记本,就能像Pandas一样开始文本数据分析了,先睹为快!

 

QQ图片20220109130523.png


文本英雄:一个pipeline完成所有NLP操作


Texthero 是一个开源的NLP工具包,旨在 Pandas 之上使用单一工具简化所有 NLP 开发人员的任务。它由预处理、向量化、可视化和 NLP 四个模块组成,可以快速地理解、分析和准备文本数据,以完成更复杂的机器学习任务。


        微信图片_20220109130055.png


Texthero可以轻松实现以下功能。 


文本数据预处理


和Pandas无缝衔接,既可以直接使用,又可以自定义解决方案十分灵活。


       微信图片_20220109130059.png


导入完数据直接clean ,不要太简单,所有脏活累活,Texthero都帮你完成了!我们来看看它在后台做了哪些工作。  

 微信图片_20220109130101.png


Wow!填充缺失值、大小写转换、移除标点符号、移除空白字符等应有尽有,这些预处理对普通的文本数据已经足够了。 


而此前,没有Texthero的话,你只能自定义文本清洗函数,包括去停用词、去特殊符号、词干化、词型还原等,非常复杂。


      微信图片_20220109130103.png


自然语言处理


关键短语和关键字提取,命名实体识别等等。


      微信图片_20220109130104.png      


文本表示


TF-IDF,词频,预训练和自定义词嵌入。       


微信图片_20220109130106.png      


向量空间分析


聚类(K均值,Meanshift,DBSAN和Hierarchical),主题建模(LDA和LSI)和解释。


      微信图片_20220109130108.png      


文本可视化


一行代码即可完成关键字可视化,向量空间可视化等。 


    微信图片_20220109130109.png


不仅功能强大速度还超快!


有网友怀疑融合了这么多的功能,速度一定有所下降。 而真相是:Texthero 相当快。 


Texthero 使用了许多其他库,因此它的速度在很大程度上受到依赖库的影响。 


但是对于文本预处理: 基本上就是 Pandas (在内存中使用 NumPy)和 Regex,速度非常快。


对于tokenize,默认的 Texthero 函数是一个简单但功能强大的 Regex 命令,这比大多数 NLTK 和 SpaCy 的tokenize快,因为它不使用任何花哨的模型,缺点是没有 SpaCy 那样精确。


       微信图片_20220109130111.gif      


对于文本表示: TF-IDF 和 Count底层使用 sklearn 进行计算,因此它和 sklearn 一样快。


嵌入是预先计算加载的,因此没有训练过程。词性标注和 NER 是用 SpaCy 实现的。众所周知,SpaCy 是同类自然语言处理中最快的,它也是工业界使用最多的。 


网友:恨不生同时,早用早下班!


作者Jonathan Besomi是一个瑞士的NLP工程师。Texthero开源之后,他也在Reddit耐心回答了网友提问。


微信图片_20220109130113.png


网友们用过之后也是纷纷点赞。 一周前放出来,我就能早点下班了!


      微信图片_20220109130115.png        


简直是上帝的杰作!     


 微信图片_20220109130116.png      


来,快到我碗里来,我要应用到我现在的项目中。

     微信图片_20220109130118.png


太酷了!还可以将自己的TensorFlow/PyTorch模块融合进去。

      微信图片_20220109130120.png


当然这不是一个详尽的文档,作者稍后会写一个详细的博客文章,如果你也感兴趣并想加入Texthero,赶紧联系作者提交你的代码吧,或者直接撸一个Texthero中文版出来估计也能赚一波star!


 参考链接:https://github.com/jbesomi/textherohttps://texthero.org/

相关文章
|
程序员
『中秋赏月』程序员用文心大模型带你玩转不一样的中秋
『中秋赏月』程序员用文心大模型带你玩转不一样的中秋
144 1
『中秋赏月』程序员用文心大模型带你玩转不一样的中秋
|
存储 人工智能 自然语言处理
ChatGPT 大智近妖,从宇宙人生到手搓光刻机,从哄女朋友到写年终总结我们聊得非常开心,反而让人越来越忧心
都说 ChatGPT 要干掉程序员,清理搜索引擎,取代 Stack Overflow,还能消灭人类,这些有些言过其实了。ChatGPT 的定位是一个人工智能助理,它说,它的主要目的是通过回答用户的问题,为用户提供帮助。在体验了一天后,我相信对它的调教是成为一个正直的人,它也是这样做的。 它谦虚有礼,无疑是一个合格的助理,确实可以为我们提供很大的帮助。生成的回答条理清晰,思路明确,令人信服。但是从刚接触的惊奇开心过后,随着时间推移,我却越来越忧心了。 以下的内容是我的体验过程和其中的思考,其中引用的部分为 ChatGPT 的回答内容。希望对你了解它有一些帮助。
351 1
ChatGPT 大智近妖,从宇宙人生到手搓光刻机,从哄女朋友到写年终总结我们聊得非常开心,反而让人越来越忧心
猿创征文|程序员的浪漫(代码猜诗词)
猿创征文|程序员的浪漫(代码猜诗词)
猿创征文|程序员的浪漫(代码猜诗词)
|
Python
最长情的告白就是陪伴【Python七夕祝福】——那些浪漫的开始
最长情的告白就是陪伴【Python七夕祝福】——那些浪漫的开始
176 0
最长情的告白就是陪伴【Python七夕祝福】——那些浪漫的开始
|
JavaScript
新年到,好运多,快来抽取你的新年幸运签吧!
今天的主题就是新年幸运签,快来抽取你的新年幸运签吧,下面我们来看看是怎么实现一个简易版的抽签小功能。
228 0
新年到,好运多,快来抽取你的新年幸运签吧!
|
数据采集 存储 JSON
我居然帮初恋用Python去追她男神,这波舔狗真的坐实了啊~
我居然帮初恋用Python去追她男神,这波舔狗真的坐实了啊~
163 0
|
人工智能 分布式计算 算法
从长安十二时辰中学到的东西
19年的暑期里,长安十二时辰(下文简称长安)不愧是电视连续剧中的一匹黑马。紧凑的故事情节,扑朔迷离的人物关系,给观众再现盛唐一片气派的景象。这是1个令人引以自豪的时代,这是1个文人骚客辈出的朝代。 不同的人会在剧中找到不一样的东西,这里更多的是从科技以及技术的层面进行分析,而不是更多地从文化的角度。
从长安十二时辰中学到的东西
|
编译器 Linux 程序员
身价过亿的帝都富豪对小码农说预处理学的不错
身价过亿的帝都富豪对小码农说预处理学的不错
186 0
身价过亿的帝都富豪对小码农说预处理学的不错
|
Web App开发 小程序 机器人
霸榜日本热搜一周!这个应用让涂鸦从纸上活过来,还能喂吃的,网友玩儿疯了
霸榜日本热搜一周!这个应用让涂鸦从纸上活过来,还能喂吃的,网友玩儿疯了
303 0
|
文字识别 算法 程序员
【程序员的吃鸡大法】利用OCR文字识别+百度算法搜索,玩转冲顶大会、百万英雄、芝士超人等答题赢奖金游戏
原文:【程序员的吃鸡大法】利用OCR文字识别+百度算法搜索,玩转冲顶大会、百万英雄、芝士超人等答题赢奖金游戏 【先上一张效果图】:   一、原理: 其实原理很简单: 1.手机投屏到电脑; 2.
1698 0

热门文章

最新文章