达观杯文本智能处理挑战赛 练手代码实现

简介: 1 import pandas as pd 2 3 import imp 4 5 from sklearn.linear_model import LogisticRegression 6 7 from sklearn.
 1 import pandas as pd
 2 
 3 import imp
 4 
 5 from sklearn.linear_model import LogisticRegression
 6 
 7 from sklearn.feature_extraction.text import CountVectorizer
 8 
 9 
10 
11 
12 df_test = pd.read_csv(r'testset.csv')
13 
14 df_train = pd.read_csv(r'trainset.csv')
15 
16 df_train.drop(columns=['article','id'],inplace=True)
17 
18 df_test.drop(columns=['article'],inplace=True)
19 
20 
21 
22 vectorizer = CountVectorizer(ngram_range=(1, 2),min_df=3,max_df=0.9,max_features=10000)
23 
24 vectorizer.fit(df_train['word_seg'])
25 
26 x_train =vectorizer.transform(df_train['word_seg'])
27 
28 x_test =vectorizer.transform(df_test['word_seg'])
29 
30 y_train =df_train['class']-1
31 
32 
33 
34 lg = LogisticRegression(C=4,dual=True)
35 
36 lg.fit(x_train,y_train)
37 
38 
39 
40 y_test = lg.predict(x_test)
41 
42 
43 
44 df_test['class'] = y_test.tolist()
45 
46 df_test['class'] = df_test['class'] + 1
47 
48 df_result =df_test.loc[:,['id','class']]
49 
50 df_result.to_csv('./result.csv',index=False)
51 
52 
53 
54 print("完成")

运行结果是:

 

pandas.errors.ParserError: Error tokenizing data. C error: out of memory

 

这是因为我的电脑内存太小,导致了内存溢出,因此换一台电脑就可以得到最终得分为72分的答案了。笔者最终排名位于全国前300名,算是一个个人感觉还不错的成绩了。

 

目录
相关文章
|
5月前
|
人工智能 Serverless 开发者
|
4月前
|
自然语言处理 算法 Python
【语言的力量!】NLP揭秘:从零开始,如何将「文字海洋」转化为「智慧宝藏」——探索文本分析的奇妙之旅!
【8月更文挑战第12天】随着互联网的爆炸式增长,每日产生的海量文本信息成为企业和研究者挖掘价值的金矿。本文通过具体代码示例,展示了如何运用Python中的自然语言处理(NLP)工具,完成从文本数据收集到分析的全过程。首先介绍了文本预处理,包括分词、去除停用词和词干提取;接着说明了如何利用TF-IDF等方法提取文本特征;然后演示了情感分析技术,可判定文本情感倾向;最后探讨了主题建模方法,如LDA算法,用于发现文本集中的潜在主题。这些步骤共同构成了一个强大的框架,使我们能够更有效地理解和利用文本数据。
39 1
|
4月前
|
机器学习/深度学习 算法 机器人
【2023年第十三届APMCM亚太地区大学生数学建模竞赛】A题 水果采摘机器人的图像识别 Python代码解析
本文介绍了2023年第十三届APMCM亚太地区大学生数学建模竞赛A题的Python代码实现,详细阐述了水果采摘机器人图像识别问题的分析与解决策略,包括图像特征提取、数学模型建立、目标检测算法使用,以及苹果数量统计、位置估计、成熟度评估和质量估计等任务的编程实践。
103 0
【2023年第十三届APMCM亚太地区大学生数学建模竞赛】A题 水果采摘机器人的图像识别 Python代码解析
|
机器学习/深度学习 算法 数据挖掘
周志华《机器学习》西瓜书精炼版笔记来了!16 章完整版
周志华《机器学习》西瓜书精炼版笔记来了!16 章完整版
1941 0
周志华《机器学习》西瓜书精炼版笔记来了!16 章完整版
|
人工智能 搜索推荐 iOS开发
ChatGPT还在2G冲浪?新模型「youChat」:我已能够解说2022世界杯(2)
ChatGPT还在2G冲浪?新模型「youChat」:我已能够解说2022世界杯
155 0
ChatGPT还在2G冲浪?新模型「youChat」:我已能够解说2022世界杯(2)
|
机器学习/深度学习 人工智能 编解码
中国风?古典系?AI中文绘图创作尝鲜!⛵
本文对百度开源的中文 AI 图像生成器 ERNIE 进行讲解,包括工具简介、通过Demo页面和API两种使用方式,以及使用中文提示词生成的图像效果。
457 0
中国风?古典系?AI中文绘图创作尝鲜!⛵
|
人工智能 搜索推荐 区块链
ChatGPT还在2G冲浪?新模型「youChat」:我已能够解说2022世界杯(1)
ChatGPT还在2G冲浪?新模型「youChat」:我已能够解说2022世界杯
154 0
|
机器学习/深度学习 人工智能 前端开发
祝福视频生成器(一图一文AI生成)
祝福视频生成器(一图一文AI生成)
1258 0
祝福视频生成器(一图一文AI生成)
|
机器学习/深度学习 C++
百度飞桨世界冠军带你从零实践强化学习第四天(三岁白话时间)
这里是三岁,这里吧第四的素材和资料整理了一下,大家康康,有什么不足的欢迎提出,批评指正!!!
159 0
百度飞桨世界冠军带你从零实践强化学习第四天(三岁白话时间)
|
机器学习/深度学习 C++
百度飞桨世界冠军带你从零实践强化学习第五天(三岁白话时间)
百度飞桨世界冠军带你从零实践强化学习第五天(三岁白话时间)
207 0
百度飞桨世界冠军带你从零实践强化学习第五天(三岁白话时间)

热门文章

最新文章