【论文写作分析】之四《基于ALBERT-TextCNN模型的多标签医疗文本分类方法》

本文涉及的产品
模型训练 PAI-DLC,5000CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,每月250计算时 3个月
简介: 【论文写作分析】之四《基于ALBERT-TextCNN模型的多标签医疗文本分类方法》

  论文名称:《基于ALBERT-TextCNN模型的多标签医疗文本分类方法》

  发布期刊:《山东大学学报(理学版)》

  期刊信息:CSCD

image.png

 论文写作分析摘要:本文非常简单。网络模型是直接把BERT和TextCNN拼接起来的;亮点在于应用领域的新颖,即医疗文本。本次博客主要来批斗一下这篇论文。

【注】:本文感觉没有创新,模型是用BERT的最后一层接上TextCNN,这不是基操嘛。看完这篇刊上CSCD的论文,感觉我现在就能发论文毕业了。

[1] 参考论文分解


  这篇论文的模型图:

image.png

  这就是BERT模型最常使用的一个方法。把BERT模型的后面几层用在下游任务。

  个人觉得论文的“标签预测”部分,有很大问题。截图如下:

image.png

  只写了 “输出每条健康问句文本对每个主题类别标签的预测概率”,拿到概率之后,如何确定哪些标签是真?哪些是假?并没有说,反而是直接写道 “健康问句文本所属主题类别的标签预测采用交叉熵损失函数”。这完全没有关系啊。损失函数应该单拿一个小节展开说。

  这一段,我个人觉得,没有逻辑、避重就轻。

  然后论文的“模型评估”部分,也很一般。截图如下:

image.png

  只写了最基础的3种评价指标。

【注】论文通篇比较水。

相关文章
|
7月前
|
机器学习/深度学习 自然语言处理 数据挖掘
【论文精读】TNNLS 2022 - 基于深度学习的事件抽取研究综述
【论文精读】TNNLS 2022 - 基于深度学习的事件抽取研究综述
|
2月前
|
自然语言处理 达摩院 数据挖掘
[大语言模型-论文精读] 阿里巴巴-通过多阶段对比学习实现通用文本嵌入
[大语言模型-论文精读] 阿里巴巴-通过多阶段对比学习实现通用文本嵌入
51 1
|
4月前
|
机器学习/深度学习 算法 网络架构
神经网络架构殊途同归?ICML 2024论文:模型不同,但学习内容相同
【8月更文挑战第3天】《神经语言模型的缩放定律》由OpenAI研究人员完成并在ICML 2024发表。研究揭示了模型性能与大小、数据集及计算资源间的幂律关系,表明增大任一资源均可预测地提升性能。此外,论文指出模型宽度与深度对性能影响较小,较大模型在更多数据上训练能更好泛化,且能高效利用计算资源。研究提供了训练策略建议,对于神经语言模型优化意义重大,但也存在局限性,需进一步探索。论文链接:[https://arxiv.org/abs/2001.08361]。
52 1
|
4月前
|
知识图谱
ARTIST的中文文图生成模型问题之ARTIST模型将知识图谱中的知识融入模型中的问题如何解决
ARTIST的中文文图生成模型问题之ARTIST模型将知识图谱中的知识融入模型中的问题如何解决
|
机器学习/深度学习 自然语言处理 算法
【论文解读】文本分类上分利器:Bert微调trick大全
【论文解读】文本分类上分利器:Bert微调trick大全
913 0
【论文解读】文本分类上分利器:Bert微调trick大全
|
人工智能
从BERT到ChatGPT,百页综述梳理预训练大模型演变史(1)
从BERT到ChatGPT,百页综述梳理预训练大模型演变史
247 0
|
机器学习/深度学习 人工智能 自然语言处理
从BERT到ChatGPT,百页综述梳理预训练大模型演变史(2)
从BERT到ChatGPT,百页综述梳理预训练大模型演变史
377 0
|
机器学习/深度学习 计算机视觉 SEO
NeurIPS 2022 | 首个标注详细解释的多模态科学问答数据集,深度学习模型推理有了思维链(2)
NeurIPS 2022 | 首个标注详细解释的多模态科学问答数据集,深度学习模型推理有了思维链
385 0
|
机器学习/深度学习 人工智能 数据可视化
NeurIPS 2022 | 首个标注详细解释的多模态科学问答数据集,深度学习模型推理有了思维链(1)
NeurIPS 2022 | 首个标注详细解释的多模态科学问答数据集,深度学习模型推理有了思维链
308 0
|
机器学习/深度学习 人工智能 自然语言处理
全都会!预测蛋白质标注!创建讲义!解释数学公式!最懂科学的智能NLP模型Galactica尝鲜 ⛵
本文浅试Meta开源的大型AI语言模型『Galactica』,带大家体验安装与多场景使用。Galactica被称为“最懂科学的智能NLP模型”,能够预测蛋白质标注!创建讲义!解释数学公式!全都会!
313 1
全都会!预测蛋白质标注!创建讲义!解释数学公式!最懂科学的智能NLP模型Galactica尝鲜 ⛵

热门文章

最新文章