# 自然语言处理 #
0
关注
5661内容
[Bert]论文实现：BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
[Bert]论文实现：BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
【ACL 2023获奖论文】再现奖：Do CoNLL-2003 Named Entity Taggers Still Work Well in 2023?
【ACL 2023获奖论文】再现奖：Do CoNLL-2003 Named Entity Taggers Still Work Well in 2023?
Transformer：中英文翻译（上）
Transformer：中英文翻译（上）
[seq2seq]论文实现：Effective Approaches to Attention-based Neural Machine Translation（上）
[seq2seq]论文实现：Effective Approaches to Attention-based Neural Machine Translation（上）
[Longformer]论文实现：Longformer: The Long-Document Transformer
[Longformer]论文实现：Longformer: The Long-Document Transformer
[SentencePiece]论文解读：SentencePiece: A simple and language independent subword tokenizer...
[SentencePiece]论文解读：SentencePiece: A simple and language independent subword tokenizer...
[seq2seq]论文实现：Effective Approaches to Attention-based Neural Machine Translation（下）
[seq2seq]论文实现：Effective Approaches to Attention-based Neural Machine Translation（下）
新一代数据库技术：融合人工智能与分布式系统的未来前景
传统数据库技术在应对大规模数据处理和智能化需求方面逐渐显露出瓶颈。本文探讨了新一代数据库技术的发展趋势，重点关注了人工智能与分布式系统的融合，以及其在未来数据管理和分析中的潜在优势。通过深度学习和自动化技术，新型数据库系统能够实现更高效的数据处理和智能化决策，为企业带来更灵活、可靠的数据解决方案。
论文推荐：用多词元预测法提高模型效率与速度
《Better & Faster Large Language Models via Multi-token Prediction》论文提出了一种多词元预测框架，改善了大型语言模型（LLMs）的样本效率和推理速度。该方法通过一次预测多个词元，而非单个词元，提高了模型在编程和自然语言任务中的性能。实验显示，多词元预测在HumanEval和MBPP任务上性能提升，推理速度最高可提升3倍。此外，自我推测解码技术进一步优化了解码效率。尽管在小模型中效果不明显，但该方法为大模型训练和未来研究开辟了新途径。
比快更快，Elasticsearch 8.0 正式发布！
比快更快，Elasticsearch 8.0 正式发布！
免费试用