勋章
我关注的人
粉丝
技术能力
暂时未有相关云产品技术能力~
公众号 Deephub-IMBA
-
发表了文章 2024-05-24
使用FP8加速PyTorch训练的两种方法总结
在PyTorch中，FP8数据类型用于高效训练和推理，旨在减少内存占用和加快计算速度。虽然官方尚未全面支持，但在2.2版本中引入了`torch.float8_e4m3fn`和`torch.float8_e5m2`。文章通过示例展示了如何利用FP8优化Vision Transformer模型，使用Transformer Engine库提升性能，并探讨了PyTorch原生FP8支持的初步使用方法。实验表明，结合TE和FP8，训练速度可提升3倍，性能有显著增强，特别是在NVIDIA GPU上。然而，PyTorch的FP8支持仍处于试验阶段，可能带来不稳定性。
-
发表了文章 2024-05-23
MambaOut：状态空间模型并不适合图像的分类任务
该论文研究了Mamba架构（含状态空间模型SSM）在视觉任务（图像分类、目标检测、语义分割）中的必要性。实验表明，Mamba在这些任务中效果不如传统卷积和注意力模型。论文提出，SSM更适合长序列和自回归任务，而非视觉任务。MambaOut（不带SSM的门控CNN块）在图像分类上优于视觉Mamba，但在检测和分割任务中略逊一筹，暗示SSM在这类任务中可能仍有价值。研究还探讨了Mamba在处理长序列任务时的效率和局部信息整合能力。尽管整体表现一般，但论文为优化不同视觉任务的模型架构提供了新视角。
-
发表了文章 2024-05-22
整合LlamaIndex与LangChain构建高级的查询处理系统
该文阐述了如何结合LlamaIndex和LangChain构建一个扩展性和定制性强的代理RAG应用。LlamaIndex擅长智能搜索，LangChain提供跨平台兼容性。代理RAG允许大型语言模型访问多个查询引擎，增强决策能力和多样化回答。文章通过示例代码展示了如何设置LLM、嵌入模型、LlamaIndex索引及查询引擎，并将它们转换为LangChain兼容的工具，实现高效、精准的问题解答。通过多代理协作，系统能处理复杂查询，提高答案质量和相关性。
-
发表了文章 2024-05-20
深入解析xLSTM：LSTM架构的演进及PyTorch代码实现详解
xLSTM的新闻大家可能前几天都已经看过了，原作者提出更强的xLSTM，可以将LSTM扩展到数十亿参数规模，我们今天就来将其与原始的lstm进行一个详细的对比，然后再使用Pytorch实现一个简单的xLSTM。
-
发表了文章 2024-05-19
DeepSparse: 通过剪枝和稀疏预训练，在不损失精度的情况下减少70%的模型大小，提升三倍速度
该论文提出了一种新方法，用于创建高稀疏性大型语言模型，通过稀疏预训练和高效部署，在保持高准确度的同时显著提升处理速度。方法包括结合SparseGPT剪枝和稀疏预训练，实现70%稀疏度下准确率完全恢复，尤其适合复杂任务。实验显示，使用Cerebras CS-3 AI加速器和Neural Magic的DeepSparse、nm-vllm引擎，训练和推理速度有显著提升。此外，量化稀疏模型在CPU上速度提升可达8.6倍。这种方法优于传统剪枝，为构建更快、更小的语言模型提供了新途径，并通过开源代码和模型促进了研究复现和扩展。
-
发表了文章 2024-05-18
扩散模型的多元化应用：药物发现、文本生成、时间序列预测等
AlphaFold3是DeepMind的蛋白质结构预测软件，它引入扩散模型以提升预测准确性。扩散模型通过逐步添加和去除噪声来理解和生成数据，应用广泛，包括图像、音频、文本和时间序列数据的处理。在图像领域，它们擅长合成、编辑和超分辨率；在文本处理中，扩散模型在代码合成和问答任务中表现出色；在音频和视频生成方面也有重要应用；同时，它们在时间序列预测和增强模型鲁棒性方面也展现出潜力。随着技术发展，扩散模型将在更多领域发挥作用。
-
发表了文章 2024-05-17
图神经网络入门示例：使用PyTorch Geometric 进行节点分类
本文介绍了如何使用PyTorch处理同构图数据进行节点分类。首先，数据集来自Facebook Large Page-Page Network，包含22,470个页面，分为四类，具有不同大小的特征向量。为训练神经网络，需创建PyTorch Data对象，涉及读取CSV和JSON文件，处理不一致的特征向量大小并进行归一化。接着，加载边数据以构建图。通过`Data`对象创建同构图，之后数据被分为70%训练集和30%测试集。训练了两种模型：MLP和GCN。GCN在测试集上实现了80%的准确率，优于MLP的46%，展示了利用图信息的优势。
-
发表了文章 2024-05-16
ATFNet：长时间序列预测的自适应时频集成网络
ATFNet是一款深度学习模型，融合时域和频域分析，捕捉时间序列数据的局部和全局依赖。通过扩展DFT调整周期性权重，结合注意力机制识别复杂关系，优化长期预测。模型包含T-Block（时域）、F-Block（频域）和权重调整机制。实验证明其在时间序列预测任务中表现优越，已发布于arXiv并提供源代码。
-
发表了文章 2024-05-12
You Only Cache Once:YOCO 基于Decoder-Decoder 的一个新的大语言模型架构
YOCO是一种新的解码器-解码器架构，旨在解决大型语言模型推理时的内存限制问题。通过只缓存一次键值对，YOCO显著减少了GPU内存占用，与Transformer相比，内存使用降低了约L倍。模型由自解码器和交叉解码器组成，自解码器使用滑动窗口注意力，而交叉解码器利用全局KV缓存。实验表明，YOCO在保持竞争力的性能同时，提高了推理速度，尤其是在处理长序列时。此外，YOCO还减少了预填充时间，提升了吞吐量。
-
发表了文章 2024-05-11
图机器学习入门：基本概念介绍
图机器学习是机器学习的分支，专注于处理图形结构数据，其中节点代表实体，边表示实体间关系。本文介绍了图的基本概念，如无向图与有向图，以及图的性质，如节点度、邻接矩阵。此外，还讨论了加权图、自循环、多重图、双部图、异构图、平面图和循环图。图在描述数据关系和特征方面具有灵活性，为机器学习算法提供了丰富的结构信息。
-
发表了文章 2024-05-07
循环编码:时间序列中周期性特征的一种常用编码方式
循环编码是深度学习中处理周期性数据的一种技术，常用于时间序列预测。它将周期性特征（如小时、日、月）转换为网络可理解的形式，帮助模型识别周期性变化。传统的one-hot编码将时间特征转换为分类特征，而循环编码利用正弦和余弦转换，保持时间顺序信息。通过将时间戳转换为弧度并应用sin和cos，每个原始特征只映射到两个新特征，减少了特征数量。这种方法在神经网络中有效，但在树模型中可能需谨慎使用。
-
发表了文章 2024-05-15
时间序列预测:探索性数据分析和特征工程的实用指南
时间序列分析在数据科学和机器学习中广泛应用于预测，如金融、能源消耗和销售。随着技术发展，除了传统统计模型，机器学习（如树模型）和深度学习（如LSTM、CNN和Transformer）也被应用。探索性数据分析（EDA）是预处理关键步骤，它通过Pandas、Seaborn和Statsmodel等Python库进行。本文展示了时间序列分析模板，包括描述性统计、时间图、季节图、箱形图、时间序列分解和滞后分析。使用Kaggle的小时能耗数据集，展示了如何通过这些方法揭示数据模式、季节性和趋势，为特征工程提供见解。
-
发表了文章 2024-05-10
使用PyTorch实现L1, L2和Elastic Net正则化
本文介绍了机器学习中的正则化技术，包括L1、L2和Elastic Net，用于防止过拟合。L1正则化产生稀疏模型，适合特征选择；L2正则化使参数接近零但不为零，减少过拟合。Elastic Net结合L1和L2优点，适用于特征相关情况。在Python的sklearn库中，可使用Lasso、Ridge和ElasticNet类实现这些正则化。此外，文中提供PyTorch代码示例，展示了如何在多层感知机上应用L1、L2和Elastic Net正则化。
-
发表了文章 2024-05-04
BiTCN：基于卷积网络的多元时间序列预测
该文探讨了时间序列预测中模型架构的选择，指出尽管MLP和Transformer模型常见，但CNN在预测领域的应用较少。BiTCN是一种利用两个时间卷积网络来编码历史和未来协变量的模型，提出于《Parameter-efficient deep probabilistic forecasting》(2023年3月)。它包含多个由扩张卷积、GELU激活函数、dropout和全连接层组成的临时块，有效地处理序列数据。实验表明，BiTCN在具有外生特征的预测任务中表现优于N-HiTS和PatchTST。BiTCN的效率和性能展示了CNN在时间序列预测中的潜力。
-
发表了文章 2024-05-03
整合文本和知识图谱嵌入提升RAG的性能
本文介绍了如何结合文本嵌入和知识图谱嵌入来提升RAG（检索式生成模型）的性能。文本嵌入利用Word2Vec、GloVe或BERT等预训练模型捕捉单词的语义和上下文，而知识图谱嵌入则表示实体和关系，以便更好地理解结构化信息。通过结合这两种嵌入，RAG模型能更全面地理解输入文本和知识，从而提高答案检索和生成的准确性。文章通过代码示例展示了如何生成和整合这两种嵌入，强调了它们在增强模型对模糊性和可变性处理能力上的作用。
-
发表了文章 2024-05-06
LSTM时间序列预测中的一个常见错误以及如何修正
在使用LSTM进行时间序列预测时，常见错误是混淆回归和预测问题。LSTM需将时间序列转化为回归问题，通常使用窗口或多步方法。然而，窗口方法中，模型在预测未来值时依赖已知的未来值，导致误差累积。为解决此问题，应采用迭代预测和替换输入值的方法，或者在多步骤方法中选择合适的样本数量和训练大小以保持时间结构。编码器/解码器模型能更好地处理时间数据。
-
发表了文章 2024-05-08
号称能打败MLP的KAN到底行不行？数学核心原理全面解析
Kolmogorov-Arnold Networks (KANs) 是一种新型神经网络架构，挑战了多层感知器（mlp）的基础，通过在权重而非节点上使用可学习的激活函数（如b样条），提高了准确性和可解释性。KANs利用Kolmogorov-Arnold表示定理，将复杂函数分解为简单函数的组合，简化了神经网络的近似过程。与mlp相比，KAN在参数量较少的情况下能达到类似或更好的性能，并能直观地可视化，增强了模型的可解释性。尽管仍需更多研究验证其优势，KAN为深度学习领域带来了新的思路。
-
发表了文章 2024-05-01
10个使用NumPy就可以进行的图像处理步骤
这篇文章介绍了使用NumPy进行图像处理的10个基本步骤，包括读取图像、缩小图像、水平和垂直翻转、旋转、裁剪、分离RGB通道、应用滤镜（如棕褐色调）、灰度化、像素化、二值化以及图像融合。通过这些简单的操作，读者可以更好地掌握NumPy在图像处理中的应用。示例代码展示了如何实现这些效果，并配有图像结果。文章强调这些方法适合初学者，更复杂的图像处理可使用专门的库如OpenCV或Pillow。
-
发表了文章 2024-04-30
贝叶斯推理导论：如何在‘任何试验之前绝对一无所知’的情况下计算概率
这篇文章探讨了贝叶斯推理的发展历史，从帕斯卡尔和费马的早期工作到托马斯·贝叶斯、皮埃尔-西蒙·拉普拉斯和哈罗德·杰弗里斯的贡献。文章指出，贝叶斯分析经历了从使用均匀先验到发展更为客观的方法，如杰弗里斯先验的过程。它讨论了费雪对逆概率的批评，以及贝叶斯方法在处理不确定性问题上的优势。文章还介绍了如何通过匹配覆盖率来评估先验分布的合理性，并通过几个例子展示了不同先验在二项分布和正态分布问题中的应用。最后，文章提出了贝叶斯分析在统计学中的地位，强调了在缺乏先验知识时建立良好先验的重要性，并讨论了主观性和客观性在统计推理中的角色。
-
发表了文章 2024-05-05
LLM2Vec介绍和将Llama 3转换为嵌入模型代码示例
通过LLM2Vec，我们可以使用LLM作为文本嵌入模型。但是简单地从llm中提取的嵌入模型往往表现不如常规嵌入模型。
-
发表了文章 2024-04-27
2024年4月计算机视觉论文推荐
四月的计算机视觉研究涵盖多个子领域，包括扩散模型和视觉语言模型。在扩散模型中，Tango 2通过直接偏好优化改进了文本到音频生成，而Ctrl-Adapter提出了一种有效且通用的框架，用于在图像和视频扩散模型中添加多样控制。视觉语言模型的论文分析了CLIP模型在有限资源下的优化，并探讨了语言引导对低级视觉任务的鲁棒性。图像生成与编辑领域关注3D感知和高质量图像编辑，而视频理解与生成则涉及实时视频转游戏环境和文本引导的剪贴画动画。
-
发表了文章 2024-04-28
通过学习曲线识别过拟合和欠拟合
本文介绍了如何利用学习曲线识别机器学习模型中的过拟合和欠拟合问题。过拟合发生时，模型过于复杂，对训练数据过拟合，导致测试集表现不佳；欠拟合则是因为模型太简单，无法捕获数据模式，训练和测试集得分均低。学习曲线通过绘制训练和验证损失随训练样本增加的情况来辅助判断。对于过拟合，学习曲线显示训练损失低且随样本增加上升，验证损失降低但不趋近训练损失；欠拟合时，训练和验证损失都高，且两者随着样本增加缓慢改善。通过学习曲线，我们可以调整模型复杂度或采用正则化等方法优化模型泛化能力。
-
发表了文章 2024-04-26
常用的时间序列分析方法总结和代码示例
该文介绍了时间序列分析的基本方法，以西伯利亚东南部2023年的气象数据为例，包括2米气温、总降水量、地表净太阳辐射和地表压力。首先，导入相关库如pandas、seaborn和xarray，然后展示时间序列的折线图。接着，通过statmodels库进行时间序列的分解，分析趋势、季节性和噪声。文章还讨论了数据的平稳性，使用ADF检验确认所有变量的平稳性，并通过Box-Cox变换尝试改善非正态分布。此外，还展示了自相关和部分自相关图以揭示序列的结构。这些步骤帮助理解数据特性，为后续建模做准备。
-
发表了文章 2024-05-02
Gradformer: 通过图结构归纳偏差提升自注意力机制的图Transformer
Gradformer，新发布的图Transformer，引入指数衰减掩码和可学习约束，强化自注意力机制，聚焦本地信息并保持全局视野。模型整合归纳偏差，增强图结构建模，且在深层架构中表现稳定。对比14种基线模型，Gradformer在图分类、回归任务中胜出，尤其在NCI1、PROTEINS、MUTAG和CLUSTER数据集上准确率提升明显。此外，它在效率和深层模型处理上也表现出色。尽管依赖MPNN模块和效率优化仍有改进空间，但Gradformer已展现出在图任务的强大潜力。
-
发表了文章 2024-04-24
微软Phi-3，3.8亿参数能与Mixtral 8x7B和GPT-3.5相媲美，量化后还可直接在IPhone中运行
Phi-3系列是微软推出的一系列高效语言模型，旨在在移动设备上实现高性能。该系列包括 Phi-3-mini（38亿参数）、Phi-3-small 和 Phi-3-medium，它们在保持紧凑的同时，性能媲美GPT-3.5和Mixtral。模型通过精心筛选的数据集和优化训练策略，如数据最优化和阶段训练，实现高效能。 Phi-3-mini可在iPhone 14上运行，占用约1.8GB内存。这些模型在多个基准测试中展现出色性能，推动了AI在移动设备上的应用，增强了用户隐私和体验。虽然目前仅发布技术报告，但源代码和权重即将开放下载。
-
发表了文章 2024-04-25
开源向量数据库比较：Chroma, Milvus, Faiss,Weaviate
该文探讨了向量数据库在语义搜索和RAG中的核心作用，并介绍了四个开源向量数据库：Chroma、Milvus、Faiss和Weaviate。这些数据库用于存储高维向量，支持基于相似性的快速搜索，改变了传统的精确匹配方法。文章详细比较了它们的特性，如Chroma的易用性，Milvus的存储效率，Faiss的GPU加速，和Weaviate的图数据模型。选择合适的数据库取决于具体需求，如数据类型、性能和使用场景。
-
发表了文章 2024-04-29
如何准确的估计llm推理和微调的内存消耗
最近发布的三个大型语言模型——Command-R+ (104B参数), Mixtral-8x22b (141B参数的MoE模型), 和 Llama 3 70b (70.6B参数)——需要巨大的内存资源。推理时，Command-R+需193.72GB GPU RAM，Mixtral-8x22B需262.63GB，Llama 370b需131.5GB。激活的内存消耗根据序列长度、批大小等因素变化。文章详细介绍了计算这些模型内存需求的方法，并探讨了如何通过量化、优化器优化和梯度检查点减少内存使用，以适应微调和推理。
-
发表了文章 2024-04-22
5种搭建LLM服务的方法和代码示例
本文介绍了5种搭建开源大型语言模型服务的方法，包括使用Anaconda+CPU、Anaconda+GPU、Docker+GPU、Modal和AnyScale。CPU方法适合本地低门槛测试，但速度较慢；GPU方法显著提升速度，Docker简化环境配置，适合大规模部署；Modal提供按需付费的GPU服务，适合试验和部署；而AnyScale则以低门槛和低成本访问开源模型。每种方法都有其优缺点，选择取决于具体需求和资源。
-
发表了文章 2024-04-21
使用ORPO微调Llama 3
ORPO是一种结合监督微调和偏好对齐的新型微调技术，旨在减少训练大型语言模型所需资源和时间。通过在一个综合训练过程中结合这两种方法，ORPO优化了语言模型的目标，强化了对首选响应的奖励，弱化对不期望回答的惩罚。实验证明ORPO在不同模型和基准上优于其他对齐方法。本文使用Llama 3 8b模型测试ORPO，结果显示即使只微调1000条数据一个epoch，性能也有所提升，证实了ORPO的有效性。完整代码和更多细节可在相关链接中找到。
-
发表了文章 2024-04-23
Barnes-Hut t-SNE:大规模数据的高效降维算法
Barnes-Hut t-SNE是一种针对大规模数据集的高效降维算法，它是t-SNE的变体，用于高维数据可视化。t-SNE通过保持概率分布相似性将数据从高维降至2D或3D。Barnes-Hut算法采用天体物理中的方法，将时间复杂度从O(N²)降低到O(NlogN)，通过构建空间索引树和近似远距离交互来加速计算。在scikit-learn中可用，代码示例展示了如何使用该算法进行聚类可视化，成功分离出不同簇并获得高轮廓分数，证明其在大數據集上的有效性。
-
发表了文章 2024-04-14
Moirai：Salesforce的时间序列预测基础模型
过去几个月，时间序列基础模型发展迅速，包括TimeGPT、Lag-Llama、Google的TimesFM、Amazon的Chronos和Salesforce的Moirai。本文聚焦于Moirai，这是一个用于时间序列预测的通用模型，尤其强调零样本推理能力。Moirai处理各种数据频率、适应未知协变量并生成概率预测。文章介绍了Moirai的三个关键特性：多尺寸补丁投影层、任意变量注意力和混合分布。此外，还对比了Moirai与Chronos和TimeGPT，发现Moirai在性能上未超越Chronos，后者在数据效率上更优，但不支持多变量预测。
-
发表了文章 2024-04-12
PiSSA ：将模型原始权重进行奇异值分解的一种新的微调方法
我们开始看4月的新论文了，这是来自北京大学人工智能研究所、北京大学智能科学与技术学院的研究人员发布的Principal Singular Values and Singular Vectors Adaptation（PiSSA）方法。
-
发表了文章 2024-04-17
PyTorch小技巧：使用Hook可视化网络层激活（各层输出）
这篇文章将演示如何可视化PyTorch激活层。可视化激活，即模型内各层的输出，对于理解深度神经网络如何处理视觉信息至关重要，这有助于诊断模型行为并激发改进。
-
发表了文章 2024-04-10
推测解码：在不降低准确性的情况下将LLM推理速度提高2 - 3倍
在本篇文章我们将详细讨论推测解码，这是一种可以将LLM推理速度提高约2 - 3倍而不降低任何准确性的方法。我们还将会介绍推测解码代码实现，并看看它与原始transformer 实现相比到底能快多少。
-
发表了文章 2024-04-03
大模型中常用的注意力机制GQA详解以及Pytorch代码实现
GQA是一种结合MQA和MHA优点的注意力机制，旨在保持MQA的速度并提供MHA的精度。它将查询头分成组，每组共享键和值。通过Pytorch和einops库，可以简洁实现这一概念。GQA在保持高效性的同时接近MHA的性能，是高负载系统优化的有力工具。相关论文和非官方Pytorch实现可进一步探究。
-
发表了文章 2024-04-01
大语言模型中常用的旋转位置编码RoPE详解：为什么它比绝对或相对位置编码更好?
Transformer的基石自2017年后历经变革，2022年RoPE引领NLP新方向，现已被顶级模型如Llama、Llama2等采纳。RoPE融合绝对与相对位置编码优点，解决传统方法的序列长度限制和相对位置表示问题。它通过旋转矩阵对词向量应用角度与位置成正比的旋转，保持向量稳定，保留相对位置信息，适用于长序列处理，提升了模型效率和性能。RoPE的引入开启了Transformer的新篇章，推动了NLP的进展。[[1](https://avoid.overfit.cn/post/9e0d8e7687a94d1ead9aeea65bb2a129)]
-
发表了文章 2024-03-31
SiMBA：基于Mamba的跨图像和多元时间序列的预测模型
微软研究者提出了SiMBA，一种融合Mamba与EinFFT的新架构，用于高效处理图像和时间序列。SiMBA解决了Mamba在大型网络中的不稳定性，结合了卷积、Transformer、频谱方法和状态空间模型的优点。在ImageNet 1K上表现优越，达到84.0%的Top-1准确率，并在多变量长期预测中超越SOTA，降低了MSE和MAE。代码开源，适用于复杂任务的高性能建模。[[论文链接]](https//avoid.overfit.cn/post/c21aa5ca480b47198ee3daefdc7254bb)
-
发表了文章 2024-03-29
使用MergeKit创建自己的专家混合模型：将多个模型组合成单个MoE
MoE架构通过MergeKit实现新突破，允许整合预训练模型创建frankenMoEs，如FrankenMoE，区别于头开始训练的MoEs。MergeKit工具支持选择专家模型，定义正负提示，并生成MoE配置。
-
发表了文章 2024-04-07
归一化技术比较研究：Batch Norm, Layer Norm, Group Norm
本文将使用合成数据集对三种归一化技术进行比较，并在每种配置下分别训练模型。记录训练损失，并比较模型的性能。
-
发表了文章 2024-03-28
如何开始定制你自己的大型语言模型
2023年，大型语言模型发展迅速，规模更大，性能更强。用户能否定制自己的模型取决于硬件资源。需在功能和成本间找到平衡，可以选择高性能（如40B+参数，适合专业用途，需强大GPU，成本高）或低性能（如7B参数，适合学习和简单应用，GPU成本较低）模型。训练模型可借助HuggingFace的Transformers库，定义数据集并进行训练。训练好的模型可使用Ollama和Open Web UI部署。具备适当GPU是入门基础。
-
发表了文章 2024-03-30
Quiet-STaR:让语言模型在“说话”前思考
**Quiet-STaR** 是一种增强大型语言模型（LLM）推理能力的方法，它扩展了原有的**STaR** 技术，允许LLM为其生成的文本自动生成推理步骤。通过令牌并行抽样和学习的思想令牌，模型能同时预测单词和相关原理。教师强化指导确保输出的正确性。Quiet-STaR提升LLM在句子预测、复杂问题解答和推理基准测试上的表现，降低困惑度，促进更流畅的生成过程。未来研究将探索视觉和符号理由，以及结合可解释AI以提高模型透明度和定制化。[\[arXiv:2403.09629\]](https://arxiv.org/abs/2403.09629)
-
发表了文章 2024-03-24
8个常见的数据可视化错误以及如何避免它们
本文揭示了8个数据可视化常见错误：误导色彩对比、过多的数据图表、省略基线、误导性标签、错误的可视化方法、不实的因果关系、放大有利数据和滥用3D图形。强调清晰、准确和洞察力的重要性，提醒制作者避免使用过多颜色、一次性展示大量数据、错误图表类型以及展示无关相关性等。正确可视化能有力支持决策，不应牺牲真实性以追求视觉效果。
-
发表了文章 2024-03-23
BurstAttention:可对非常长的序列进行高效的分布式注意力计算
研究人员探索了提高LLM注意力机制效率的策略，包括FlashAttention（利用SRAM加速）和RingAttention（分布式多设备处理）。新提出的BurstAttention结合两者，优化跨设备计算与通信，减少40%通信开销，使128K长度序列在8×A100 GPU上的训练速度翻倍。论文于3月发布，但实现未公开
-
发表了文章 2024-03-25
使用GaLore在本地GPU进行高效的LLM调优
GaLore是一种新的优化策略，它通过梯度低秩投影减少VRAM需求，使得大型语言模型（如70亿参数的模型）能在消费级GPU上进行微调，而不减少参数数量。与LoRA相比，GaLore内存效率更高，且性能相当或更优。它在反向传播期间逐层更新参数，降低了计算负荷。虽然GaLore训练时间较长，但它为个人爱好者提供了在有限资源下训练大模型的可能性。相关代码示例和性能对比显示了其优势。
-
发表了文章 2024-03-22
文生图的基石CLIP模型的发展综述
CLIP（Contrastive Language-Image Pre-training）是OpenAI在2021年发布的多模态模型，用于学习文本-图像对的匹配。模型由文本和图像编码器组成，通过对比学习使匹配的输入对在向量空间中靠近，非匹配对远离。预训练后，CLIP被广泛应用于各种任务，如零样本分类和语义搜索。后续研究包括ALIGN、K-LITE、OpenCLIP、MetaCLIP和DFN，它们分别在数据规模、知识增强、性能缩放和数据过滤等方面进行了改进和扩展，促进了多模态AI的发展。
-
发表了文章 2024-03-17
时间序列预测的零样本学习是未来还是炒作：TimeGPT和TiDE的综合比较
最近时间序列预测预测领域的最新进展受到了各个领域（包括文本、图像和语音）成功开发基础模型的影响，例如文本（如ChatGPT）、文本到图像（如Midjourney）和文本到语音（如Eleven Labs）。这些模型的广泛采用导致了像TimeGPT[1]这样的模型的出现，这些模型利用了类似于它们在文本、图像和语音方面获得成功的方法和架构。
-
发表了文章 2024-03-15
LoRA及其变体概述：LoRA, DoRA, AdaLoRA, Delta-LoRA
LoRA可以说是针对特定任务高效训练大型语言模型的重大突破。它被广泛应用于许多应用中。在本文中，我们将解释LoRA本身的基本概念，然后介绍一些以不同的方式改进LoRA的功能的变体，包括LoRA+、VeRA、LoRA- fa、LoRA-drop、AdaLoRA、DoRA和Delta-LoRA。
-
发表了文章 2024-03-21
Moment:又一个开源的时间序列基础模型
MOMENT团队推出Time-series Pile，一个大型公共时间序列数据集，用于预训练首个开源时间序列模型家族。模型基于Transformer，采用遮蔽预训练技术，适用于预测、分类、异常检测和输入任务。研究发现，随机初始化比使用语言模型权重更有效，且直接预训练的模型表现出色。MOMENT改进了Transformer架构，调整了Layer norm并引入关系位置嵌入。模型在长期预测和异常检测中表现优异，但对于数值预测的效果尚不明朗。论文贡献包括开源方法、数据集创建和资源有限情况下的性能评估框架。
-
发表了文章 2024-03-17
微调大型语言模型进行命名实体识别
大型语言模型的目标是理解和生成与人类语言类似的文本。它们经过大规模的训练，能够对输入的文本进行分析，并生成符合语法和语境的回复。这种模型可以用于各种任务，包括问答系统、对话机器人、文本生成、翻译等。
-
发表了文章 2024-03-13
2024年3月最新的深度学习论文推荐
现在已经是3月中旬了，我们这次推荐一些2月和3月发布的论文。
-
发表了文章
2024-12-26
SPAR：融合自对弈与树搜索的高性能指令优化框架
-
发表了文章
2024-12-25
TurboAttention：基于多项式近似和渐进式量化的高效注意力机制优化方案，降低LLM计算成本70%
-
发表了文章
2024-12-24
BERT的继任者ModernBERT：融合长序列处理、代码理解与高效计算的新一代双向编码器
-
发表了文章
2024-12-23
10个必备Python调试技巧：从pdb到单元测试的开发效率提升指南
-
发表了文章
2024-12-22
使用PyTorch实现GPT-2直接偏好优化训练：DPO方法改进及其与监督微调的效果对比
-
发表了文章
2024-12-21
LEC: 基于Transformer中间层隐藏状态的高效特征提取与内容安全分类方法
-
发表了文章
2024-12-20
时间序列分析中的互相关与相干性分析：前导-滞后关系的理论基础与实际应用
-
发表了文章
2024-12-19
基于深度混合架构的智能量化交易系统研究： 融合SSDA与LSTM自编码器的特征提取与决策优化方法
-
发表了文章
2024-12-18
基于Copula分布的合成数据采样：保持多维数据依赖结构的高效建模方法
-
发表了文章
2024-12-17
数据分布检验利器：通过Q-Q图进行可视化分布诊断、异常检测与预处理优化
-
发表了文章
2024-12-16
基于图神经网络的大语言模型检索增强生成框架研究：面向知识图谱推理的优化与扩展
-
发表了文章
2024-12-15
Differential Transformer: 通过差分注意力机制提升大语言模型性能
-
发表了文章
2024-12-14
使用机器学习技术进行时间序列缺失数据填充：基础方法与入门案例
-
发表了文章
2024-12-13
Python量化投资实践：基于蒙特卡洛模拟的投资组合风险建模与分析
-
发表了文章
2024-12-12
使用PaliGemma2构建多模态目标检测系统：从架构设计到性能优化的技术实践指南
-
发表了文章
2024-12-11
时间序列预测的不确定性区间估计：基于EnbPI的方法与应用研究
-
发表了文章
2024-12-10
基于Huffman树的层次化Softmax：面向大规模神经网络的高效概率计算方法
-
发表了文章
2024-12-09
Beta分布与汤普森采样：智能决策系统概率采样的理论基础
-
发表了文章
2024-12-08
从方向导数到梯度：深度学习中的关键数学概念详解
-
发表了文章
2024-12-07
ORCA：基于持续批处理的LLM推理性能优化技术详解
