勋章
我关注的人
粉丝
技术能力
暂时未有相关云产品技术能力~
公众号 Deephub-IMBA
-
发表了文章 2024-06-10
如何应对缺失值带来的分布变化？探索填充缺失值的最佳插补算法
该文探讨了缺失值插补的不同方法，比较了它们恢复数据真实分布的效果。文章指出，处理插补尤其在小样本或复杂数据时是个挑战，需要选择能适应数据分布变化的方法。文中介绍了完全随机缺失（MCAR）、随机缺失（MAR）和非随机缺失（MNAR）三种机制，并以一个简单的例子展示了数据分布变化。文章通过比较均值插补、回归插补和高斯插补，强调了高斯插补在重现数据分布方面更优。评估插补方法时，不应仅依赖于RMSE，而应关注分布预测，使用如能量距离这样的指标。此外，即使在随机缺失情况下，数据分布也可能因模式变化而变化，需要考虑适应这些变化的插补方法。
-
发表了文章 2024-06-09
数据并非都是正态分布：三种常见的统计分布及其应用
这篇文章除了介绍线性模型在减肥app预测中的不切实际性，还探讨了不同统计分布在体重管理和数据分析中的应用。文章提到了正态分布和泊松分布，前者常用于描述围绕平均值对称分布的连续数据，如体重；后者适合计数数据，如体重变化次数。正态分布以其钟形曲线闻名，泊松分布则描述独立事件的数量。文章还简要介绍了卡方分布在检验分类变量关系时的作用。最后，文章指出了在线性回归中假设数据正态分布的原因，包括便于统计推断和最小化估计误差。
-
发表了文章 2024-06-08
Block Transformer：通过全局到局部的语言建模加速LLM推理
Block Transformer是一种优化自回归语言模型推理效率的新架构，通过块级自注意力来平衡全局和局部依赖，提高吞吐量。模型包含嵌入器、块解码器和令牌解码器，其中块解码器处理全局依赖，令牌解码器处理局部细节。这种方法减轻了KV缓存的延迟和内存开销，尤其是在长序列处理中。实验显示，尽管Block Transformer参数量增加，但推理速度显著提升，尤其是在大块长度和优化的组件比例下，实现了性能与速度的平衡。
-
发表了文章 2024-06-07
CNN依旧能战：nnU-Net团队新研究揭示医学图像分割的验证误区，设定先进的验证标准与基线模型
在3D医学图像分割领域，尽管出现了多种新架构和方法，但大多未能超越2018年nnU-Net基准。研究发现，许多新方法的优越性未经严格验证，揭示了验证方法的不严谨性。作者通过系统基准测试评估了CNN、Transformer和Mamba等方法，强调了配置和硬件资源的重要性，并更新了nnU-Net基线以适应不同条件。论文呼吁加强科学验证，以确保真实性能提升。通过nnU-Net的变体和新方法的比较，显示经典CNN方法在某些情况下仍优于理论上的先进方法。研究提供了新的标准化基线模型，以促进更严谨的性能评估。
-
发表了文章 2024-06-06
从提示工程到代理工程：构建高效AI代理的策略框架概述
该文探讨了AI代理的发展，特别是ChatGPT等模型如何展示了AI系统的潜力。文章提出从提示工程转向代理工程，定义了代理能力需求，并提出一个框架来设计和实施AI代理。代理工程涉及明确代理的任务、所需行动、能力及熟练度，通过现有技术满足这些需求。文章强调了广泛和特定知识的熟练度、精确信息获取以及代理的结构设计和协调。随着技术进步，该框架为AI代理的未来发展提供了基础。
-
发表了文章 2024-06-04
为什么你的RAG不起作用？失败的主要原因和解决方案
企业在尝试使用检索增强生成（RAG）时遇到困难，因为系统效果不佳且难以优化。问题主要源于语义不协调，即任务理解与底层知识间的不一致。由于向量嵌入技术的不透明性，诊断和解决这个问题变得复杂。本文旨在揭示RAG失败的原因并提供改进策略。文章探讨了RAG的工作原理，强调了语义不协调的影响，并介绍了如何通过增加结构化数据和使用语义+相关性排名来提升RAG性能。此外，建议将AI视为工具而非完整解决方案，并提醒读者当前技术仍处早期阶段，需注意挑战。
-
发表了文章 2024-06-03
2024年5月第四周LLM重要论文总结
本文总结了2024年5月第四周发表的一些最重要的LLM论文。这些论文的主题包括模型优化和缩放到推理、基准测试和增强性能。
-
发表了文章 2024-06-02
通过f-string编写简洁高效的Python格式化输出代码
Python 3.6中引入的f-string是Python中最常用的特征之一，它可以让我们编写更干净、更高效和更易于维护的代码，我们今天就由浅入深来详细介绍使用它的一些技巧。
-
发表了文章 2024-06-01
YOLOv10的改进、部署和微调训练总结
YOLOv10在实时目标检测中提升性能与效率，通过无NMS训练解决延迟问题，采用一致的双任务和效率-精度驱动的模型设计。YOLOv10-S比RT-DETR-R18快1.8倍，YOLOv10-B比YOLOv9-C延迟减少46%。新方法包括一致性双标签分配，优化计算冗余和增强模型能力。实验结果显示YOLOv10在AP和延迟上均有显著改善。文章还提供了部署和微调YOLOv10的示例代码。
-
发表了文章 2024-05-31
长序列中Transformers的高级注意力机制总结
Transformers在处理长序列时面临注意力分散和噪音问题，随着序列增长，注意力得分被稀释，影响相关上下文表示。文章探讨了序列长度如何影响注意力机制，并提出了多种解决方案：局部敏感哈希减少计算需求，低秩注意力通过矩阵分解简化计算，分段注意力将输入分割处理，层次化注意力逐级应用注意力，递归记忆增强上下文保持，带有路由的注意力机制动态调整信息流，以及相对位置编码改进序列理解。这些方法旨在提高Transformer在长序列任务中的效率和性能。
-
发表了文章 2024-05-30
通过强化学习策略进行特征选择
本文探讨了使用强化学习策略进行特征选择以提升机器学习模型性能。强调在高维数据集中，有效选择特征至关重要。文章介绍了马尔可夫决策过程在强化学习中的应用，并提出了一种新的特征选择方法。通过定义状态（特征子集）、动作（添加特征）、奖励（如准确性提升），建立了一个RL模型。此外，还介绍了Python库FSRLearning，用于实现这一方法。文中展示了如何使用该库，并通过与 sklearn 的 RFE 方法比较，证明了RL方法在选择模型特征方面的优越性。
-
发表了文章 2024-05-27
SUPRA：无须额外训练，将Transformer变为高效RNN，推理速度倍增
`Transformers`模型因其在多种任务上的优秀性能而广泛采用，但其内存需求和推理成本随词元数量指数增长。为解决这一问题，论文《Linearizing Large Language Models》提出`SUPRA`方法，将预训练的`Transformers`转换为递归神经网络（RNN），实现有效推理并降低训练成本至原来的5%。`SUPRA`通过将注意力机制线性化并用`GroupNorm`替代`softmax`，保持预训练模型的优势。经过微调，转换后的模型在标准语言理解和长上下文任务中保持高性能，展示了在长序列处理方面的潜力，但仍有改进空间。
-
发表了文章 2024-05-26
2024年5月大语言模型论文推荐：模型优化、缩放到推理、基准测试和增强性能
本文汇总了2024年5月发布的七篇重要大语言模型论文，涉及模型优化、缩放、推理及性能增强。
-
发表了文章 2024-05-25
2024年5月计算机视觉论文推荐:包括扩散模型、视觉语言模型、图像编辑和生成、视频处理和生成以及图像识别等各个主题
五月发布的计算机视觉领域重要论文涵盖了扩散模型、视觉语言模型、图像生成与编辑及目标检测。亮点包括：1) Dual3D提出双模式推理策略，实现高效文本到3D图像生成；2) CAT3D利用多视图扩散模型创建3D场景，仅需少量图像；3) Hunyuan-DiT是多分辨率的中文理解扩散Transformer，可用于多模态对话和图像生成；4) 通过潜在扩散模型从EEG数据重建自然主义音乐，展示复杂音频重建潜力。此外，还有关于视觉语言模型和图像编辑的创新工作，如BlobGEN用于合成具有控制性的图像。
-
发表了文章 2024-05-24
使用FP8加速PyTorch训练的两种方法总结
在PyTorch中，FP8数据类型用于高效训练和推理，旨在减少内存占用和加快计算速度。虽然官方尚未全面支持，但在2.2版本中引入了`torch.float8_e4m3fn`和`torch.float8_e5m2`。文章通过示例展示了如何利用FP8优化Vision Transformer模型，使用Transformer Engine库提升性能，并探讨了PyTorch原生FP8支持的初步使用方法。实验表明，结合TE和FP8，训练速度可提升3倍，性能有显著增强，特别是在NVIDIA GPU上。然而，PyTorch的FP8支持仍处于试验阶段，可能带来不稳定性。
-
发表了文章 2024-05-23
MambaOut：状态空间模型并不适合图像的分类任务
该论文研究了Mamba架构（含状态空间模型SSM）在视觉任务（图像分类、目标检测、语义分割）中的必要性。实验表明，Mamba在这些任务中效果不如传统卷积和注意力模型。论文提出，SSM更适合长序列和自回归任务，而非视觉任务。MambaOut（不带SSM的门控CNN块）在图像分类上优于视觉Mamba，但在检测和分割任务中略逊一筹，暗示SSM在这类任务中可能仍有价值。研究还探讨了Mamba在处理长序列任务时的效率和局部信息整合能力。尽管整体表现一般，但论文为优化不同视觉任务的模型架构提供了新视角。
-
发表了文章 2024-05-22
整合LlamaIndex与LangChain构建高级的查询处理系统
该文阐述了如何结合LlamaIndex和LangChain构建一个扩展性和定制性强的代理RAG应用。LlamaIndex擅长智能搜索，LangChain提供跨平台兼容性。代理RAG允许大型语言模型访问多个查询引擎，增强决策能力和多样化回答。文章通过示例代码展示了如何设置LLM、嵌入模型、LlamaIndex索引及查询引擎，并将它们转换为LangChain兼容的工具，实现高效、精准的问题解答。通过多代理协作，系统能处理复杂查询，提高答案质量和相关性。
-
发表了文章 2024-05-20
深入解析xLSTM：LSTM架构的演进及PyTorch代码实现详解
xLSTM的新闻大家可能前几天都已经看过了，原作者提出更强的xLSTM，可以将LSTM扩展到数十亿参数规模，我们今天就来将其与原始的lstm进行一个详细的对比，然后再使用Pytorch实现一个简单的xLSTM。
-
发表了文章 2024-05-19
DeepSparse: 通过剪枝和稀疏预训练，在不损失精度的情况下减少70%的模型大小，提升三倍速度
该论文提出了一种新方法，用于创建高稀疏性大型语言模型，通过稀疏预训练和高效部署，在保持高准确度的同时显著提升处理速度。方法包括结合SparseGPT剪枝和稀疏预训练，实现70%稀疏度下准确率完全恢复，尤其适合复杂任务。实验显示，使用Cerebras CS-3 AI加速器和Neural Magic的DeepSparse、nm-vllm引擎，训练和推理速度有显著提升。此外，量化稀疏模型在CPU上速度提升可达8.6倍。这种方法优于传统剪枝，为构建更快、更小的语言模型提供了新途径，并通过开源代码和模型促进了研究复现和扩展。
-
发表了文章 2024-05-18
扩散模型的多元化应用：药物发现、文本生成、时间序列预测等
AlphaFold3是DeepMind的蛋白质结构预测软件，它引入扩散模型以提升预测准确性。扩散模型通过逐步添加和去除噪声来理解和生成数据，应用广泛，包括图像、音频、文本和时间序列数据的处理。在图像领域，它们擅长合成、编辑和超分辨率；在文本处理中，扩散模型在代码合成和问答任务中表现出色；在音频和视频生成方面也有重要应用；同时，它们在时间序列预测和增强模型鲁棒性方面也展现出潜力。随着技术发展，扩散模型将在更多领域发挥作用。
-
发表了文章 2024-05-16
ATFNet：长时间序列预测的自适应时频集成网络
ATFNet是一款深度学习模型，融合时域和频域分析，捕捉时间序列数据的局部和全局依赖。通过扩展DFT调整周期性权重，结合注意力机制识别复杂关系，优化长期预测。模型包含T-Block（时域）、F-Block（频域）和权重调整机制。实验证明其在时间序列预测任务中表现优越，已发布于arXiv并提供源代码。
-
发表了文章 2024-05-12
You Only Cache Once:YOCO 基于Decoder-Decoder 的一个新的大语言模型架构
YOCO是一种新的解码器-解码器架构，旨在解决大型语言模型推理时的内存限制问题。通过只缓存一次键值对，YOCO显著减少了GPU内存占用，与Transformer相比，内存使用降低了约L倍。模型由自解码器和交叉解码器组成，自解码器使用滑动窗口注意力，而交叉解码器利用全局KV缓存。实验表明，YOCO在保持竞争力的性能同时，提高了推理速度，尤其是在处理长序列时。此外，YOCO还减少了预填充时间，提升了吞吐量。
-
发表了文章 2024-05-11
图机器学习入门：基本概念介绍
图机器学习是机器学习的分支，专注于处理图形结构数据，其中节点代表实体，边表示实体间关系。本文介绍了图的基本概念，如无向图与有向图，以及图的性质，如节点度、邻接矩阵。此外，还讨论了加权图、自循环、多重图、双部图、异构图、平面图和循环图。图在描述数据关系和特征方面具有灵活性，为机器学习算法提供了丰富的结构信息。
-
发表了文章 2024-05-07
循环编码:时间序列中周期性特征的一种常用编码方式
循环编码是深度学习中处理周期性数据的一种技术，常用于时间序列预测。它将周期性特征（如小时、日、月）转换为网络可理解的形式，帮助模型识别周期性变化。传统的one-hot编码将时间特征转换为分类特征，而循环编码利用正弦和余弦转换，保持时间顺序信息。通过将时间戳转换为弧度并应用sin和cos，每个原始特征只映射到两个新特征，减少了特征数量。这种方法在神经网络中有效，但在树模型中可能需谨慎使用。
-
发表了文章 2024-05-15
时间序列预测:探索性数据分析和特征工程的实用指南
时间序列分析在数据科学和机器学习中广泛应用于预测，如金融、能源消耗和销售。随着技术发展，除了传统统计模型，机器学习（如树模型）和深度学习（如LSTM、CNN和Transformer）也被应用。探索性数据分析（EDA）是预处理关键步骤，它通过Pandas、Seaborn和Statsmodel等Python库进行。本文展示了时间序列分析模板，包括描述性统计、时间图、季节图、箱形图、时间序列分解和滞后分析。使用Kaggle的小时能耗数据集，展示了如何通过这些方法揭示数据模式、季节性和趋势，为特征工程提供见解。
-
发表了文章 2024-05-04
BiTCN：基于卷积网络的多元时间序列预测
该文探讨了时间序列预测中模型架构的选择，指出尽管MLP和Transformer模型常见，但CNN在预测领域的应用较少。BiTCN是一种利用两个时间卷积网络来编码历史和未来协变量的模型，提出于《Parameter-efficient deep probabilistic forecasting》(2023年3月)。它包含多个由扩张卷积、GELU激活函数、dropout和全连接层组成的临时块，有效地处理序列数据。实验表明，BiTCN在具有外生特征的预测任务中表现优于N-HiTS和PatchTST。BiTCN的效率和性能展示了CNN在时间序列预测中的潜力。
-
发表了文章 2024-05-03
整合文本和知识图谱嵌入提升RAG的性能
本文介绍了如何结合文本嵌入和知识图谱嵌入来提升RAG（检索式生成模型）的性能。文本嵌入利用Word2Vec、GloVe或BERT等预训练模型捕捉单词的语义和上下文，而知识图谱嵌入则表示实体和关系，以便更好地理解结构化信息。通过结合这两种嵌入，RAG模型能更全面地理解输入文本和知识，从而提高答案检索和生成的准确性。文章通过代码示例展示了如何生成和整合这两种嵌入，强调了它们在增强模型对模糊性和可变性处理能力上的作用。
-
发表了文章 2024-05-06
LSTM时间序列预测中的一个常见错误以及如何修正
在使用LSTM进行时间序列预测时，常见错误是混淆回归和预测问题。LSTM需将时间序列转化为回归问题，通常使用窗口或多步方法。然而，窗口方法中，模型在预测未来值时依赖已知的未来值，导致误差累积。为解决此问题，应采用迭代预测和替换输入值的方法，或者在多步骤方法中选择合适的样本数量和训练大小以保持时间结构。编码器/解码器模型能更好地处理时间数据。
-
发表了文章 2024-05-08
号称能打败MLP的KAN到底行不行？数学核心原理全面解析
Kolmogorov-Arnold Networks (KANs) 是一种新型神经网络架构，挑战了多层感知器（mlp）的基础，通过在权重而非节点上使用可学习的激活函数（如b样条），提高了准确性和可解释性。KANs利用Kolmogorov-Arnold表示定理，将复杂函数分解为简单函数的组合，简化了神经网络的近似过程。与mlp相比，KAN在参数量较少的情况下能达到类似或更好的性能，并能直观地可视化，增强了模型的可解释性。尽管仍需更多研究验证其优势，KAN为深度学习领域带来了新的思路。
-
发表了文章 2024-05-01
10个使用NumPy就可以进行的图像处理步骤
这篇文章介绍了使用NumPy进行图像处理的10个基本步骤，包括读取图像、缩小图像、水平和垂直翻转、旋转、裁剪、分离RGB通道、应用滤镜（如棕褐色调）、灰度化、像素化、二值化以及图像融合。通过这些简单的操作，读者可以更好地掌握NumPy在图像处理中的应用。示例代码展示了如何实现这些效果，并配有图像结果。文章强调这些方法适合初学者，更复杂的图像处理可使用专门的库如OpenCV或Pillow。
-
发表了文章 2024-05-05
LLM2Vec介绍和将Llama 3转换为嵌入模型代码示例
通过LLM2Vec，我们可以使用LLM作为文本嵌入模型。但是简单地从llm中提取的嵌入模型往往表现不如常规嵌入模型。
-
发表了文章 2024-04-27
2024年4月计算机视觉论文推荐
四月的计算机视觉研究涵盖多个子领域，包括扩散模型和视觉语言模型。在扩散模型中，Tango 2通过直接偏好优化改进了文本到音频生成，而Ctrl-Adapter提出了一种有效且通用的框架，用于在图像和视频扩散模型中添加多样控制。视觉语言模型的论文分析了CLIP模型在有限资源下的优化，并探讨了语言引导对低级视觉任务的鲁棒性。图像生成与编辑领域关注3D感知和高质量图像编辑，而视频理解与生成则涉及实时视频转游戏环境和文本引导的剪贴画动画。
-
发表了文章 2024-04-28
通过学习曲线识别过拟合和欠拟合
本文介绍了如何利用学习曲线识别机器学习模型中的过拟合和欠拟合问题。过拟合发生时，模型过于复杂，对训练数据过拟合，导致测试集表现不佳；欠拟合则是因为模型太简单，无法捕获数据模式，训练和测试集得分均低。学习曲线通过绘制训练和验证损失随训练样本增加的情况来辅助判断。对于过拟合，学习曲线显示训练损失低且随样本增加上升，验证损失降低但不趋近训练损失；欠拟合时，训练和验证损失都高，且两者随着样本增加缓慢改善。通过学习曲线，我们可以调整模型复杂度或采用正则化等方法优化模型泛化能力。
-
发表了文章 2024-04-26
常用的时间序列分析方法总结和代码示例
该文介绍了时间序列分析的基本方法，以西伯利亚东南部2023年的气象数据为例，包括2米气温、总降水量、地表净太阳辐射和地表压力。首先，导入相关库如pandas、seaborn和xarray，然后展示时间序列的折线图。接着，通过statmodels库进行时间序列的分解，分析趋势、季节性和噪声。文章还讨论了数据的平稳性，使用ADF检验确认所有变量的平稳性，并通过Box-Cox变换尝试改善非正态分布。此外，还展示了自相关和部分自相关图以揭示序列的结构。这些步骤帮助理解数据特性，为后续建模做准备。
-
发表了文章 2024-05-02
Gradformer: 通过图结构归纳偏差提升自注意力机制的图Transformer
Gradformer，新发布的图Transformer，引入指数衰减掩码和可学习约束，强化自注意力机制，聚焦本地信息并保持全局视野。模型整合归纳偏差，增强图结构建模，且在深层架构中表现稳定。对比14种基线模型，Gradformer在图分类、回归任务中胜出，尤其在NCI1、PROTEINS、MUTAG和CLUSTER数据集上准确率提升明显。此外，它在效率和深层模型处理上也表现出色。尽管依赖MPNN模块和效率优化仍有改进空间，但Gradformer已展现出在图任务的强大潜力。
-
发表了文章 2024-04-24
微软Phi-3，3.8亿参数能与Mixtral 8x7B和GPT-3.5相媲美，量化后还可直接在IPhone中运行
Phi-3系列是微软推出的一系列高效语言模型，旨在在移动设备上实现高性能。该系列包括 Phi-3-mini（38亿参数）、Phi-3-small 和 Phi-3-medium，它们在保持紧凑的同时，性能媲美GPT-3.5和Mixtral。模型通过精心筛选的数据集和优化训练策略，如数据最优化和阶段训练，实现高效能。 Phi-3-mini可在iPhone 14上运行，占用约1.8GB内存。这些模型在多个基准测试中展现出色性能，推动了AI在移动设备上的应用，增强了用户隐私和体验。虽然目前仅发布技术报告，但源代码和权重即将开放下载。
-
发表了文章 2024-04-25
开源向量数据库比较：Chroma, Milvus, Faiss,Weaviate
该文探讨了向量数据库在语义搜索和RAG中的核心作用，并介绍了四个开源向量数据库：Chroma、Milvus、Faiss和Weaviate。这些数据库用于存储高维向量，支持基于相似性的快速搜索，改变了传统的精确匹配方法。文章详细比较了它们的特性，如Chroma的易用性，Milvus的存储效率，Faiss的GPU加速，和Weaviate的图数据模型。选择合适的数据库取决于具体需求，如数据类型、性能和使用场景。
-
发表了文章 2024-04-29
如何准确的估计llm推理和微调的内存消耗
最近发布的三个大型语言模型——Command-R+ (104B参数), Mixtral-8x22b (141B参数的MoE模型), 和 Llama 3 70b (70.6B参数)——需要巨大的内存资源。推理时，Command-R+需193.72GB GPU RAM，Mixtral-8x22B需262.63GB，Llama 370b需131.5GB。激活的内存消耗根据序列长度、批大小等因素变化。文章详细介绍了计算这些模型内存需求的方法，并探讨了如何通过量化、优化器优化和梯度检查点减少内存使用，以适应微调和推理。
-
发表了文章 2024-04-22
5种搭建LLM服务的方法和代码示例
本文介绍了5种搭建开源大型语言模型服务的方法，包括使用Anaconda+CPU、Anaconda+GPU、Docker+GPU、Modal和AnyScale。CPU方法适合本地低门槛测试，但速度较慢；GPU方法显著提升速度，Docker简化环境配置，适合大规模部署；Modal提供按需付费的GPU服务，适合试验和部署；而AnyScale则以低门槛和低成本访问开源模型。每种方法都有其优缺点，选择取决于具体需求和资源。
-
发表了文章 2024-04-21
使用ORPO微调Llama 3
ORPO是一种结合监督微调和偏好对齐的新型微调技术，旨在减少训练大型语言模型所需资源和时间。通过在一个综合训练过程中结合这两种方法，ORPO优化了语言模型的目标，强化了对首选响应的奖励，弱化对不期望回答的惩罚。实验证明ORPO在不同模型和基准上优于其他对齐方法。本文使用Llama 3 8b模型测试ORPO，结果显示即使只微调1000条数据一个epoch，性能也有所提升，证实了ORPO的有效性。完整代码和更多细节可在相关链接中找到。
-
发表了文章 2024-04-23
Barnes-Hut t-SNE:大规模数据的高效降维算法
Barnes-Hut t-SNE是一种针对大规模数据集的高效降维算法，它是t-SNE的变体，用于高维数据可视化。t-SNE通过保持概率分布相似性将数据从高维降至2D或3D。Barnes-Hut算法采用天体物理中的方法，将时间复杂度从O(N²)降低到O(NlogN)，通过构建空间索引树和近似远距离交互来加速计算。在scikit-learn中可用，代码示例展示了如何使用该算法进行聚类可视化，成功分离出不同簇并获得高轮廓分数，证明其在大數據集上的有效性。
-
发表了文章 2024-04-14
Moirai：Salesforce的时间序列预测基础模型
过去几个月，时间序列基础模型发展迅速，包括TimeGPT、Lag-Llama、Google的TimesFM、Amazon的Chronos和Salesforce的Moirai。本文聚焦于Moirai，这是一个用于时间序列预测的通用模型，尤其强调零样本推理能力。Moirai处理各种数据频率、适应未知协变量并生成概率预测。文章介绍了Moirai的三个关键特性：多尺寸补丁投影层、任意变量注意力和混合分布。此外，还对比了Moirai与Chronos和TimeGPT，发现Moirai在性能上未超越Chronos，后者在数据效率上更优，但不支持多变量预测。
-
发表了文章 2024-04-17
PyTorch小技巧：使用Hook可视化网络层激活（各层输出）
这篇文章将演示如何可视化PyTorch激活层。可视化激活，即模型内各层的输出，对于理解深度神经网络如何处理视觉信息至关重要，这有助于诊断模型行为并激发改进。
-
发表了文章 2024-04-10
推测解码：在不降低准确性的情况下将LLM推理速度提高2 - 3倍
在本篇文章我们将详细讨论推测解码，这是一种可以将LLM推理速度提高约2 - 3倍而不降低任何准确性的方法。我们还将会介绍推测解码代码实现，并看看它与原始transformer 实现相比到底能快多少。
-
发表了文章 2024-04-03
大模型中常用的注意力机制GQA详解以及Pytorch代码实现
GQA是一种结合MQA和MHA优点的注意力机制，旨在保持MQA的速度并提供MHA的精度。它将查询头分成组，每组共享键和值。通过Pytorch和einops库，可以简洁实现这一概念。GQA在保持高效性的同时接近MHA的性能，是高负载系统优化的有力工具。相关论文和非官方Pytorch实现可进一步探究。
-
发表了文章 2024-04-01
大语言模型中常用的旋转位置编码RoPE详解：为什么它比绝对或相对位置编码更好?
Transformer的基石自2017年后历经变革，2022年RoPE引领NLP新方向，现已被顶级模型如Llama、Llama2等采纳。RoPE融合绝对与相对位置编码优点，解决传统方法的序列长度限制和相对位置表示问题。它通过旋转矩阵对词向量应用角度与位置成正比的旋转，保持向量稳定，保留相对位置信息，适用于长序列处理，提升了模型效率和性能。RoPE的引入开启了Transformer的新篇章，推动了NLP的进展。[[1](https://avoid.overfit.cn/post/9e0d8e7687a94d1ead9aeea65bb2a129)]
-
发表了文章 2024-03-31
SiMBA：基于Mamba的跨图像和多元时间序列的预测模型
微软研究者提出了SiMBA，一种融合Mamba与EinFFT的新架构，用于高效处理图像和时间序列。SiMBA解决了Mamba在大型网络中的不稳定性，结合了卷积、Transformer、频谱方法和状态空间模型的优点。在ImageNet 1K上表现优越，达到84.0%的Top-1准确率，并在多变量长期预测中超越SOTA，降低了MSE和MAE。代码开源，适用于复杂任务的高性能建模。[[论文链接]](https//avoid.overfit.cn/post/c21aa5ca480b47198ee3daefdc7254bb)
-
发表了文章 2024-03-29
使用MergeKit创建自己的专家混合模型：将多个模型组合成单个MoE
MoE架构通过MergeKit实现新突破，允许整合预训练模型创建frankenMoEs，如FrankenMoE，区别于头开始训练的MoEs。MergeKit工具支持选择专家模型，定义正负提示，并生成MoE配置。
-
发表了文章 2024-04-07
归一化技术比较研究：Batch Norm, Layer Norm, Group Norm
本文将使用合成数据集对三种归一化技术进行比较，并在每种配置下分别训练模型。记录训练损失，并比较模型的性能。
-
发表了文章 2024-03-28
如何开始定制你自己的大型语言模型
2023年，大型语言模型发展迅速，规模更大，性能更强。用户能否定制自己的模型取决于硬件资源。需在功能和成本间找到平衡，可以选择高性能（如40B+参数，适合专业用途，需强大GPU，成本高）或低性能（如7B参数，适合学习和简单应用，GPU成本较低）模型。训练模型可借助HuggingFace的Transformers库，定义数据集并进行训练。训练好的模型可使用Ollama和Open Web UI部署。具备适当GPU是入门基础。
-
发表了文章
2024-11-24
IoU已经out了，试试这几个变体:GIoU、DIoU和CIoU介绍与对比分析
-
发表了文章
2024-11-23
图神经网络在欺诈检测与蛋白质功能预测中的应用概述
-
发表了文章
2024-11-22
优化注意力层提升 Transformer 模型效率：通过改进注意力机制降低机器学习成本
-
发表了文章
2024-11-21
LLM2CLIP：使用大语言模型提升CLIP的文本处理，提高长文本理解和跨语言能力
-
发表了文章
2024-11-20
解读双编码器和交叉编码器：信息检索中的向量表示与语义匹配
-
发表了文章
2024-11-19
使用Pytorch构建视觉语言模型（VLM）
-
发表了文章
2024-11-18
使用 PyTorch-BigGraph 构建和部署大规模图嵌入的完整教程
-
发表了文章
2024-11-17
25 个值得关注的检索增强生成 (RAG) 模型和框架
-
发表了文章
2024-11-16
利用PyTorch的三元组损失Hard Triplet Loss进行嵌入模型微调
-
发表了文章
2024-11-15
告别Print，使用IceCream进行高效的Python调试
-
发表了文章
2024-11-14
为什么卷积现在不火了：CNN研究热度降温的深层原因分析
-
发表了文章
2024-11-13
SMoA: 基于稀疏混合架构的大语言模型协同优化框架
-
发表了文章
2024-11-12
TSMamba：基于Mamba架构的高效时间序列预测基础模型
-
发表了文章
2024-11-11
基于MCMC的贝叶斯营销组合模型评估方法论： 系统化诊断、校准及选择的理论框架
-
发表了文章
2024-11-10
深度学习工程实践：PyTorch Lightning与Ignite框架的技术特性对比分析
-
发表了文章
2024-11-09
通过pin_memory 优化 PyTorch 数据加载和传输:工作原理、使用场景与性能分析
-
发表了文章
2024-11-08
贝叶斯统计中常见先验分布选择方法总结
-
发表了文章
2024-11-07
Tokenformer：基于参数标记化的高效可扩展Transformer架构
-
发表了文章
2024-11-06
基于LLM Graph Transformer的知识图谱构建技术研究：LangChain框架下转换机制实践
-
发表了文章
2024-11-05
基于Liquid State Machine的时间序列预测:利用储备池计算实现高效建模
