算法码上来_社区达人页

2023年05月

• 05.30 11:09:27
  发表了文章 2023-05-30 11:09:27

  每日算法系列【LeetCode 1031】两个非重叠子数组的最大和

  每日算法系列【LeetCode 1031】两个非重叠子数组的最大和
• 05.30 11:07:11
  发表了文章 2023-05-30 11:07:11

  5W2H | 关于写博客的七点反思

  5W2H | 关于写博客的七点反思
• 05.30 11:06:33
  发表了文章 2023-05-30 11:06:33

  每日算法系列【LeetCode 330】按要求补齐数组

  每日算法系列【LeetCode 330】按要求补齐数组
• 05.30 11:05:06
  发表了文章 2023-05-30 11:05:06

  每日算法系列【LeetCode 124】二叉树中的最大路径和

  每日算法系列【LeetCode 124】二叉树中的最大路径和
• 05.30 11:03:33
  发表了文章 2023-05-30 11:03:33

  每日算法系列【LeetCode 357】计算各个位数不同的数字个数

  每日算法系列【LeetCode 357】计算各个位数不同的数字个数
• 05.30 11:01:50
  发表了文章 2023-05-30 11:01:50

  每日算法系列【LeetCode 992】K个不同整数的子数组

  每日算法系列【LeetCode 992】K个不同整数的子数组
• 05.30 10:59:52
  发表了文章 2023-05-30 10:59:52

  每日算法系列【LeetCode 1250】检查「好数组」

  每日算法系列【LeetCode 1250】检查「好数组」
• 05.30 10:58:10
  发表了文章 2023-05-30 10:58:10

  每日算法系列【LeetCode 1004】最大连续1的个数 III

  每日算法系列【LeetCode 1004】最大连续1的个数 III
• 05.30 10:56:55
  发表了文章 2023-05-30 10:56:55

  每日算法系列【LeetCode 1053】交换一次的先前排列

  每日算法系列【LeetCode 1053】交换一次的先前排列
• 05.30 10:55:21
  发表了文章 2023-05-30 10:55:21

  论文赏析【EMNLP19】语言模型效果不好？也许你可以给它添加一点句法信息

  论文赏析【EMNLP19】语言模型效果不好？也许你可以给它添加一点句法信息
• 05.30 10:54:06
  发表了文章 2023-05-30 10:54:06

  每日一题[LeetCode 315]计算右侧小于当前元素的个数

  发现leetcode的困难难度做起来还是需要点时间的（还是我太菜了），而且可能大多数人也不能接受，所以明天开始穿插做中等难度题目。
• 05.30 10:52:20
  发表了文章 2023-05-30 10:52:20

  每日一题[LeetCode 689]三个无重叠子数组的最大和

  闲来无事，为了保证日更，从今天开始每天更新一道LeetCode题解。 做题顺序是这样的：随机选择一题“困难”类型的题目。 因本人ACM退役颇久，代码多有疏漏，望多多见谅。

2022年06月

• 06.26 08:11:42
  发表了文章 2022-06-26 08:11:42

  论文赏析[EMNLP19]如何在Transformer中融入句法树信息？这里给出了一种解决方案（二）

  之前其实有很多工作将句法信息融入到了RNN中，例如ON-LSTM和PRPN，用来隐式建模句法结构信息，同时提升语言模型的准确率。本文尝试将句法信息融入到Transformer中，用来赋予attention更好的解释性。同时可以无监督的预测出句子的句法树，并且相比于一般的Transformer，语言模型的性能有所提高。

  
• 06.26 08:10:09
  发表了文章 2022-06-26 08:10:09

  论文赏析[EMNLP19]如何在Transformer中融入句法树信息？这里给出了一种解决方案（一）

  之前其实有很多工作将句法信息融入到了RNN中，例如ON-LSTM和PRPN，用来隐式建模句法结构信息，同时提升语言模型的准确率。本文尝试将句法信息融入到Transformer中，用来赋予attention更好的解释性。同时可以无监督的预测出句子的句法树，并且相比于一般的Transformer，语言模型的性能有所提高。

  
• 06.26 08:00:44
  发表了文章 2022-06-26 08:00:44

  每日一题[LeetCode 689]三个无重叠子数组的最大和

  三个无重叠子数组的最大和

  
• 06.26 07:46:40
  发表了文章 2022-06-26 07:46:40

  手推公式之“层归一化”梯度

  昨天推导了一下交叉熵的反向传播梯度，今天再来推导一下层归一化（LayerNorm），这是一种常见的归一化方法

  
• 06.26 07:43:38
  发表了文章 2022-06-26 07:43:38

  “交叉熵”反向传播推导

  交叉熵（CrossEntropy）是常见的损失函数，本文详细推导一下它的梯度，面试大厂或者工程实践中都可能会用到。

  
• 06.26 07:35:42
  发表了文章 2022-06-26 07:35:42

  【白话模型量化系列一】矩阵乘法量化

  矩阵乘法量化

  
• 06.26 07:29:45
  发表了文章 2022-06-26 07:29:45

  最全攻略：利用LightSeq加速你的深度学习模型

  利用LightSeq加速你的深度学习模型
• 06.26 07:27:06
  发表了文章 2022-06-26 07:27:06

  超简单：mac导出微信聊天记录（附上粉丝群全部聊天记录）

  今天再给大家讲解一下如何直导出mac版本微信的聊天记录，当然如果你没有mac，那可以直接关闭这篇文章了。

  
• 06.26 07:22:33
  发表了文章 2022-06-26 07:22:33

  cuBLAS矩阵乘法性能分析（附代码示例）

  矩阵乘法是神经网络中最基础、最重要的一个运算。在用CUDA实现矩阵乘法时，不需要我们手动写，cuBLAS库提供了现成的矩阵乘法算子，例如cublasGemmEx和cublasLtMatmul。其中后者是轻量级版本，API调用更灵活。例如对于整数乘法，cublasLtMatmul支持int8的输入输出，而cublasGemmEx只支持int8输入，int32输出

  
• 06.25 22:43:26
  发表了文章 2022-06-25 22:43:26

  如何花式计算20的阶乘？

  如何花式计算20的阶乘？

  
• 06.25 22:39:57
  发表了文章 2022-06-25 22:39:57

  我写了14篇文章，总结了《具体数学》常用知识点

  我写了14篇文章，总结了《具体数学》常用知识点
• 06.25 22:37:13
  发表了文章 2022-06-25 22:37:13

  养成女友？我训练出了一个“杨超越”聊天机器人

  在上一期教程中，我演示了如何从零开始训练一个比较智障的聊天机器人。 从零开始训练一个人工智障女友 但是当时数据量太少，模型简单，完全没法用，只能回复训练集中出现过的句子。 而现在，完全体的聊天机器人终于诞生了，我把它命名为“杨超越”。这次可以随你提问什么了，她都能对答如流！
• 06.25 22:34:33
  发表了文章 2022-06-25 22:34:33

  从零开始训练一个人工智障女友

  很多人工智能小白可能不知道那些高大上的语音助理、机器翻译或者聊天机器人都是怎么被创造出来的，也不知道一个深度学习模型是怎么从零开始搭建并运行起来的。 今天我就简单教大家如何从零开始搭建一个Transformer模型，并在自己的数据上训练起来。这个教程非常基础，所以训练出来的模型也很傻瓜，适合零基础小白长知识用。
• 06.25 22:32:01
  发表了文章 2022-06-25 22:32:01

  训练BERT，我只花了一半的时间

  相信很多人都知道Hugging Face，也都用过它的Transformers预训练语言模型，但你们有没有觉得它训练的有点太慢了呢？ 这时候，字节第二快的男人要站出来了（第一快是我mentor），手把手教你怎么让训练时间缩短一半。
• 06.25 22:29:16
  发表了文章 2022-06-25 22:29:16

  恕我直言，你们的模型训练都还不够快

  「任意」PyTorch模型中，都可以用上面的参数连续化技术大大加快训练速度。

  
• 06.25 22:25:47
  发表了文章 2022-06-25 22:25:47

  只用几行代码，我让模型『训练』加速了3倍以上！

  只用几行代码，我让模型『训练』加速了3倍以上！

  
• 06.25 22:21:37
  发表了文章 2022-06-25 22:21:37

  只用两行代码，我让Transformer推理加速了50倍

  只用两行代码，我让Transformer推理加速了50倍

  
• 06.25 22:18:55
  发表了文章 2022-06-25 22:18:55

  熬了几个通宵，我写了份CUDA新手入门代码

  熬了几个通宵，我写了份CUDA新手入门代码
• 06.25 22:17:05
  发表了文章 2022-06-25 22:17:05

  三分钟教你如何PyTorch自定义反向传播

  三分钟教你如何PyTorch自定义反向传播
• 06.25 22:15:21
  发表了文章 2022-06-25 22:15:21

  详解PyTorch编译并调用自定义CUDA算子的三种方式

  在上一篇教程中，我们实现了一个自定义的CUDA算子add2，用来实现两个Tensor的相加。然后用PyTorch调用这个算子，分析对比了一下和PyTorch原生加法的速度差异，并且详细解释了线程同步给统计时间带来的影响。
• 06.25 22:13:17
  发表了文章 2022-06-25 22:13:17

  PyTorch自定义CUDA算子教程与运行时间分析（二）

  最近因为工作需要，学习了一波CUDA。这里简单记录一下PyTorch自定义CUDA算子的方法，写了一个非常简单的example，再介绍一下正确的PyTorch中CUDA运行时间分析方法。

  
• 06.25 22:10:04
  发表了文章 2022-06-25 22:10:04

  PyTorch自定义CUDA算子教程与运行时间分析（一）

  最近因为工作需要，学习了一波CUDA。这里简单记录一下PyTorch自定义CUDA算子的方法，写了一个非常简单的example，再介绍一下正确的PyTorch中CUDA运行时间分析方法。
• 06.25 22:06:40
  发表了文章 2022-06-25 22:06:40

  教你如何用代码自动群发邮件（邮件轰炸机）

  教你如何用代码自动群发邮件（邮件轰炸机）

  
• 06.25 22:04:01
  发表了文章 2022-06-25 22:04:01

  推荐几个不错的CUDA入门教程（非广告）

  最近因为项目需要，入坑了CUDA，又要开始写很久没碰的C++了。对于CUDA编程以及它所需要的GPU、计算机组成、操作系统等基础知识，我基本上都忘光了，因此也翻了不少教程。这里简单整理一下，给同样有入门需求的同学们参考一下

  
• 06.25 22:02:03
  发表了文章 2022-06-25 22:02:03

  Python常用画图代码（折线图、柱状图、饼图）

  Python常用画图代码（折线图、柱状图、饼图）

  
• 06.25 21:57:52
  发表了文章 2022-06-25 21:57:52

  如何自动搜出更好、更小、更快的NLP模型？（二）

  最近读了不少神经架构搜索（NAS）的论文，把NAS的整体脉络大致摸清了。 但是也发现了NAS目前还是用在CV领域居多，NLP领域和移动端优化寥寥无几。因此这里分享几篇NLP或者移动端上的NAS论文。

  
• 06.25 21:55:53
  发表了文章 2022-06-25 21:55:53

  如何自动搜出更好、更小、更快的NLP模型？（一）

  最近读了不少神经架构搜索（NAS）的论文，把NAS的整体脉络大致摸清了。 但是也发现了NAS目前还是用在CV领域居多，NLP领域和移动端优化寥寥无几。因此这里分享几篇NLP或者移动端上的NAS论文。

  
• 06.25 21:49:54
  发表了文章 2022-06-25 21:49:54

  一文看懂AutoML（三）

  首先这篇综述是讲AutoML的，不单单是NAS，但是因为NAS是AutoML中最最重要的一部分，所以主要篇章还是用来讲NAS了。据作者所说，应该是第一篇完整讲述AutoML整个流程的综述。

  
• 06.25 21:45:03
  发表了文章 2022-06-25 21:45:03

  一文看懂AutoML（二）

  首先这篇综述是讲AutoML的，不单单是NAS，但是因为NAS是AutoML中最最重要的一部分，所以主要篇章还是用来讲NAS了。据作者所说，应该是第一篇完整讲述AutoML整个流程的综述。

  
• 06.25 21:41:15
  发表了文章 2022-06-25 21:41:15

  一文看懂AutoML（一）

  首先这篇综述是讲AutoML的，不单单是NAS，但是因为NAS是AutoML中最最重要的一部分，所以主要篇章还是用来讲NAS了。据作者所说，应该是第一篇完整讲述AutoML整个流程的综述。

  
• 06.25 21:32:19
  发表了文章 2022-06-25 21:32:19

  一文速览EMNLP 2020中的Transformer量化论文

  一文速览EMNLP 2020中的Transformer量化论文

  
• 06.25 21:26:19
  发表了文章 2022-06-25 21:26:19

  【LeetCode 327】区间和的个数

  【LeetCode 327】区间和的个数

  
• 06.25 21:23:17
  发表了文章 2022-06-25 21:23:17

  【ACL2020】一种新颖的成分句法树序列化方法（二）

  不知不觉在字节跳动实习也快四个月了，在这高强度快节奏的工作生活中，也是收获颇多。然而博客也很久很久没更新过了，论文阅读了那么多，却一直没空写写自己中的这篇。今天趁周末分享一下自己发在今年ACL上的这篇工作，主要贡献就是提出了一种新颖的成分句法树的序列表示方法。建议配合我的PPT阅读，里面有很多例子

  
• 06.25 21:20:47
  发表了文章 2022-06-25 21:20:47

  【ACL2020】一种新颖的成分句法树序列化方法（一）

  不知不觉在字节跳动实习也快四个月了，在这高强度快节奏的工作生活中，也是收获颇多。然而博客也很久很久没更新过了，论文阅读了那么多，却一直没空写写自己中的这篇。今天趁周末分享一下自己发在今年ACL上的这篇工作，主要贡献就是提出了一种新颖的成分句法树的序列表示方法。建议配合我的PPT阅读，里面有很多例子。

  
• 06.25 21:13:22
  发表了文章 2022-06-25 21:13:22

  【分类汇总】110 天以来的题解分类汇总

  110 天以来的题解分类汇总

  
• 06.25 21:10:53
  发表了文章 2022-06-25 21:10:53

  【每日算法Day 109】五大解法，带你深入了解完全背包方案数

  给定数量不限的硬币，币值为 25 分、10 分、5 分和 1 分，编写代码计算 n 分有几种表示法。(结果可能会很大，你需要将结果模上 1000000007)

  
• 06.25 21:04:08
  发表了文章 2022-06-25 21:04:08

  【每日算法Day 108】一道简单的二叉树题目，写法还是挺多的。

  给定一棵二叉树，想象自己站在它的右侧，按照从顶部到底部的顺序，返回从右侧所能看到的节点值。