-
教程|NumPy常用操作
此外，根据矩阵乘法的定义，左乘和右乘也不一样，这一点我们需要注意。若 A=（2，3），而 B=（3，2），那么 A 左乘 B 就要求 A 的列数 3 等于 B 的函数 3。下面展示了 NumPy 矩阵乘法： 以上定义了两个矩阵，下面则...文章 2019-09-02 798浏览量 -
机器学习中的线性代数：关于常用操作的新手指南
以下图为例(取自 Khan学院的线性代数课程)，矩阵 C中的每个元素都是矩阵 A 中的行与矩阵B中的列的点积。参考 操作 a1·b1 意味着我们对矩阵A的第一行(1,7)和矩阵B 的第一列(3,5)做点积运算. 也可以换一种角度来看:...文章 2017-05-17 1649浏览量 -
Matlab中bsxfun和unique函数解析
从MATLAB R2007a开始，再遇到类似的问题时，我们有了简洁高效的方法，即利用bsxfun函数。2.2 unique 格式 b=unique(a)%取集合a的不重复元素构成的向量。b=unique(A,'rows')%返回A、B不同行元素组成的矩阵。我发现b中...文章 2015-04-15 1072浏览量 -
8种用Python实现线性回归的方法，究竟哪个方法最高效...
了解了这8种方法，就能够根据不同需求，灵活选取最为高效的方法实现线性回归。“宝刀不老”的线性回归 时至今日，深度学习早已成为数据科学的新宠。即便往前推10年，SVM、boosting等算法也能在准确率上完爆线性回归...文章 2018-01-08 6319浏览量 -
实时深度学习的推理加速和持续训练
降低推理延迟和 DRAM 占用空间的一种有潜力的方法是模型压缩。压缩的模型能够简单的适配到片上 SRAM 缓存上&xff0c;而不是 DRAM 存储上&xff0c;这样就能在移动平台或无人驾驶汽车上装备复杂的 DNN 应用。在这些应用...文章 2021-11-28 125浏览量 -
一种通过交替量化对深度学习模型压缩以及加速推理的...
对了验证AQN的inference的计算性能，我们和Intel的科学计算库MKL对比了一下矩阵乘法的latency。统计了在基于Intel的broadwell架构的CPU上，采用单线程计算了在不同场景下的latency 上面是对M比较小的时候的结果，...文章 2018-03-20 5463浏览量 -
端上智能——深度学习模型压缩与加速
这里引入了一种解决分布式优化和约束优化的常用方法ADMM（Alternating Direction Method of Multipliers），来求解以上离散非凸约束优化问题，其形式如下： ADMM用于解决当目标函数为f(x)+g(z)，其中限制条件是Ax+Bz...文章 2018-03-30 5300浏览量 -
Sparse Matrix Multiplication 稀疏矩阵相乘
再来看另一种方法，这种方法其实核心思想跟上面那种方法相同，稍有不同的是我们用一个二维矩阵矩阵来记录每一行中，各个位置中不为0的列数和其对应的值，然后我们遍历这个二维矩阵，取出每行中不为零的列数和值，...文章 2017-12-15 3189浏览量 -
玩数据必备Python库：Numpy使用详解
矩阵真正的乘法必须满足第一个矩阵的列数等于第二个矩阵的行数，矩阵乘法的函数为dot。示例代码如下： import numpy as np mymatrix=np.array([[1,2,3],[4,5,6]]) a=np.array([[1,2],[3,4],[5,6]]) print(mymatrix....文章 2019-09-20 4017浏览量 -
收藏的博客-深度学习AI框架与数学基础
矩阵乘法【点乘、叉乘、卷积(卷积神经网络中主要适用该矩阵运算进行处理)】矩阵转置特殊矩阵【对角矩阵、对称矩阵、正交矩阵、正定矩阵】矩阵求导【一阶导数、二阶导数】矩阵分解【特征值分解、奇异值分解(旋转、...文章 2021-11-15 62浏览量 -
一些简单的编程练习题
它提供了一种简单的描述图形的方法&xff0c;并且可以为人类和计算机程序所理解。xff09;5.写程序自动的给你生成文章&xff1a;xff08;1&xff09;使用一个样例文本sample创建有向&xff08;多&xff09;图&xff0c;其中文本单词作为...文章 2021-11-11 34浏览量 -
走过19年，每年千万下载量，科学计算开源库SciPy的...
其中最重要的一种是压缩行/压缩列的稀疏格式&xff0c;它们分别为 CSR 与 CSC。这两种方法都提供了快速的主轴索引与快速的矩阵-向量乘法&xff0c;这两种稀疏格式在 SciPy 及依赖的库中得到了广泛的应用。从新特性的角度来...文章 2021-12-03 20浏览量 -
机器学习-线性代数基础
数学是计算机技术的基础，线性代数是机器学习和深度学习的基础，了解数据知识最好的方法我觉得是理解概念，数学不只是上学时用来考试的，也是工作中必不可少的基础知识，实际上有很多有趣的数学门类在学校里学不到，...文章 2017-07-27 2493浏览量 -
【论文翻译】GCN-Semi-Supervised Classification ...
一、Introduction基于图的半监督学习&xff1a;给定的图结构的数据中&xff0c;只有少部分节点是有标记&xff08;...使用稀疏-密集矩阵乘法在GPU上高效实现了下式&xff1a;上式的时间复杂度为O(∣ E ∣ C H F)O...文章 2022-04-22 23浏览量 -
矩阵计算与AI革命：可将计算性能提高150倍的异构计算
Wikibon©2020图2的下半部分显示了解决问题的另一种方式&xff0c;更接近人工的操作方式。数据&xff08;通常来自越来越多的传感器或数据流&xff09;是实时处理的。一般情况下&xff0c;应用是一个分布式推理AI模块&xff0c;异构...文章 2021-12-17 45浏览量 -
【好书推荐】推荐一份从入门到进阶的机器学习书单
你将能够：在编写代码之前，运用测试驱动的方法来编写和运行测试学习八种机器学习算法的最佳用法，并进行权衡通过动手实践真实示例，对每种算法进行测试理解测试驱动开发和对解进行验证的科学方法之间的相似性获悉...文章 2021-03-27 87浏览量 -
音视频技术开发周刊 56期
本文介绍了比较常见的4种卷积神经网络压缩和加速方法，其中网络裁枝与低秩估计的方法从矩阵乘法角度，着眼于减少标量乘法和加法个数来实现模型压缩和加速的；而模型量化则是着眼于参数本身，直接减少每个参数的存储...文章 2018-07-05 1638浏览量 -
深度学习框架太抽象？其实不外乎这五大核心组件
后来随着技术的不断演进，加上脚本语言和低级语言各自不同的特点（概括地说，脚本语言建模方便但执行缓慢，低级语言则正好相反），因此业界逐渐形成了这样的一种开发框架：前端用Python等脚本语言建模，后端用C++等...文章 2017-08-01 973浏览量 -
算法与算法分析
算法与算法分析算法是，对特定问题求解方法和步骤的一种描述，它是有限指令的有限序列，其中每个指令表示一个或多个操作。算法与程序的比较算法是解决问题的一种方法或一个过程，考虑如何将输入转换成输出，一个问题...文章 2022-01-21 19浏览量 -
带你读《深度学习与图像识别：原理与实践》之二：图像...
相对于Tensorflow，PyTorch的一大优点是，它的图是动态的，而Tensorflow等都是静态图，不利于扩展。同时，PyTorch非常简洁，方便使用。本书将选取PyTorch作为图像识别的主要实现框架。总结：如果说TensorFlow的设计...文章 2019-11-14 1345浏览量 -
算法与算法分析
算法与算法分析算法是，对特定问题求解方法和步骤的一种描述，它是有限指令的有限序列，其中每个指令表示一个或多个操作。算法与程序的比较算法是解决问题的一种方法或一个过程，考虑如何将输入转换成输出，一个问题...文章 2022-05-13 7浏览量 -
广告深度学习计算：召回算法和工程协同优化的若干经验...
节省空间的同时还能实现高效的子节点的查找。将一棵树的节点按层序遍历编号&xff0c;然后从0号节点开始&xff0c;在一个数组中依次记录下每个节点的子节点编号中最小的那个&xff0c;直到叶子节点为止&xff0c;最后再在数组...文章 2022-05-01 7浏览量 -
Giacomo Indiveri：低功耗人工智能计算系统中的类脑...
但实际上目前它更像是一种探索性的方法。人们在探索这种使用数字电路来模拟脉冲神经网络的方法可以用来做什么。最后&xff0c;还有一个使用神经拟态这个词的是开发新型存储技术的群体&xff0c;致力于研究能够实现长期非易...文章 2021-12-06 31浏览量 -
【算法编程】小学数学题难倒博士
由文中提到的两种matlab实现可知，第一种方法占用内存小，可以在普通的电脑上运行，但是耗时长；而我们改进的算法，耗时短，但是占用内存大，在内存小的机器上无法运行。这就是所谓的时间换空间，空间换时间吧！原文...文章 2015-05-27 1123浏览量 -
详解AI加速器（三）：架构基础离不开ISA、可重构处理...
NJIT脉动结构是执行矩阵乘法的有效方式&xff08;DNN 工作负载具有丰富的矩阵乘法&xff09;谷歌的 TPU 是第一个使用 AI 的脉动阵列。因此&xff0c;在这之后&xff0c;其他公司也加入了脉动阵列行列&xff0c;在自家加速硬件中集成...文章 2022-02-18 85浏览量 -
视觉Transformer综述（下）
values的点积被引入作为指导学生的一种新的知识形式。在[127]中也引入了一个助教[86]&xff0c;它可以减小大型预训练的Transformer模型与紧凑的学生网络之间的差距&xff0c;从而使模仿变得更加容易。考虑到Transformer...文章 2022-04-23 31浏览量 -
带你读《TensorFlow机器学习实战指南...书第2版）》之一...
下面是初始化计算图的一种方式： 也可以用如下的方式初始化计算图： 9.评估机器学习模型：一旦构建计算图，并训练机器学习模型后，需要寻找某种标准来评估机器学习模型对新样本数据集的效果。通过对训练样本集和测试...文章 2019-11-17 698浏览量 -
低配硬件就不能运行深度神经网络了？...
Python），限于文章篇幅，不阐述另外一种加速神经网络推理的方法，即修改网络架构，从SqeezeNet架构可看出，修改网络架构是一个可行的方案。基于上述原因，本文涉及的实验只涉及使用Caffe，TensorFlow和MXNet这3个...文章 2017-08-01 2452浏览量 -
带你读《Python机器学习》之二：Python与数据科学
1.简介Jupyter Notebook（此前被称为IPython Notebook）是一个交互式笔记本，支持运行 40 多种编程语言，它是 Donald Knuth在1984年提出的文字表达化编程的一种形式。在文字表达化编程中，可以直接在代码旁写出叙述...文章 2019-11-16 951浏览量 -
详解AI加速器（一）：2012年的AlexNet到底做对了什么...
简单地改变做矩阵乘法的方式可能帮你收获巨大的性能提升&xff08;或损失&xff09;性能欠佳可能会影响你的生产力以及你可以处理的数据量&xff0c;并最终扼杀你的 AI 周期。对于一家大规模开展人工智能业务的企业来说&xff0c;...文章 2022-01-14 31浏览量
