-
显存不够，框架来凑：两行代码显存翻倍，2080Ti也能当...
看看 MegEngine 是如何利用动态图的计算历史恢复与释放张量的。现在假设输入有 a 和 b 两个张量&xff0c;并希望计算 a*b 与 a&43;b&xff0c;但是显存最大只能保存三个张量。在黄框计算 c&61;a&43;b 时&xff0c;显存还能...文章 2021-12-05 73浏览量 -
实战 PK！RTX2080Ti 对比 GTX1080Ti 的 CIFAR100 混合...
这也意味着，只要使用与过去相比只有一半大小的张量，我们却能通过增加批尺寸（batch_size）来处理更多案例；此外，相比使用 FP32（也被称为 Full Precision Training）进行训练，FP16 可以有效降低 GPU RAM 的使用...文章 2019-01-30 984浏览量 -
TensorFlow教程之进阶指南 3.5 读取数据
可配置的预处理器 样本队列 文件名,乱序(shuffling),和最大训练迭代数(epoch limits) 可以使用字符串张量(比如["file0","file1"],[("file%d"%i)for i in range(2)]，[("file%d"%i)for i in range(2)])或者tf.train....文章 2017-08-01 2456浏览量 -
含光800NPU开发指南（二）【芯片与软件栈系列之-含光...
从原始网络模型的角度看，引擎所代表的是一个网络模型和或者是其中的一段子网络模型，这段网络模型是被HanGuangAI编译器分割出来的，计划被HanGuangAI执行的部分。从编译后网络模型的角度看，引擎是其中的一个节点，...文章 2019-11-05 1550浏览量 -
想要千行代码搞定Transformer？这份高效的...
原版 Transformer 也采用了编码器-解码器框架&xff0c;但它们会使用多个 Multi-Head 注意力、前馈网络、层级归一化和残差连接等。下图从左到右展示了原论文所提出的 Transformer 架构、Multi-Head 注意力和标量点乘...文章 2021-11-30 37浏览量 -
深度学习芯片大战愈演愈烈，英特尔为何斥巨资收购创业...
但事实上这是一款基于张量的经过了极大简化的专用处理器&xff0c;因此不具备其它处理器的很多功能。因为其中没有浮点单元&xff0c;不能在 FLOPS&xff08;每秒浮点运算次数&xff09;上谈论其相对于 GPU 和 CPU 的表现如何&xff...文章 2021-11-27 84浏览量 -
绕不开的模型部署？不怕，我们手把手教你学会！
让我们来看一看 ONNX 模型具体的结构是怎么样的。我们可以使用 Netron&xff08;开源的模型可视化工具&xff09;来可视化 ONNX 模型。把 srcnn.onnx 文件从本地的文件系统拖入网站&xff0c;即可看到如下的可视化结果&xff1a;...文章 2022-05-09 62浏览量 -
强化学习在生成对抗网络文本生成中扮演的角色（Role ...
于是，生成器无论怎么做基于Gradient 的优化，输出分布与真实分布的 始终是，生成器G的训练于是失去了意义。3.过渡方案：对于GAN的直接改进用于文本生成 为了解决GAN在面对离散数据时的困境，最直接的想法是对GAN...文章 2017-10-24 1548浏览量 -
独家揭秘：微博深度学习平台如何支撑4亿用户愉快吃瓜...
在线流程也是一一对应的，在线的样本数据经过特征处理，特征处理与离线使用同一套配置文件，以保证一致性与正确性。经过模型预测得到预估值，然后业务根据预估值，再去做一些相应的排序与处理，这是在线部分。K8s 在...文章 2020-12-31 1736浏览量 -
引入秘密武器强化学习，发掘GAN在NLP领域的潜力
于是，生成器无论怎么做基于Gradient 的优化，输出分布与真实分布的 JSD(p_{data} \Arrowvert p_g)始终是 \log{2}，生成器G的训练于是失去了意义。3、过渡方案：对于GAN的直接改进用于文本生成为了解决GAN在面对离散...文章 2017-10-09 2329浏览量 -
玩深度学习选哪块英伟达 GPU？有性价比排名还不够！
这篇文章将深入讨论这个问题，聊聊有无必要入手英特尔协处理器 Xeon Phi，并将各主流显卡的性能、性价比制成一目了然的对比图，供大家参考。先来谈谈选择 GPU 对研究深度学习的意义。更快的 GPU，能帮助新人更快地...文章 2017-08-02 2594浏览量 -
一次神经网络的探索之旅-基于Tensorflow的路标识别
这些操作对数据的张量上进行处理。让我们一步一步地解释构建图的代码，下面是全部的代码，你可以先浏览一下。with graph.as_default(): Placeholders for inputs and labels. images_ph=tf.placeholder(tf.float32,...文章 2016-12-25 13854浏览量 -
阿里开源首个DL框架，新型XDL帮你搞定大规模稀疏数据
在 XDL 开源前夕&xff0c;机器之心采访了其团队的四位主要负责人&xff1a;靖世&xff0c;研究员&xff0c;阿里妈妈定向广告技术团队负责人兼阿里妈妈算法平台负责人见独&xff0c;资深技术专家&xff0c;...并配置线程数...文章 2021-11-30 117浏览量 -
云栖专辑|阿里开发者们的20个感悟，一通百通
阿里李响：好的工程师为人写代码，而不仅是为编译器 12月20日，场景中学习，这是我们送给开发者的第1个感悟。阿里毕玄：程序员的成长路线 在这篇《程序员的成长路线》里，阿里基础设施负责人毕玄结合自己的经历跟...文章 2018-12-19 266329浏览量 -
Yann LeCun对于AI的最新见解|深度学习现存的各类疑问...
它接着也可以用作特征处理器。但是更有趣的是，生成者能看做是真实数据参数化的复杂曲面：给它一个向量Z，并将其映射到数据流行上的一点。这里有许多人们对此感到十分惊讶的论文，例如生成房间的图像，在Z向量空间上...文章 2017-08-01 1195浏览量
