• 《从问题到程序:用Python学编程和计算》——2.2 ...

    遇到合法的单词,或者构成形式合法的表达式,解释将报错,并能标明发现错误的位置。合法的表达式描述了一个计算过程。如果解释处理一个表达式的计算能顺利完成,就会求出该表达式的值。但是,满足语法的表达...
    文章 2017-05-02 1096浏览量
  • 《从问题到程序:用Python学编程和计算》——2.2 ...

    遇到合法的单词,或者构成形式合法的表达式,解释将报错,并能标明发现错误的位置。合法的表达式描述了一个计算过程。如果解释处理一个表达式的计算能顺利完成,就会求出该表达式的值。但是,满足语法的表达...
    文章 2017-07-03 1053浏览量
  • 《编写高质量代码:改善c程序代码的125个建议》——...

    这和硬件浮点数机制截然不同,硬件浮点数机制是由硬件负责向整数部分和小数部分分配可用的位数。有了这种机制,浮点数就可以表示很大范围的数——从极小的数(在0~1的实数)到极大的数(在小数点前有数十个0)。...
    文章 2017-05-02 1394浏览量
  • 《数字逻辑设计与计算机组成》一练习

    假设ΔFAc=0.2ns,ΔFAs=0.3ns且CLA(8)=0.8ns,问新的乘法器可以比原来的乘法器运行多快?3.19 用恢复除法算法运算用N=10101101除以D=1110。你可以使用计算器进行二进制运算来验证你的结果。3.20 首先通过设计一个1...
    文章 2017-09-04 1352浏览量
  • 《数字逻辑设计与计算机组成》一 1.4 计算机体系结构

    计算机组成处理的是计算机的各个部件的操作问题,而计算机体系结构处理的是计算机的算术运算模块(例如,加法器和乘法器)和指令系统的设计,也涉及计算机系统性能提升的相关问题,包括实现在每秒钟内执行更多指令、...
    文章 2017-09-04 975浏览量
  • 《高性能科学与工程计算》——1.2 ...微处理体系结构

    对dummy()的调用使得编译器认为,这些数组可能在外层循环之间变换,这有效地防止了优化,并且因为if语句条件总是非真(这个编译器不知道),所以调用dummy()的开销可以忽略不计。MFLOPS变量是指计算整个循环嵌套的...
    文章 2017-07-03 1265浏览量
  • 《高性能科学与工程计算》——1.6 向量处理

    以代码清单1-1为例,3次读取操作,1次存储操作和两个浮点操作(加法和乘法)。由于只有单一的LD/ST管道,读取和存储操作,甚至对不同数组的读取操作都能够重叠。但它们可以重叠算术管道并链接到算术管道。在图1-22...
    文章 2017-07-03 1766浏览量
  • PostgreSQL 10.1 手册_部分 II.SQL 语言_第 8 章 数据...

    实际上,这些类型是IEEE标准 754 二进制浮点算术(分别对应单精度和双精度)的一般实现,一直到下层处理、操作系统和编译对它的支持。准确意味着一些值能准确地转换成内部格式并且是以近似的形式存储的,...
    文章 2018-10-02 1024浏览量
  • 《OpenGL编程指南(原书第9版)》——2.3 OpenGL着色...

    如果name与启用的着色程序中的所有uniform变量都相符,或者name是一个内部保留的着色变量名称(例如,以gl_开头的变量),那么返回值为-1。name可以是单一的变量名称、数组中的一个元素(此时name主要包含方...
    文章 2017-09-04 1211浏览量
  • MNN-端侧推理引擎面临的挑战与应对

    输入转换和输出转换时用到的 A 和 B 矩阵需要根据 N 和 K 计算,我们在代码中内置了几种优化后的组合,所以实际计算时,这两个转换并需要经过复杂的矩阵乘法。这样,原来矩阵卷积所需要的 9x4 次乘法计算就可以用...
    文章 2019-07-23 1926浏览量
  • 基础野:细说浮点

    2.浮点数无法精确表示其数值范围内的所有数值,只能精确表示可用科学计数法m*2e表示的数值而已;(如0.5的科学计数法是2-1,则可被精确存储;而0.2则无法被精确存储) 3.浮点数不仅可表示有限的实数,还可以表示有限...
    文章 2016-04-21 1472浏览量
  • 开源背后|面对端侧推理引擎的挑战,阿里工程师如何...

    输入转换和输出转换时用到的 A 和 B 矩阵需要根据 N 和 K 计算,我们在代码中内置了几种优化后的组合,所以实际计算时,这两个转换并需要经过复杂的矩阵乘法。这样,原来矩阵卷积所需要的 9x4 次乘法计算就可以用...
    文章 2019-07-02 3917浏览量
  • TensorFlow教程之新手入门 1.3基本用法

    如果机器上有超过一个可用的 GPU,除第一个外的其它 GPU 默认是参与计算的.为了让 TensorFlow 使用这些 GPU,你必须将 op 明确指派给它们执行.with.Device 语句用来指派特定的 CPU 或 GPU 执行操作: with tf....
    文章 2017-08-22 3487浏览量
  • 编写高效的C程序与C代码优化

    pos,因为编译器不知道p->pos->x不是p->pos的别名。更好的办法是将p->pos缓存成一个局部变量,如下: void InitPos2(Object*p) { Point3*pos=p->pos;pos->x=0;pos->y=0;pos->z=0;} 另一个...
    文章 2016-04-21 1129浏览量
  • 《高性能科学与工程计算》——第3章 数据访存优化3.1...

    需要搞清楚的是,STREAM并是仅通过表3-2列出的循环内核定义的,还包含Fortran源代码(也有可用的C语言版本)。这一点非常重要,因为经过优化的编译会识别出STREAM源代码,从而使用手工优化的机器代码代替内核...
    文章 2017-07-03 1584浏览量
  • 基础野:细说浮点

    2.浮点数无法精确表示其数值范围内的所有数值,只能精确表示可用科学计数法m*2e表示的数值而已;(如0.5的科学计数法是2-1,则可被精确存储;而0.2则无法被精确存储) 3.浮点数不仅可表示有限的实数,还可以表示有限...
    文章 2017-01-06 885浏览量
  • 重学计算机组成原理(五)-"旋转跳跃"的指令实现

    如果没有像累加这样的寄存,那么在每次计算(加法,乘法,移位等等)后就必须要把结果写回到 内存,也许马上就得读回来。然而存取主存的速度是比从算术逻辑单元到有直接路径的累加存取更慢。第二个操作数0x0则是...
    文章 2019-08-15 718浏览量
  • 《信息物理融合系统(CPS)设计、建模与仿真——基于 ...

    比如,矩阵乘法与整数乘法的操作并相同,但是它们都可以使用Math库中的MultiplyDivide角色来完成。Ptolemy II包含了一个很复杂的类型系统,它允许角色有效而安全地处理不同的数据类型。该类型系统是由Xiong(2002...
    文章 2017-05-02 1239浏览量
  • SSRS 2012 表达式-介绍

    下方的中间列表,则会随着开发者在左下角所选的类别,列出这类别下可用的值;最后,在右下角的描述方框,则是解释开发者在下方中所选函数的意义。常用的SSRS运算函数 运算符/函数 说明 前后为数字则为加法,前后为...
    文章 2017-11-03 1199浏览量
  • tensorflow入门教程和底层机制简单解说——本质就是图...

    如果机器上有超过一个可用的 GPU,除第一个外的其它 GPU 默认是参与计算的.为了让 TensorFlow 使用这些 GPU,你必须将 op 明确指派给它们执行.with.Device 语句用来指派特定的 CPU 或 GPU 执行操作: with tf....
    文章 2017-11-16 1338浏览量
  • 低配硬件就能运行深度神经网络了?手把手教你克服...

    降低权重低精度通常采用(用定点数或动态定点数表示浮点数的方法,支持这种做法的原理是:推理过程并需要高精度,因为在运算过程中,计算的线性性质和非线性的动态范围压缩,使得量化误差仅在子线性地(sub-...
    文章 2017-08-01 2326浏览量
  • Web 高级着色语言(WHLSL)-为WebGPU设计的Web图形...

    但是,由于 GLSL 编译器不兼容,达到跨浏览器的互操作性极其困难。由于仍然存在长期的安全性和可移植性错误,GLSL 仍处于调研中。此外,GLSL 到年纪了。它的局限性在于它没有类似指针的对象,或者具有可变长度数组的...
    文章 2019-08-06 1413浏览量
  • 带你读《计算思维导论》之二:计算基础

    一个字由若干个字节组成,不同计算机系统的字长是不同的,早期的微机字长一般是8位和16位,386以及更高的处理大多是32位,目前的计算机处理大部分已达到64位。一次能并行处理字长为8位数据的CPU通常就叫8位CPU,...
    文章 2019-10-30 806浏览量
  • Python全栈工程师(Python3 所有基础内容都在这了 0-0...

    statements 语句print 输出quit()退出exit()   退出ctrl+d(输入文件结束符)结束输入并退出int 整型数float 浮点型数complex 复数bool 布尔True 真False 假str 字符串list 列表None 空值expression 表达式del 删除...
    文章 2018-07-29 1812浏览量
  • 同态加密入门

    在这篇文章中,我们将了解同态加密的基本概念,介绍常用的...node-seal的内核采用webassembly,可以运行在Node.js或现代浏览中,已经包含了zlib支持,需要进行本地编译。原文链接:同态加密应用开发入门—汇智网
    文章 2020-03-29 1005浏览量
  • 一年的打磨,MNN正式版发布!

    初始化内部特征提取,内部提取设成需要训练 mFix.reset(PipelineModule:extract({input},{lastVar},false));注意这里只注册了我们新初始化的4分类全连接层,那么训练时将只更新此4分类全连接层 registerModel({...
    文章 2020-05-15 1482浏览量
  • Javascript高级程序设计第二版前三章-基本数据等-笔记

    表示当浏览器不支持JavaScript时让页面平衡的退化 lt;noscript>lt;p>本页面需要浏览器支持(启用)JavaScript lt;noscript>第三章.基本概念 3.1 语法: 3.1.1标识符:就是指变量、函数、属性的名字,或者...
    文章 2017-11-07 828浏览量
  • 《C语言程序设计:问题与求解方法》——2.11节数据...

    3.占位符与变量类型的匹配问题初学者经常犯的编程错误是类型匹配,如将%d与浮点型数据匹配,将%f 与整型数据匹配。例如,有如下定义“int i;float x;则以下两条语句都是错误的:printf("%f",i);错!正确的是:printf...
    文章 2017-08-01 1055浏览量
  • 《数据结构与算法:Python语言描述》一1.4数据结构

    上述公式是统一的,只需做一次乘法和一次加法,所用时间与元素的下标无关,与组合对象中的元素个数也无关。考虑另一种情况,假设某类组合对象都包含同样的一组元素,元素连续存放在一块存储区里,但不同元素的大小...
    文章 2017-05-02 2678浏览量
  • 如何打造一个高性能的前端智能推理引擎

    用户数据有限,端侧数据适合长期存储,同时可用数据有限。同理,前端智能是指将机器学习的应用放到前端上(web、h5、小程序等).所以,什么是前端智能推理引擎呢?如下图:前端智能推理引擎实际上就是利用前端上算力...
    文章 2021-02-04 5754浏览量
1 2 >

云产品推荐

视频直播 大数据计算服务 MaxCompute 国内短信套餐包 ECS云服务器安全配置相关的云产品 开发者问答 阿里云建站 新零售智能客服 万网 小程序开发制作 视频内容分析 视频集锦 代理记账服务 阿里云AIoT 阿里云科技驱动中小企业数字化