Vector向量计算技术与SIMD技术的对比

简介: 本文是RISC-V知识图谱系列中“应用技术”主题的相关内容,将就Vector向量计算技术和SIMD技术作简要介绍,并分析Vector向量计算技术的优缺点,预测其未来发展。

本文作者:freemk

本文源自:芯片开放社区(OCC)


什么是向量计算技术?什么是SIMD技术?它们之间有什么区别?看到这个标题的时候,可能各位读者都会有各种各样的疑问。那么本文,笔者将基于RISC-V指令集,尽量以简单易懂的方式,向大家介绍二者的联系和区别,并分析RISC-V向量计算技术的优劣。


一、SIMD技术简述

传统的通用处理器都是标量处理器,一条指令执行只得到一个数据结果但对于图像、信号处理等应用,存在大量的数据并行性计算操作,这个时候,提高数据的并行性从而提高运算的性能就显得尤为重要。因此,SIMD技术应运而生。


SIMD的英文全称是Single Instruction Multiple Data,即单指令流多数据技术,SIMD的概念是相对于SISDSingle Instruction Single Data,单指令流单数据)提出的。SIMD技术最初通过将64位寄存器的数据拆分成多个8位、16位、32位的形式来实现bytehalf wordword类型数据的并行计算;在后续,为了进一步增加计算的并行度,SIMD技术开始通过增加寄存器位宽来满足应用对算力的需求。对于传统的SIMD技术,IntelMMXSSE系列、AVX系列,以及ARMNeon架构都是其中的代表。


1627544630140绘图1.jpg


二、向量计算技术简述

而提高数据并行性的另一种方式就是向量计算技术。与传统的SIMD技术一样,其也是通过扩展寄存器位宽,来增加计算的并行度;但不同的是,向量寄存器是可变长度的寄存器,而不像SIMD那样嵌入在操作码中。矢量技术的代表就是RISC-VV扩展指令集和ARMSVE架构。


三、Vector向量计算技术的优势

相比于传统的SIMD技术,矢量计算技术是一种硬件软件更加解耦的技术,其对编程人员更加友好,是一种软硬件协同的技术典范。为何这么说呢?可以简单用下述的例子说明一下:


loop_start:

subs x2,x2,#96

ldp q3,q4,[x1,#0]

stp q3,q4,[x0,#0]

ldp q3,x4,[x1,#32]

stp q3,x4,[x0,#32]

ldp q3,x4,[x1,#64]

stp q3,x4,[x0,#64]

add x1,x1,#96

add x0,x0,#96

bgt loop_start

Loop_start:

vsetvli  t0, a2, e8, m4

vlb.v  v0, (a1)

add    a1, a1, t0

sub    a2, a2, t0

vsb.v  v0, (a3)

add    a3, a3, t0

bnez   a2, Loop_start


上述代码是分别基于ARM Neon指令集和RISC-V V指令集的典型应用程序memory copy。对于ARM的代码部分,LDPSTP分别为指定为128位宽的loadstore操作,每次循环操作96个字节。而对于RICS-V的代码,上述的循环控制完全通过vsetvli指令以及sub指令实现,软件不需要显示每遍循环计算了多少数据量,仅需要给出总的数据量即可。即使硬件中矢量寄存器的长度从128变为256,上述代码也不需要进行任何修改。


上述对比可以看出,由于指令集限定了数据操作位宽,那么每次硬件对并行度的扩展都意味着指令集的扩展以及代码的重写,这将增加更多额外劳动,对开发者也更不友好。然而随着处理器应用领域的不断扩大,对数据硬件并行性的需求也在不断提高,硬件架构并行度升级似乎成为一种必然趋势。纵观Intel SIMD指令集的发展,从MMX64位,到SSE系列的128位,AVXAVX2256位,以及最新的AVX-512512位,寄存器的位宽在短短20年里扩大了8倍。这对于软件的适配来说也是不小的工作。


四、Vector向量计算技术的劣势

RISC-V相比ARM NeonSIMD指令架构来说,有着可变长、软件维护方便等优势。那是否就说明RISC-V Vector向量架构就没有任何缺点呢?


其实不然,首先,向量架构带来更灵活的使用本身也可能带来一些负面影响。由于操作数本身不指定操作数类型,需要通过vsetvli指令专门设置,则当出现频繁的数据类型切换时,必然会带来更多的指令数。另外,除了操作数据类型,向量长度(VL)也是通过vsetvli指令非显示的设置的,在超标量乱序处理器中,若频繁的更改向量长度,则可能带来潜在的性能损失。除此之外,RISC-V V指令集制定时间较短,相比于ARM Neon等发展多年的SIMD指令集,在指令功能的丰富性上尚有欠缺,因此,在碰到一些特定场景时,需要使用更多的指令去实现相应的功能,进一步降低了整体的性能。


五、小结

虽然RISC-V矢量技术还有不完善的地方,但瑕不掩瑜,其解决了SIMD技术带来的二进制不兼容问题,使同一份代码可以跑在基于RISC-V架构的任何矢量位宽的处理器上,这意味着软件维护成本的大大降低,对其生态的建设是具有重大意义的。而且RISC-V是开源架构,包括我们平头哥在内的众多团体和个人都将成为架构制定的参与者,相信在大家的集思广益下,RISC-V向量架构会更加完善,并将Vector向量技术推向下一个发展高潮。

相关实践学习
使用CLup和iSCSI共享盘快速体验PolarDB for PostgtreSQL
在Clup云管控平台中快速体验创建与管理在iSCSI共享盘上的PolarDB for PostgtreSQL。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
相关文章
|
并行计算 安全 开发者
RISC-V生态全景解析(五):Vector向量计算技术与SIMD技术的对比
芯片开放社区(OCC)面向开发者推出RISC-V系列内容,通过多角度、全方位解读RISC-V,系统性梳理总结相关理论知识,构建RISC-V知识图谱,促进开发者对RISC-V生态全貌的了解。
2467 0
RISC-V生态全景解析(五):Vector向量计算技术与SIMD技术的对比
|
4天前
|
Shell Android开发
Android系统 adb shell push/pull 禁止特定文件
Android系统 adb shell push/pull 禁止特定文件
34 1
|
4天前
|
Android开发 Python
Python封装ADB获取Android设备wifi地址的方法
Python封装ADB获取Android设备wifi地址的方法
64 0
|
8月前
|
开发工具 Android开发
Mac 安卓(Android) 配置adb路径
Mac 安卓(Android) 配置adb路径
235 0
|
3天前
|
Shell Android开发
ADB更改Android设备屏幕显示方向
ADB更改Android设备屏幕显示方向
13 5
|
4天前
|
Shell Android开发
Android Activity重写dump方法实现通过adb调试代码
Android Activity重写dump方法实现通过adb调试代码
17 0
|
4天前
|
Java Android开发
Android 对adb命令的拦截
Android 对adb命令的拦截
18 2
|
4天前
|
网络协议 Shell Android开发
Android 深入学习ADB调试原理(1)
Android 深入学习ADB调试原理(1)
32 1
|
4天前
|
存储 安全 Shell
Android系统 adb shell auth授权使用
Android系统 adb shell auth授权使用
46 2
|
4天前
|
安全 Java Shell
Android13 adb input 调试命令使用和源码解析
Android13 adb input 调试命令使用和源码解析
43 0

热门文章

最新文章