这种架构使得ISA能够赋能我们的软件堆栈

简介: q

现在往回看,来看看GroqChip的抽象构造。芯片上有多个不同的功能单元,这些单元组成了简单的构建块,长度为320个元素(本处所指的是SIMD单元),每个SIMD单元由指令调度单元(位于芯片底部)控制。

这些功能单元彼此相邻,正如软件的不同分类一样,这些不同的功能单元都有各自的用途,包括矩阵单元MXM,用于逐点运算的vector单元,用于数据重塑的SXM单元(开关执行模块),以及一个用于处理片上存储的存储器单元。

它们在布局上彼此相邻,以此来利用空间定向的优势。所以我们可以在芯片上采取东西向流式传输数据,充分利用其空间局部性。从某种意义上说,它正在捕获数据流的局部性,这在机器学习模型中很常见。

这种架构使得ISA能够赋能我们的软件堆栈。我们显式地将控制权移交给软件,特别是编译器,以便它可以从第一性原理的角度推断硬件上的正确性和调度指令。

相关文章
|
4天前
|
人工智能 运维 虚拟化
完善多云平台软件体系,VMware再探索下一代企业IT架构
完善多云平台软件体系,VMware再探索下一代企业IT架构
|
17天前
|
监控 持续交付 数据库
持续交付的软件系统架构
持续交付的软件系统架构
18 1
|
26天前
|
供应链 监控
软件架构一致性问题之软件供应链管理中降低维护成本如何解决
软件架构一致性问题之软件供应链管理中降低维护成本如何解决
29 4
|
29天前
软件复用问题之复用决策中,业务架构和技术之间有何关系
软件复用问题之复用决策中,业务架构和技术之间有何关系
|
29天前
|
监控 前端开发 UED
软件交付问题之架构让代码组织更有序,如何解决
软件交付问题之架构让代码组织更有序,如何解决
|
26天前
软件复杂度问题之端口适配器架构划分系统,如何解决
软件复杂度问题之端口适配器架构划分系统,如何解决
|
26天前
|
供应链
软件架构一致性问题之通过减少修改次数降低软件供应链管理的成本如何解决
软件架构一致性问题之通过减少修改次数降低软件供应链管理的成本如何解决
24 0
|
26天前
|
供应链 安全 Java
软件架构一致性问题之通过软件供应链管理提升研发体验如何解决
软件架构一致性问题之通过软件供应链管理提升研发体验如何解决
29 0
|
29天前
|
测试技术 开发者
对抗软件复杂度问题之系统架构对软件复杂度的有什么影响,如何解决
对抗软件复杂度问题之系统架构对软件复杂度的有什么影响,如何解决
|
29天前
|
消息中间件 缓存 架构师
对抗软件复杂度问题之降低代码的复杂度,如何解决
对抗软件复杂度问题之降低代码的复杂度,如何解决