CUDA学习(一百)-阿里云开发者社区

开发者社区> night李> 正文

CUDA学习(一百)

简介:
+关注继续查看

语言整合:
使用nvcc编译主机代码的CUDA Runtime API用户可以通过<<< ... >>>运算符访问其他语言集成功能,例如共享符号名称和内联内核启动。 Unified Memory为CUDA的语言集成增加了一个额外元素:用__managed__关键字注释的变量可直接从主机和设备代码中引用。
以下简化GPU编程的例子说明了__managed__全局声明的一个简单使用:

// Managed variable declaration is an extra annotation with __device__
__device__ __managed__ int x;
__global__ void kernel() {
    // Reference "x" directly - it's a normal variable on the GPU.
    printf("GPU sees: x = %d\n", x);
}
int main() {
    // Set "x" from Host code. Note it's just a normal variable on the CPU.
    x = 1234;
    // Launch a kernel which uses "x" from the GPU.
    kernel << < 1, 1 >> >();
    cudaDeviceSynchronize();
    return 0;
}

具有__managed__变量的可用功能是符号在设备代码和主机代码中均可用,无需取消引用指针,数据由所有人共享。 这使得在主机和设备程序之间交换数据变得特别容易,而不需要明确的分配或复制。
在语义上,__managed__变量的行为与通过cudaMallocManaged()分配的存储的行为相同。 数据托管在物理GPU存储中,并且系统中的所有GPU以及CPU都可以看到数据。 流可见性默认为cudaMemAttachGlobal,但可能会受到cudaStreamAttachMemAsync()的限制。
有效的CUDA上下文对于__managed__变量的正确操作是必需的。 如果尚未创建当前设备的上下文,则访问__managed__变量可以触发CUDA上下文创建。 在上面的示例中,在内核启动之前访问x会触发设备0上的上下文创建。如果没有该访问,内核启动将触发上下文创建。
声明为__managed__的C ++对象受到某些特定的约束,特别是在涉及静态初始化器的情况下。 请参阅CUDA C编程指南中的C / C ++语言支持以获取这些约束的列表。
__managed__变量发生主机程序错误:
__managed__变量的使用取决于底层的统一内存系统是否正常运行。 例如,如果CUDA安装失败或CUDA上下文创建失败,则可能会发生错误的功能。
当特定于CUDA的操作失败时,通常会返回一个错误,指示失败的来源。 如果统一内存系统运行不正常,则使用__managed__变量会引入一种新的失败模式,即非CUDA操作(例如,CPU访问应该成为有效主机内存地址的内容)可能会失败。 这种无效的内存访问不能轻易归因于底层的CUDA子系统,尽管像cuda-gdb这样的调试器会指出托管内存地址是失败的根源。
查询统一内存支持:
设备属性:
统一内存仅在计算能力为3.0或更高的设备上受支持。 程序可以通过使用cudaGetDeviceProperties()查询GPU设备是否支持托管内存并检查新的managedMemory属性。 该功能还可以使用具有属性cudaDevAttrManagedMemory的单个属性查询函数cudaDeviceGetAttribute()来确定。
如果在GPU上和当前操作系统下允许托管内存分配,则任一属性都将设置为1。 请注意,即使GPU具有足够的功能,32位应用程序也不支持统一内存(除非在Android上)。
支持平台上的计算能力6.x的设备可以访问可分页的内存,而无需在其上调用cudaHostRegister。 应用程序可以通过检查新的pageableMemoryAccess属性来查询设备是否支持连贯地访问可分页内存。
使用新的页面错误机制,全局数据一致性通过统一内存得以保证。 这意味着CPU和GPU可以同时访问统一内存分配。 这在计算能力低于6.x的设备上是非法的,因为如果CPU在GPU内核处于活动状态时访问统一内存分配,则无法保证一致性。 程序可以通过检查concurrentManagedAccess属性来查询并发访问支持。
指针属性:
要确定给定的指针是否引用托管内存,程序可以调用cudaPointerGetAttributes()并检查isManaged属性的值。 如果指针指向托管内存,则该属性设置为1,否则设置为0。
timg
致敬冰蛙

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
阿里云服务器怎么设置密码?怎么停机?怎么重启服务器?
如果在创建实例时没有设置密码,或者密码丢失,您可以在控制台上重新设置实例的登录密码。本文仅描述如何在 ECS 管理控制台上修改实例登录密码。
9793 0
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,阿里云优惠总结大概有三种登录方式: 登录到ECS云服务器控制台 在ECS云服务器控制台用户可以更改密码、更换系.
13519 0
Ubuntu 18.04 LTS+GTX1080Ti+CUDA10.0 深度学习主机环境搭建
由于之前的主机存在运行docker自动重启的问题,跑模型没问题,排查之后没有发现问题所在,所以最后决定升级技嘉主板的bios并重新安装系统和环境。
871 0
5 Ubuntu 18.04 LTS+GTX1080Ti+CUDA10.0 深度学习主机环境搭建
由于之前的主机存在运行docker自动重启的问题,跑模型没问题,排查之后没有发现问题所在,所以最后决定升级技嘉主板的bios并重新安装系统和环境。
426 0
+关注
night李
对机器视觉 图像处理有一定的兴趣 要做一条有梦想的咸鱼
225
文章
4
问答
文章排行榜
最热
最新
相关电子书
更多
《2021云上架构与运维峰会演讲合集》
立即下载
《零基础CSS入门教程》
立即下载
《零基础HTML入门教程》
立即下载