CUDA学习(十六)

简介:

统一的虚拟地址空间:
当应用程序以64位进程运行时,单个地址空间用于主机以及计算能力2.0及更高版本的所有设备。 所有通过CUDA API调用进行的主机内存分配以及受支持设备上的所有设备内存分配均在此虚拟地址范围内。 作为结果:

  • 可以使用cudaPointerGetAttributes()从指针的值中确定通过CUDA分配的主机上的任何内存或使用统一地址空间的任何设备上的内存位置。
  • 在使用统一地址空间的任何设备的内存中进行复制或复制时,可以将cudaMemcpy *()的cudaMemcpyKind参数设置为cudaMemcpyDefault,以确定指针的位置。 这也适用于未通过CUDA分配的主机指针,只要当前设备使用统一寻址。
  • 通过cudaHostAlloc()的分配在所有使用统一地址空间的设备上是自动可移植的,并且由cudaHostAlloc()返回的指针可以直接从在这些设备上运行的内核中使用(即,不存在 需要通过cudaHostGetDevicePointer()获取设备指针,如Mapped Memory中所述

应用程序可以通过检查unifiedAddressing设备属性(请参阅设备枚举)是否等于1来查询统一地址空间是否用于特定设备。
进程间通信:
由主机线程创建的任何设备内存指针或事件句柄都可以被同一进程内的任何其他线程直接引用。 然而,在这个过程之外它是无效的,因此不能被属于不同进程的线程直接引用。
要跨进程共享设备内存指针和事件,应用程序必须使用参考手册中详细描述的进程间通信API。 IPC API仅支持Linux上的64位进程以及计算能力为2.0或更高的设备。
使用这个API,应用程序可以使用cudaIpcGetMemHandle()来获得给定设备内存指针的IPC句柄,并使用标准IPC机制(例如进程间共享内存或文件)将其传递给另一个进程,并使用cudaIpcOpenMemHandle()来检索设备 来自IPC句柄的指针,这是另一个进程中有效的指针。 事件句柄可以使用类似的入口点共享。
使用IPC API的一个例子是单个主进程生成一批输入数据,使数据可用于多个从进程而无需再生或复制。
错误检查:
所有运行时函数都会返回一个错误代码,但对于异步函数(请参见异步并发执行),此错误代码不可能报告设备上可能发生的任何异步错误,因为该函数在设备完成任务之前返回; 错误代码仅报告执行任务之前在主机上发生的错误,通常与参数验证有关; 如果发生异步错误,则会由一些后续不相关的运行时函数调用报告。
因此,在调用一个异步函数之后检查异步错误的唯一方法就是在调用之后通过调用cudaDeviceSynchronize()(或者使用异步并发执行中描述的任何其他同步机制)同步并检查由cudaDeviceSynchronize返回的错误代码()
运行时为每个主机线程维护一个错误变量,该主机线程被初始化为cudaSuccess,并且每次发生错误时都会被错误代码覆盖(不管是参数验证错误还是异步错误)。 cudaPeekAtLastError()返回这个变量。 cudaGetLastError()返回这个变量并将其重置为cudaSuccess。
内核启动不返回任何错误代码,所以cudaPeekAtLastError()或
必须在内核启动后调用cudaGetLastError()才能检索任何启动前错误。 为了确保由cudaPeekAtLastError()或cudaGetLastError()返回的任何错误不是来自内核启动之前的调用,必须确保运行时错误变量在内核启动之前设置为cudaSuccess,例如通过调用 内核启动之前的cudaGetLastError()。 内核启动是异步的,因此为了检查异步错误,应用程序必须在内核启动和对cudaPeekAtLastError()或cudaGetLastError()的调用之间进行同步。
请注意,可能由cudaStreamQuery()和cudaEventQuery()返回的cudaErrorNotReady不被视为错误,因此不会被cudaPeekAtLastError()或cudaGetLastError()报告。
调用堆栈:
在计算能力为2.x或更高的设备上,可以使用cudaDeviceGetLimit()查询调用堆栈的大小,并使用cudaDeviceSetLimit()
当调用堆栈溢出时,如果应用程序通过CUDA调试器(cuda-gdb,Nsight)或未指定的启动错误运行,那么内核调用会失败并出现堆栈溢出错误。
v2_50e7e72b0f5f3510c77c3139c1a3562c_hd

目录
相关文章
|
Linux
Linux制作deb格式安装包教程
Linux制作deb格式安装包教程
2037 0
|
安全 Linux 网络安全
VS Code通过跳板机连接服务器进行远程代码开发
VS Code通过跳板机连接服务器进行远程代码开发
4062 0
VS Code通过跳板机连接服务器进行远程代码开发
|
2月前
|
存储 弹性计算 数据库
阿里云国内版和国际版有什么区别?账号、价格、备案与适用场景全面对比
聚合云www.juhecloud.online为您讲解两者的区别,聚合云可以一键上云,更低折扣。阿里云国内版(aliyun.com)与国际版(alibabacloud.com)是两个独立平台,核心差异在于账号体系、实名认证、支付币种(人民币vs美元)、税务发票、ICP备案支持及合同主体。国内版适配内地企业、人民币结算与备案需求;国际版面向境外主体,支持多币种、国际发票及全球部署。选错平台将影响合规与迁移成本。
|
2月前
|
人工智能 运维 IDE
零成本 AI 编程工具 Qoder CN 指南:免费社区版功能拆解、Credits 额度管控与项目实战场景解析
目前AI赋能研发已经成为软件开发领域的主流趋势,AI编码助手可以极大降低重复编码工作量,提升学习与开发效率。但市面上大量高质量AI编程工具普遍采用订阅付费模式,对于编程学生、业余爱好者、初级开发者来说,长期订阅会带来不小的经济负担,抬高了AI编程的入门门槛。为了普惠广大基层开发群体,降低AI编程落地门槛,原通义灵码完成品牌迭代升级,正式更名为Qoder CN,并且推出永久可用的免费社区版本。该版本配套独立Credits额度体系,普通用户不需要付费订阅,就可以使用专业级AI编码智能体能力,覆盖代码学习、脚本编写、小型项目开发、代码调试等轻量化开发场景。
424 0
|
2月前
|
人工智能 自然语言处理 算法
智能外呼产品推荐:全链路合规资质核验与运营商白名单线路指南
2026年智能外呼深度合规化转型背景下,本文以阿里云瓴羊Quick Service为样本,系统解析AI Agent自主办事能力、多模型融合架构与全渠道接入优势,并详解B24许可证、白名单线路、等保三级、算法备案等核心合规要点,助力企业安全高效选型。
|
7月前
|
人工智能 移动开发 安全
零基础用 OpenClaw AI 制作 HTML5 企业官网
OpenClaw(小龙虾)是一款本地离线AI工具,支持零代码生成HTML5企业静态网站。通过自然语言描述需求(如行业、风格、页面模块),30分钟内即可完成部署、生成、调试与上线,全程不联网、数据不出本地,安全可控,适合中小企业快速建站。(239字)
997 125
|
4月前
|
存储 人工智能 自然语言处理
2026最新AI办公助手场景提效全指南
《2026最新AI办公助手场景提效全指南》聚焦职场高频低效痛点,基于作者半年实战经验,系统梳理会议纪要、周报生成、项目同步、知识沉淀、数据分析等六大核心场景的AI提效逻辑与落地方法,涵盖工具选型、岗位适配及避坑建议,助你释放80%重复劳动时间,专注高价值决策与创意工作。(239字)
|
5月前
|
缓存 人工智能 自然语言处理
阿里云Qwen3.7-Plus限时优惠:8折起,输入1.6元/每百万tokens,输出6.4元/每百万tokens
Qwen3.7-Plus是通义千问面向智能体时代的高性价比多模态基座模型,具备"看、想、写、做、验"端到端能力,支持视觉界面解析、代码生成、办公自动化等场景,已在猎聘、波司登、富滇银行等行业落地。当前限时8折,输入低至1.6元/百万tokens,输出6.4元/百万tokens;叠加全模型通用抵扣计划可低至4.5折,是企业构建AI智能体兼具性能与成本的理想之选。
|
运维 监控 持续交付
还在为部署开源工具烦恼?自动化部署工具 Websoft9一键部署 300+ 开源应用
在数字化时代,开源工具因免费、灵活、可定制等特性广受欢迎,但其部署过程却常因环境配置复杂、依赖繁琐、耗时长等问题令人头疼。本文介绍了传统部署的三大难点,并提出两种解决方案:传统手动部署与集成化控制台部署。
还在为部署开源工具烦恼?自动化部署工具 Websoft9一键部署 300+ 开源应用
|
数据采集 自然语言处理 DataWorks
阿里云DataWorks接入DeepSeek大模型
2025年2月18日,阿里云DataWorks正式接入DeepSeek-R1(671B)与DeepSeek-R1-Distill-Qwen-32B大模型。此举显著提升平台的数据处理、分析和治理能力,简化数据开发流程,并支持智能数据查询、自动化报告生成等应用场景,推动企业级数据治理智能化进程,助力企业实现数据驱动的创新发展。
1104 11