异构计算

首页 标签 异构计算
# 异构计算 #
关注
20486内容
|
26天前
| |
全新服务器大模型部署进阶:RTX 4090显卡驱动安装与模型运行容错适配指南.176
本文详解在openEuler 22.03服务器上适配RTX 4090显卡的完整流程:涵盖系统与内核信息查询、硬件识别、禁用Nouveau驱动、编译安装NVIDIA官方驱动(含常见报错排查)、PyTorch GPU环境部署(含国内镜像加速与依赖冲突修复),以及中文字体安装解决可视化乱码问题,全流程贴合真实运维场景。
|
27天前
| |
来自: 云存储
企业AI知识库搭建指南:手把手教你落地
本指南面向企业IT负责人,手把手教你安全落地AI知识库:聚焦本地私有化部署、文档解析、向量检索与RAG框架搭建,强调数据不出域、分级权限与合规风控,助企业盘活内部知识资产,实现“问问题即得答案”。
|
27天前
| |
来自: 云存储
企业AI知识库搭建教程:从零到一的完整技术实现
本文面向开发者,详解企业AI知识库本地化搭建全流程:涵盖文档解析(PDF/OCR/语义分块)、Milvus+ES混合检索、BGE+Qwen2.5向量化与推理、RAG优化及RBAC+ABAC安全架构,强调数据不出内网、GPU显存隔离与合规审计。(239字)
云上实践:基于YOLO11的仪表读数检测模型训练与工程化落地
本文介绍基于YOLO11的仪表读数检测模型云上实践:涵盖工业场景数据集构建(6559张图,0–9数字标注)、云端训练调优(支持GPU加速与数据增强)、ONNX导出与INT8量化,以及边缘部署、实时推理与运维管理全流程,助力自动化巡检高效落地。(239字)
|
27天前
|
租用GPU算力怎么选择显卡?从LLM到AIGC的全场景选型与避坑指南
本文直击AI时代“算力焦虑”,从LLM、AIGC、语音处理、计算机视觉、科研仿真五大场景出发,以任务瓶颈(显存+算力+预算)为锚点,提供务实GPU选型指南:3090是性价比之王,A100/A800适合大模型训练,魔改卡慎购但云租可取,3060足以胜任语音任务。倡导“租卡优于买卡”,让开发者专注创新而非硬件运维。
WEEX Labs:AI没有降温,为什么存储板块却突然集体回调?
AI仍然在向前发展,只不过资本市场开始提出比过去更高的要求。未来真正决定一家公司价值的,可能不再是它是否属于AI概念,而是它是否能够持续兑现市场已经提前写进股价里的那些期待。
|
28天前
|
最新版阿里云服务器配置价格表介绍
2026年阿里云全面更新云服务器产品矩阵与定价体系,整合轻量应用服务器、ECS弹性云服务器、通用算力型、计算型、GPU高性能服务器五大产品线,优化各档位硬件配置、带宽规格、存储参数与阶梯定价规则,同时上线长效优惠活动、续费保价政策、新老用户专属福利,构建起覆盖个人学习、项目部署、AI智能体挂机、企业建站、商业运营、高性能计算的全场景服务器算力体系。新版价格体系分层清晰、性价比极高,入门机型创历史低价,企业级机型优化算力配比,兼顾轻量化日常使用与高强度商业算力需求。本文将结合2026年最新官方配置价格表,全方位拆解阿里云全系服务器机型参数、定价标准、带宽存储规格、计费模式、适用场景、机型差异与选
|
28天前
| |
大模型GPU服务资源与性能监控:基于ChatGLM3模型的自动化巡检应用实践.174
本文系统阐述大模型服务监控体系,涵盖推理全链路(请求接入、分词、计算、Token生成等)的专属可观测方案。重点解析推理耗时、Token速率、显存占用、队列长度、错误类型及健康巡检六大核心指标,并提供基于FastAPI的轻量级监控实践示例,支持实时可视化与流式响应,兼顾稳定性、性能与成本优化。
|
29天前
| |
高并发下大模型服务降级策略:模型层、检索层、知识库层、缓存层协同设计.173
本文系统阐述大模型服务降级的核心理念与实践方案,涵盖多级降级架构、缓存兜底、静态答案、模型轻量化、向量检索降级及知识库熔断六大策略,强调在GPU耗尽、组件故障等异常下,通过主动牺牲非核心能力保障核心业务可用性与用户体验,是大模型高可用落地的关键保障。
|
30天前
|
英伟达三代旗舰显卡性能测试:5090、4090、3090
本文通过ResNet-50模型在CIFAR-10数据集上的PyTorch训练实测,对比RTX 3090/4090/5090三代旗舰显卡性能。结果显示:5090单精/混精吞吐达1076/1822 samples/s,较4090提升约50%,4090较3090提升约45%,为深度学习选卡提供实证参考。
免费试用