异构计算

首页 标签 异构计算
# 异构计算 #
关注
20369内容
|
8天前
| |
技术专访|GEO落地工程师罗长才:拆解GEO与大模型推理优化技术体系的底层赋能逻辑
罗长才,GEO落地工程师,深耕大模型推理工程一线。本文深度解析GEO与PagedAttention、张量/流水线/模型并行、动态批处理等底层技术的耦合机制,聚焦显存管理、分布式计算与请求调度三大维度,揭示其如何协同构建GEO规模化落地的算力基座。(239字)
真人克隆口播小程序开发全攻略:AI数字人系统源码架构解析
随着AI数字人技术快速发展,真人克隆口播小程序成为企业、自媒体和电商行业提升内容生产效率的重要工具。本文从软件开发角度出发,详细解析AI数字人系统源码的整体架构、真人克隆技术原理、语音克隆、视频驱动、云端渲染等核心模块。
|
9天前
|
OpenCode 部署本地模型完整流程:Ollama搭建离线编程AI保姆级实操
OpenCode是GitHub热门开源AI编程终端工具,支持75种以上大模型服务商,但大量开发者使用云端API时存在代码数据上传、网络受限、调用成本高等痛点。借助Ollama本地模型运行框架,可实现完全离线、零API密钥、数据不出本机的AI编码环境,适配涉密代码、内网开发场景。整套部署流程仅需15分钟,支持Qwen、Llama、CodeLlama等各类开源编码模型,本文分系统安装、模型拉取、OpenCode三种接入方式、进阶调优、排错全流程完整讲解。
阿里云AI产品免费试用活动:超30款AI产品免费试用,开通百炼享1亿+大模型 tokens 限免体验
阿里云AI产品免费试用活动汇聚超30款AI产品及1亿+大模型Tokens,面向个人开发者与企业用户开放。核心权益包括:免费开通百炼平台即享1亿+Tokens及100+Agent模板,通义千问-Image免费体验100张;PAI平台支持Qwen全系列模型一键部署,无需写代码;GPU云服务器提供96GB显存、900GB/s NVLink高性能算力,支持vLLM快速部署大模型;另有10+款NLP产品和13款视觉智能产品免费试用,最长12个月,覆盖文本分析、OCR、人脸识别等场景。
|
9天前
|
阿里云服务器选择指南:配置介绍、ECS实例规格、CPU型号、网络带宽及云盘存储全解析
2026阿里云ECS选型指南:详解经济型e实例(99元/年)、通用算力型u1(199元/年)及轻量服务器(38元/年秒杀)等主流配置,覆盖CPU/内存/带宽/存储选配逻辑与实战建议,助个人开发者与中小企业精准上云。阿里云服务器ECS官网:https://t.aliyun.com/U/AZBUsA
|
10天前
|
白得 2 到 3 倍加速的投机采样机制解析:草稿模型和目标模型是怎么配合的
LLM自回归解码因内存带宽瓶颈而缓慢:每生成1个token均需重载全部权重(如70B模型达140GB)。投机采样通过小模型快速“猜”多token,大模型一次并行验证,接受率高时可获2–3倍无损加速。
基于YOLO11的下水管道缺陷检测:从数据集准备到云上训练实践
本文介绍基于YOLO11的下水管道六类缺陷(变形、沉积、脱节、错口、障碍物、破裂)检测全流程:涵盖Label Studio标注、OSS云存储管理、数据集构建、云上GPU训练及模型评估。聚焦小样本(100图)、复杂背景下的工程实践,助力城市排水管网智能巡检。(239字)
|
10天前
| |
来自: 云原生
场景驱动的技术选型—实时云渲染与远程桌面的对比结论
实时云渲染与远程桌面无绝对优劣,核心差异源于设计初衷、传输协议和资源调度逻辑。远程桌面适配二维办公,实时云渲染则满足三维交互、低延迟与高并发需求。技术选型应完全由具体场景驱动,不可混用。
|
10天前
|
理解 Prefill Decode:AI 回答慢,慢在输入还是输出?
讲解大模型推理中的 Prefill 与 Decode 两个阶段,分析 AI 回答变慢的根源
免费试用