AI芯片

首页 标签 AI芯片
# AI芯片 #
关注
1371内容
IDC最新报告:阿里云占中国汽车公共云基础设施市场份额超45%
根据国际数据公司(IDC)最新发布的《中国汽车云市场(2026年上半年)跟踪》报告,2026年上半年中国汽车公共云基础设施市场规模约83.4亿元人民币。其中,阿里云汽车公共云基础设施市场份额达45.1%,接近半壁江山,在该市场的收入同比增长111%。这也是自2021年起,阿里云已连续11期位居中国汽车公共云基础设施市场第一。
OPPO Reno15 端侧多模型本地部署:选型、参数调优与功耗控制
本方案基于OPPO Reno15(骁龙8+),采用MNN引擎部署三款Qwen量化模型,构建“写作—思辨—技术”分工协作的本地AI工作流。坚持fp16精度、优先调用NPU、差异化采样与输出限制,兼顾能力、速度、发热与续航,全部配置应用内可直接启用。
|
16天前
|
Kestrel_VLLM - 16 · 投机解码 batch verify:三个数值坑与位级对齐
本文揭秘 CUDA 投机解码中 batch verify(M>1)与单 token decode(M=1)的数值不一致问题:接受率骤降至16.7%。根因是三个仅在列 t>0 触发的深层 bug——grid 越界、stride 量纲错(将元素步长误作 head 数乘)、nsplit 归约树错位。通过列级隔离探针定位,实现位级对齐修复,接受率回升至50.0%(16 tok),greedy top-1 全列逐位一致。(239字)
|
18天前
|
AI 夜视机芯的功耗怎么压到 1.5W 以下?从系统架构到热管理的工程实战
AI 夜视机芯引入了深度学习推理,功耗天然高于传统方案。但在无人机、手持设备等电池供电场景中,功耗直接决定了续航时间。本文从系统架构、模型量化、硬件选型、热管理四个层面,解析如何将 AI 夜视机芯的功耗控制在 1.5W 以内,并给出 1.38W 实测方案的拆解。
|
22天前
|
PixelClean 这类 AI 降噪算法是怎么工作的?从 RAW 域到 GAN 色彩重建的技术拆解
AI 降噪是当前夜视成像领域最热门的技术方向之一。以 PixelClean 为代表的 AI 降噪算法,能够在 0.001Lux 极微光环境下将 SNR 提升 8-10dB。本文深入解析 AI 降噪的技术原理,从 RAW 域处理、多帧时域融合、GAN 色彩重建三个核心技术展开,配合网络结构图和代码示意,帮助工程师理解 AI 降噪的工作机制。
|
23天前
|
我的推理引擎只有 1.35 MB,却塞进了五类模型 + 国密安全栈,还要跟 llama.cpp 打擂台
Kestrel(红隼)是纯C11编写的ARM边缘多模型推理平台,单文件仅1.35MB,零第三方依赖。在RK3588(16GB RAM)上原生协同运行Qwen3-VL、MoE大模型、向量嵌入、Laya决策与YOLO检测五类模型,支持OpenAI兼容API、自研NPU直驱及国密SM2/SM3/SM4三重安全防护。
|
25天前
|
Kestrel_VLLM_CUDA - 04 · 分组量化 GEMM 内核
本文介绍一种高效分组量化GEMM内核,统一支持decode(M=1)与prefill(M=32)场景:采用“每线程固定4列、沿K维扫描”映射,实现权重warp级满事务读取、激活广播;通过group轴z-split补足小M并行度,单次launch完成;结合pinned内存与单同步传输优化,显著降低小投影开销。
|
28天前
|
你的下一台电脑不需要联网就有 AI:小模型智能体正在悄悄改变这五件事
BuddyMe(www.buddyme.cn)是面向端侧AI的多模型智能体工作台,支持本地运行、热切换与工作流编排;每日免费4500万Token、1000次调用、100点/张作图,专为重灵活性的开发者打造。(239字)
免费试用