AI 助理
文档备案控制台

C语言

首页 标签 C语言
# C语言 #
关注
40581内容
最新 热门 文章 问答 视频 课程 训练营
独孤圣人123
|
7天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 9-3 篇：推理引擎的 q8 KV 精度对照——量化进注意力，输出差多少
本系列《0.8MB跑通Qwen》手搓零依赖纯C推理引擎，适配Qwen3-VL多尺寸模型，在RK3588上实测q8 KV量化：输出误差仅≈0.01，端到端PPL损失＜1%，带宽降为52%，精度与效率达成教科书级平衡。（239字）
# 缓存 # C语言 # C++
独孤圣人123
|
7天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 4-1 篇：推理引擎为什么换掉 OpenMP——线程唤醒与亲和（vllm_tp 设计）
本系列《0.8MB跑通Qwen》聚焦ARM端侧轻量化部署，基于RK3588平台，自研零依赖纯C推理引擎，适配Qwen3-VL多模态模型。核心突破在于手写线程池vllm_tp——摒弃OpenMP，采用常驻线程、spin-then-event、调用者参与及静态绑核四大设计，将微秒级小并行区调度开销降低12倍，实现在资源受限边缘设备高效运行大模型。（239字）
# 并行计算 # Java # API # 调度 # C语言
独孤圣人123
|
7天前
|
博文
|
来自： 千问大模型
0.8MB 跑通 Qwen｜第 5-2 篇：推理引擎的 Q8 对称量化——scale 从哪来
本系列聚焦ARM端零依赖纯C推理引擎，实测RK3588跑通Qwen3-VL多模态模型。本文详解Q8对称量化核心——scale标定：为何用f16存、为何除127、误差如何从0.033暴增至0.44，揭示量化精度的生死线。（239字）
# 大模型服务平台百炼 # 存储 # 安全 # C语言
独孤圣人123
|
7天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 7-1 篇：大模型量化的 Q4_0 格式——与 GGUF 对齐的 4bit 布局
本系列《0.8MB跑通Qwen》聚焦ARM端零依赖纯C推理引擎，适配Qwen3-VL多模态模型，在RK3588上实测通过。详解GGUF对齐的Q4_0量化：32个float压缩至18字节（f16 scale + 16 nibble），剖析nibble打包规则与11倍误差代价，为端侧高效部署夯实底层基础。（239字）
# 定位技术 # C语言 # C++
独孤圣人123
|
9天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 1-3 篇：推理引擎的自检门——没有模型的确定性测试，第一次读懂 PASS/FAIL
本文介绍RK3588平台LLM推理引擎的“自检门”机制：无需模型文件，通过标量参考对拍、固定种子随机与确定性PASS/FAIL测试，快速验证编译后代码正确性；实测覆盖L3缓存、量化点积等核心逻辑，体现工业级可信验证思想。（239字）
# 缓存 # 测试技术 # C语言 # C++ # NoSQL
独孤圣人123
|
9天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 2-1 篇：推理引擎的 C11 `_Static_assert`——让编译器守卫你的内存布局
本文详解C11 `_Static_assert` 在内存布局守卫中的关键作用：针对mmap直挂场景，通过编译期断言钉死VQF格式三结构体（200/432/64字节），杜绝因对齐差异导致的静默错位。真机RK3588实测验证，实现错误前移。
# 编译器 # C语言
独孤圣人123
|
9天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 2-2 篇：推理引擎的平台层——一个头文件守住全部平台契约（vllm_platform.h）
本文实测于RK3588（2026-09），提出“平台层契约”设计：将NEON、mmap、绑核等平台依赖统一收口至`vllm_platform.h`，通过`ST_HAVE_NEON`等宏提供唯一真相，配合`#error`门闩实现错误前移——有守卫仅报1行错，无守卫则引发46处误导性编译失败。
# 移动开发 # 编译器 # Linux # C语言 # C++
nick6244545525
|
10天前
|
博文
01AB 基本元理——任何智能体的三元法理·0=1→0≠1法理跃迁为天理
本节提出“01AB基本元理”：以01（0维→1维跃迁，确立可区分性）与AA/AB（量变/质变，确立可演化性）为双基石，构建智能体三元法理——U（个体性·坐标原点）、B（变化性·天道系·≠）、A（关系性·社会系·＝）。法理即“＝/≠”动态统一，终极方向是架构内化天理，表层自洽、本质永动。
# 人工智能 # Unix # C语言 # C++
独孤圣人123
|
11天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 1-1 篇：为什么有人要"手搓"一个推理引擎？（30 天系列开篇）
这是一套为边缘设备（如RK3588）深度定制的纯C推理引擎：仅28个C文件，零依赖、800KB单文件、冷启动2秒。手写矩阵乘、线程池与国密SM2，非为炫技，而是被内存受限、频繁重启、可信审计等硬约束倒逼出的工程必然。
# 编解码 # 并行计算 # Java # C语言 # AI芯片
软件秘籍
|
11天前
|
博文
Dev C++下载安装教程-Windows零基础安装C语言编程软件完整步骤-5.11版图文详解与Hello World编译运行
Dev-C++ 是一款面向初学者的轻量级 Windows C/C++ 集成开发环境（IDE），免费开源、自带 MinGW 编译器，支持 C++98 至 C++17 标准。安装仅约 40MB，一键编译运行（F11）、中文报错、无需配置环境，特别适合教学、作业与算法训练。
# IDE # 编译器 # C语言 # C++ # Windows
免费试用