AI 助理
文档备案控制台

C语言

首页 标签 C语言
# C语言 #
关注
40581内容
最新 热门 文章 问答 视频 课程 训练营
独孤圣人123
|
5天前
|
博文
【FHE 同态加密】我们如何实现同态加密推理（一）：把 2B 大模型拆成 28 段密文链条来算（纯 C11 · 零依赖）
本系列记录纯C11、零依赖、CPU-only实现2B大模型（Qwen3-VL-2B）全密文推理的全过程：将模型拆为28段可验证密文链，每跳约1.8小时，聚焦可复现性与机制验证，非安全级部署。（239字）
# 安全 # 调度 # 数据安全/隐私保护 # C语言 # 异构计算
golang学习记
|
5天前
|
博文
VSCode调试新法：列断点
VS Code列断点（Column Breakpoints）支持在单行内精准定位语句级断点，解决压缩代码、链式调用等“一行多语句”调试难题。按Shift+F9即可在任意列位置设断点，大幅提升复杂场景下的调试效率。（239字）
# 前端开发 # JavaScript # C语言 # C++
独孤圣人123
|
6天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 16-3 篇：推理引擎的 tensor 目录与布局重排的落盘顺序
《0.8MB跑通Qwen》系列实录：30天手搓零依赖纯C推理引擎，适配Qwen3-VL多模态模型（2B/8B/30B-A3B），真机跑通RK3588（aarch64）。详解VQFTensor目录结构、64字节对齐落盘、FNV校验及mmap加载机制，含零依赖Python解析器。
# 算法 # 定位技术 # C语言 # 数据安全/隐私保护 # Python
独孤圣人123
|
6天前
|
博文
|
来自： 大数据与机器学习
# 0.8MB 跑通 Qwen｜第 19-3 篇：视频帧与媒体模块——推理引擎默认不启用的 H.264 独立模块
本系列《0.8MB跑通Qwen》聚焦ARM端零依赖纯C推理引擎，适配Qwen3-VL多模态模型（2B/8B/30B），在RK3588上实测。视频支持分两层：帧序列路径已落地；MP4/H.264解码为独立未完成模块，API清晰、默认不构建、不演示未验证功能，体现严谨工程边界。（239字）
# 编解码 # 应用服务中间件 # API # C语言 # 容器
独孤圣人123
|
6天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 17-1 篇：safetensors → VQF——推理引擎的 vqf_write 一次成型
本系列《0.8MB跑通Qwen》聚焦ARM端零依赖纯C推理引擎，适配Qwen3-VL多模态模型（2B/8B/30B），在RK3588平台实测通过。核心突破：safetensors→VQF转换与推理共用同一量化路径，实现位级可复现，体积压缩至2.2–4.2GB，真机重转SHA256完全一致。（239字）
# C语言 # C++
独孤圣人123
|
6天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 16-1 篇：VQF 的野心——推理引擎如何把量化与布局固化到文件
本系列手搓零依赖纯C推理引擎，仅0.8MB即可在RK3588上跑通Qwen3-VL多模态大模型。核心创新VQF格式将量化类型、内核布局与模型属性固化于2.17GB单文件中，实现mmap直挂、零转换加载，真正达成“加载即用”。
# JSON # C语言 # 数据安全/隐私保护 # 数据格式 # 索引
独孤圣人123
|
6天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 15-1 篇：推理引擎入口架构——参数 → 分发（serve/自检）→ 退出
本系列《0.8MB跑通Qwen》聚焦ARM端零依赖纯C推理引擎，实测适配Qwen3-VL-2B/8B及30B-A3B模型，在RK3588板端完成真机验证。本文详解`main()`入口如何通过命令行参数分发至serve、离线转换或自检三种命运，并用GDB抓取真实调用链，厘清初始化与退出逻辑。（239字）
# NoSQL # C语言 # C++
独孤圣人123
|
6天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 4-3 篇：核绑定实验——推理引擎在 ARM 大小核上为什么叮嘱"勿设 8 线程"
本系列《0.8MB跑通Qwen》聚焦ARM端零依赖纯C推理引擎，实测RK3588（4×A76+4×A55）上适配Qwen3-VL-2B/8B及30B-A3B模型。通过三组真机实验揭示“核多≠快”本质：仅绑4大核最优，设8线程反降效12%，验证大小核架构下线程配置需严守硬件特性。（239字）
# Java # Linux # 调度 # C语言 # C++
独孤圣人123
|
6天前
|
博文
|
来自： 千问大模型
0.8MB 跑通 Qwen｜第 6-1 篇：推理引擎的 ARMv8.2 dotprod——`vdotq_s32` 一条指令做 4 个点积
本系列《0.8MB跑通Qwen》聚焦ARM零依赖纯C推理引擎，实测RK3588平台，适配Qwen3-VL多模型。本文详解ARMv8.2 dotprod指令（vdotq_s32）如何在真实大内核中释放性能，破除微基准误导，揭示寄存器压力下加速本质。（239字）
# 大模型服务平台百炼 # 编译器 # C语言
独孤圣人123
|
6天前
|
博文
|
来自： 大数据与机器学习
0.8MB 跑通 Qwen｜第 8-2 篇：在线 softmax——推理引擎的注意力为什么不能先算完 e^x 再除
本系列手搓0.8MB零依赖纯C推理引擎，适配Qwen3-VL多模型，在RK3588（aarch64）真机实测。本文详解softmax溢出陷阱：fp32下exp>88.7即inf，剖析朴素/稳定/在线三版实现，揭示“减max”数学等价性与在线rescale的流式优势。（239字）
# 缓存 # C语言 # 内存技术
免费试用