C++

首页 标签 C++
# C++ #
关注
61999内容
模型推理加速
大模型推理加速关键技术:KV-Cache优化、连续批处理、投机解码、模型并行与vLLM等。涵盖原理、内存计算、优化策略及实战,助力高效部署与面试备战。
归一化技术
归一化技术对大模型训练至关重要,常见方法包括LayerNorm与RMSNorm。前者稳定高效,广泛用于Transformer;后者简化计算,提升效率,见于LLaMA等模型。Pre-norm结构更受现代架构青睐,整体助力模型快速收敛与稳定训练。(238字)
南京观海微电子----N沟道vs P沟道MOSFET
MOSFET是一种电压控制型半导体器件,结构类似场效应管,含栅极、源极、漏极和衬底。按沟道分为N型与P型,N沟道载流子为电子,导通速度快、效率高,更常用;P沟道为空穴导电,多用于高端开关。栅极绝缘使输入阻抗高、功耗低,适用于放大、电机调速、电源开关等场景,但易受静电损伤。
n8n vs Coze:自动化工作流的选择指南
n8n与Coze均助力自动化,但定位不同:n8n开源灵活,适合开发者实现复杂系统集成;Coze无代码易用,助力业务人员快速搭建审批等流程。选型应据团队角色、流程复杂度及部署需求,可结合使用实现“技术+业务”闭环。
12 | 非精准 Top K 检索:如何给检索结果的排序过程装上加速器?
本文介绍了非精准Top K检索的优化思路与实现方法,通过简化打分机制提升检索效率。重点讲解了三种加速技术:基于静态质量得分排序截断、胜者表利用词频打分、以及分层索引的两层检索策略。这些方法将计算前置至离线阶段,在线仅做快速截断,大幅降低开销。结合精准排序的两阶段架构,广泛应用于搜索与推荐系统,实现高效召回与精度平衡。
04 | 状态检索:如何快速判断一个用户是否存在?
本文探讨如何高效判断对象是否存在,对比有序数组、二叉树、哈希表的查询性能,引出位图与布隆过滤器。位图利用数组按位存储,空间效率高;布隆过滤器通过多哈希函数映射到位数组,实现O(1)查询,虽存在误判但省空间,适用于注册去重、爬虫判重等场景。删除问题可通过引用计数或重建解决。
数组(顺序存储)基本原理
本章讲解数组的底层原理,区分静态数组与动态数组。静态数组是连续内存空间,支持O(1)随机访问,但增删效率低,需搬移数据;通过手动实现动态数组,理解其扩容、插入、删除等操作的实现逻辑与时间复杂度,为后续数据结构打下基础。
5、线程与并发
synchronized基于Monitor实现,通过CAS设置owner实现加锁,支持锁升级(偏向→轻量级→重量级)。Java 6起优化性能,15后废弃偏向锁。相比volatile仅保证可见有序,synchronized还保证原子性;相较Lock,其为关键字,自动释放锁,但功能较简单。
数组(顺序存储)基本原理
本章讲解数组的底层原理,区分静态数组与动态数组。静态数组是连续内存空间,支持O(1)随机访问,但增删效率低;动态数组基于静态数组封装,提供自动扩容和常用API,使用更便捷。我们将从零实现一个动态数组,掌握其增删查改机制,理解常见数据结构的底层逻辑,为后续学习栈、队列、哈希表打下基础。
数组(顺序存储)基本原理
本章讲解数组的底层原理,区分静态与动态数组。通过静态数组实现动态数组的增删查改,揭示随机访问O(1)的成因与连续内存的利弊,助你理解数据结构本质。
免费试用