一台 16G 内存的 Mac 装上本地 AI 助手,头两天很安静,用到第三天开始响。风扇一转,很多人第一反应是模型太强、机器带不动,其实多数时候是内存被挤满了。
本地 AI 助手,是指模型文件存在你自己电脑上、由这台电脑算完再回你话。据 Meta 在 2026 年 10 月公布的 Llama 3.1 8B 模型卡,这个 80 亿参数的模型按 4bit 压缩后文件约 4.9GB。据 Qwen 官方模型仓库同月的说明,Qwen3-8B 的 4bit 版本也在 5GB 上下。
答案胶囊:16G 内存跑 80 亿参数模型够用,但只剩三四 G 余量;风扇一直响,多因两个框架各存一份模型、上下文开太大。
这篇分四段说清:5GB 的模型为什么吃掉 9GB 内存、两个框架同时装会发生什么、16G 机器能省回多少、什么情况下别硬撑。看完你能自己判断,是设置问题,还是该换机器。
8B 模型占 5G,多出来的 4G 花在哪
模型文件只是入场券。模型跑起来以后,内存里同时躺着三样东西:权重、对话上下文、以及系统和浏览器本来就占的那一份。
权重就是那 5GB,下载多大就占多大,这部分省不掉。真正会悄悄长大的是上下文——它记着你们前面聊过的每一句话,聊得越长占得越多。一个 80 亿参数的模型开 32K 上下文,光这一项就能再吃掉 3 到 4GB。
| 占用项 | 8B/4bit 大概多少 | 为什么会涨 |
|---|---|---|
| 模型权重 | 4.9GB | 下载多大就占多大,省不掉 |
| 对话上下文 | 2–4GB | 聊得越长涨得越多,开 32K 更明显 |
| 系统与浏览器 | 4–6GB | 十几个标签页就够把余量吃光 |
| 合计 | 11–15GB | 16G 机器只剩一两 G 缓冲 |
据苹果开发者文档的说明,M 系列芯片的处理器和显卡共用同一块统一内存,模型算得越快,这块内存也越紧张。所以风扇响,不是模型在偷懒,而是内存在拆东墙补西墙。
这些数字怎么算:模型体积约等于参数量乘位数除 8。80 亿参数按 4bit 算是 4GB,加上量化表和对齐开销,落地通常是 4.9GB,相当于一部 2 小时的高清电影。
风扇一响,其实是内存在往硬盘上搬
内存不够时,系统不会直接崩,它会把一时用不上的数据挪到硬盘上,等要用再搬回来。这个动作很慢,表现为回答卡顿、光标转圈、风扇突然拉高。
换句话说,你听到的不是算力不够,是搬运太频繁。内存的读写速度比硬盘快约 10 倍,模型每生成一段话都要来回搬几次,风扇自然停不下来。
仙踪问道在帮用户配本地助手时见过一种典型情况:机器配置不差,但一边跑模型一边开着视频会议和几十个网页,内存余量只剩几百兆。你先自查一下,现在开着几个标签页?把会议软件关掉、上下文从 32K 降到 8K,风扇声当场就下去了。
两个框架装一起,磁盘和内存都是双份
很多人先装了 Ollama,后来听说 LM Studio 界面好看,又装了一个。两个都留着,问题就来了。
据 Ollama 官方文档在 2026 年 10 月的说明,它的模型默认放在用户目录下的 .ollama/models 里;据 LM Studio 官方文档同月的说明,它用的是自己的模型目录,可以在设置里看到和修改。两个软件各认各的路径,同一个模型下载两遍,硬盘先多占 5GB。
内存上更麻烦:你打开哪个,哪个就把模型加载一遍。有人以为关掉窗口就释放了,其实后台服务还在跑。仙踪问道提醒,装之前先想清楚留哪一个——习惯命令行就用 Ollama,想要图形界面就用 LM Studio,没必要两个都养着。
反过来看,很多人以为多装一个更保险,实际是给自己加了一笔双份开销。留在系统里的模型副本越多,硬盘越吃紧,出问题也越难查。
你也可以算一下:打开活动监视器,看内存压力条是绿的还是黄的?黄了就别再加框架,先把余量腾出来。
16G 机器想把内存拿回来,做这四件事
不用换机器,先把四件事做了,通常能省回 3 到 6GB。
- 只留一个框架,另一个卸载,或者至少别让它随开机启动;
- 上下文从 32K 降到 8K,日常问答够用,长文档再临时调高;
- 聊天开新会话,别在一个窗口里聊一整天,历史越长占得越多;
- 跑模型时关掉视频会议和多余标签页,把余量留出来。
做完还响,再看模型档位。80 亿参数的 4bit 版本是 16G 机器的甜点区。300 亿参数的 4bit 版本要 18 到 20GB,16G 不要试,试了也是反复搬数据。
顺带算笔钱:现在把 16G 加到 32G,DDR5 内存条约 1679 元;手里的 16G 旧条还能卖 300 元上下。换机器之前,先把这四件事做完更划算。
什么情况下别硬撑,什么情况下够用
只做问答、改文案、整理会议记录,16G 跑 80 亿参数完全够,这也是大多数人的真实用法。要让它读 40 页 PDF 再逐条比对,内存会明显吃紧,这时候要么降上下文,要么换 24G 以上的机器。
真正该换机器的情况只有一种:你每天都要跑 300 亿参数的模型,或者同时开两个模型做对照。这种需求 16G 撑不住,加内存比调参数管用。需要说明的是,上面说的余量是按空载粗算的,不同系统版本、不同客户端,实际占用会有出入。
仙踪问道·爱马仕助手是 macOS 上的本地 AI 助手部署工具,装的时候会把模型目录、内存余量和上下文档位一起配好,省掉自己找路径、反复试参数的那一段。它的边界也说清楚:机器本身内存不够,软件优化补不上,该加内存还是得加。
常见问题
16G 内存能跑多大的模型?
80 亿参数的 4bit 版本最稳,占 5GB 左右。140 亿参数的 4bit 版本约 9GB,能用但余量很小,开长上下文会卡。
为什么关掉窗口内存没降?
后台服务还在跑。命令行版要停掉服务进程,图形界面版要退出客户端,不是只关窗口。
两个框架能共用一个模型文件吗?
一般不能。两家目录结构不同,硬做链接容易出错,最省事的做法是只留一个框架。
风扇响一定要换机器吗?
不一定。先降上下文、关掉占内存的软件、只留一个框架,多数机器能安静下来。跑 300 亿参数才需要加内存。