底层物理相关人士对大模型架构的一些想法

简介: 机械行业20年从业者,零代码基础但精通常用宏程序;“分层上下文+算力路由”原创构想——以本地小模型分层(L0–L4)治理污染、降噪、减负,用类CPU路由调度大模型算力,目标为长上下文节约注意力,治理上下文污染,与大模型安全可控性。纯业余探索,欢迎专业指正。(239字)

我初中毕业,没啥学历,9月份接触agent,10月15日才得知memory,agents,soul等内容,今天11月19号拿出这份方案,这条信息说明我对大模型认知有着严重的不足,以下信息仅供参考,都是我个人臆测得来的,接受大家的合理批判。

这个想法产生的背景:我目前在机械加工生产制造维修行业浸淫近20年。不懂代码软件等,但对宏程序比较门清。业余爱好看前沿科技理论,知识庞杂,但不深入,比较浅显,只看逻辑关系,延伸实际应用,术语和深度知识不了解。我本人比较讨厌书本知识灌输,喜欢自己闭门造车,喜欢重复选择性的造轮子,缺点不谈,优点是可以让知识面更宽阔,思维更活跃,不受现有知识框架束缚思维。当有一定成果的时候,回去搜现有先进成果作对比,看缺陷。所以,我看待大模型的角度是开放式的,不受目前技术壁垒约束,但是只要想法对,能有效解决目前大模型的痛点,并且能给大模型做减法,就是值得思考的方向,所以才鼓起勇气发出了这一份文稿,毕竟二三十年前,谁也不敢想象现在的芯片可以做到两三纳米,都是有了方向目标一代代技术迭代做出的成果。

结构分客户端和云端
先讲客户端,上下文分层,因为大模型平常会有很高频的假设推翻假设以及确认某件事的行为,并且还有人为的纠正与推翻和确认,所以可以用本地小模型根据语言特征记录把上下文分层,例如(大概举例说明,结构未做深究)L0放系统指令、用户指令、项目指令(包含项目目标,后续如果担心层级失效可以把系统指令和用户指令分开)L1放确认实锤的依据,L2放实锤的辅证和未证实的事情,L3放边角信息,和推翻的事情,验证推翻本就是一个漫长的过程,如果直接删除,后续可能还会往这个方向想,有小模型标记,再由大模型把这段很长的内容压缩成简短的一句事实判定,比如某某方向已经实测确认行不通。最后落盘,可以称之为L4(注意,每条信息都应该有编号,这对后续算力部分拼接和因果有用)
这样把平铺的上下文提高维度,做分层处理,能有效地节约模型注意力。治理上下文污染和降噪。以现在的大模型算法来说,代价可能很大,原谅我的无知,目前还不了解算力部分,并没有证实。猜想目前算了结构不能配合这套逻辑,以及缓存命中的优惠等等实惠就没了,不过应该不难解决,但是配合后续的算力路由部分就会变得合理和更大的节约。且往后看
算力部分我自己造了个词,算力路由。借鉴CPU的机制(只借鉴方法流程,不是说具体方案),算力中心不再是长长的上下文一条线的把历史信息从头看到末尾,最后再配合新的用户消息,往后猜。而是改成,和前面的L0、L1....一样。由于前面已经由本地小模型具体划分了层级,所以总路由算力部分不需要多强大,只要他能分清是否有越界系统安全指令的行为就行了,以及分发被切碎的上下文到相应的服务器进行计算。下属部分有总结L3内容的部分,有保存L0 L1信息的部分,还有进行逻辑运算的部分(我不懂也不会专业名词,只能大白话概括想法,可能实际会分的更细)
后面两条路,
一 :根据现有的流程进行,运算的部分先从L0里面拿规则和目的,然后再从L1里面拿实锤信息,再从L3 L2 拿被否的边角的未验证的信息,然后根据用户的新对话,进行后续计算(可根据位置效应做调整)。
二 :这个会打破现有计算方式,后半部分实现会很难。经过缓存部分筛选,哪些是上轮不变的(前面说过L0123里面的内容打序号或者说前缀)然后再结合前一条往后实现,或者依靠CPU的顺序,先从L1里面拿,往后推的时候缺少信息(未命中)再去L2里面拿,以此类推。(后面实在编不下去了,哈哈哈,对这一部分没有认知,甚至不知道运行逻辑,能不能拆分算力都不知道。这只是一个灵感方向吧,相信专业人员,能比较轻松的推演出后续内容)
再然后把新生成的内容提交给上级路由,接受安全审查,如果失效打回重算,并注明违反那些安全边界,最多打回3次。3次还不行就足够说明本次用户新内容违规。如果通过就可以回复给用户。这种结构流程甚至可以不变更目前的思维链和工具调用等等流程,我个人觉得这不是难点,不做赘述,只是会牺牲部分速度,但是反过来想即使是-flash稀疏注意力的模型,也能大大提升,再加上它本身惊人的运算速度,那点时间可能并不严重。改变只是把每字吞吐,变成了每段吞吐。
最后延伸一刀。前面有说L4落盘。假如在同一个对话里面,提及的项目不只是一个(这很常见,普通用户经常走神问答其他思维发散)或者处理完一个任务以后,继续处理其他无关任务。就可以把前面的上下文中途落盘,然后切干净(相关性的部分可以带上)然后带着全新的上下文(常驻指令区包括系统、工具、以及用户)轻松的去做新项目新任务,避免了普通用户频繁更换新对话的困扰,甚至同类型的不同项目一个对话可以一直进行下去(同类型辨别基于项目规则,需要对agent有一定认知)。但是这个对本地小模型来说可能有技术上的困扰,本地小模型需要进行特定的针对性的训练才能实现
还是那个原则,我不懂不了解,认知有限,这是缺点,优点是我不会受现有结构和技术壁垒的束缚,可能想法在业内大佬们眼中这些想法甚至有些荒谬。我认为这种结构能解决大模型层级失效,甚至一直备受从安全的角度的批判也就站不住了,然后能解决长上下文的注意力稀释,位置效应,白熊效应,上下文污染,噪点等等
最后,我很乐意大家的批判,不过也请大家嘴下留情,对事不对人的进行批判。请先看第二节,里面有很多因果关系。我会很开心。如果对有条件的人有用,可以拿走进行验证
其实现实中我是一个极度谨慎和较真的人。这篇文章本不想发出来,可惜自己还得上班,时间有限,资源非常有限,人脉基本没有,哈哈。干脆把自己的想法公之于众,不至于烂在自己的肚子里,也奢望自己的鼠目寸光可以帮助咱们国家的AI行业发展,怀揣着对国家民族和AI行业的那份热爱,发出这篇。。。怎么说呢,夏虫语冰的见解吧。目前还在高强度的学习中,自己做各种测试,一个月以来已经生成了15G+的文件了。。。上下文爆炸测试中甚至把客户端渲染也搞的直接爆炸崩溃。。。token和钱包对我来说更是流水一般。。。同时也想结交朋友,融入AI圈子,学习更多知识
2026年11月19日 胡

相关文章
|
5天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
6405 14
|
5天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2255 8
|
8天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
8天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
3天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
21天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
10079 59
|
4天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1021 0
|
6天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。
|
15天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
3432 9