大模型的「狂飙时代」,以开源之力推动「新Linux底层操作系统」

简介: 大模型的「狂飙时代」,以开源之力推动「新Linux底层操作系统」


相比于造一个 ChatGPT,这个开源平台更想成为「大模型时代的 Linux」。


2022 年末,ChatGPT 横空出世,成为人工智能领域的又一里程碑事件。业内人士曾预言,这可能是 AI 大模型的「iPhone 诞生时刻」。


作为前沿 AI 技术的集大成者,ChatGPT 引得海内外众多科技公司跟进。但是做出对标 ChatGPT 的产品谈何容易,无论算力、数据、人才还是研发投入,并不是每家企业都具备充分的实力。特别是对于一部分中小企业来说,自身虽然拥有丰富的行业知识和数据,但缺少大模型相关的技术沉淀,以至于有人指出「AI 大模型只是大公司的游戏」。


国产 AI 大模型攻关之路,最难的点在哪里?中小企业和开发者们想要入局 AI 大模型,到底需要哪些能力?有无通关捷径?


智源研究院院长黄铁军指出,大模型时代需要的是「真正」的开源。这种开源不是受到企业影响较大的开源(譬如 Android),而是像 Linux、RISC-V 和 2022 年完全转入开源社区的 PyTorch 那样,完全发展于开源社区的「大家」的开源。


当下的中国 AI 大模型生态建设,正在呼唤一个全面的、开源的技术体系。


智源研究院与多家企业、高校和科研机构共同开发出了 FlagOpen(飞智)大模型技术开源体系,旨在打造全面支撑大模型技术发展的开源算法体系和一站式基础软件平台,支持协同创新和开放竞争,共建共享大模型时代的「新 Linux」开源开放生态。


算法、模型、数据、工具、评测

一站式开源大模型技术体系


FlagOpen(飞智)是一站式、高质量的大模型开源开放软件体系,包括大模型算法、模型、数据、工具、评测等重要组成部分。



FlagOpen 开源平台入口:https://flagopen.baai.ac.cn


FlagOpen 的核心部分是 FlagAI,这个开源项目涵盖了大模型算法、模型及各种优化工具。



项目地址:https://github.com/FlagAI-Open/FlagAI


FlagAI 不仅集成了全球各种主流大模型算法技术,还包括多种大模型并行处理和训练加速技术,支持高效训练和微调。项目涵盖了多个领域明星模型,如语言大模型 OPT、T5,视觉大模型 ViT、Swin Transformer,多模态大模型 CLIP 等。


作为 FlagOpen 的牵头发起者,智源研究院也持续将「悟道」大模型项目成果开源至 FlagAI,包括「悟道 2.0」通用语言大模型 GLM,「悟道 3.0」视觉预训练大模型 EVA,视觉通用多任务模型 Painter,文生图大模型 AltDiffusion(多语言),文图表征预训练大模型(多语言)、EVA-CLIP(英文),阿拉伯语大模型 ALM,百亿语言基础模型 CPM3 等。


目前,FlagAI 已经加入 Linux 基金会,希望吸引全球科研力量对大模型技术共同创新、共同贡献。


与主攻算法开源的其他技术社区不同,FlagOpen 平台还围绕大模型创新的各个方面,提供了 AI 异构芯片基准测试、模型评测、数据处理等配套开源工具,包括:


  • FlagPerf:面向多种 AI 硬件的一体化评测引擎。探索开源、开放、灵活、公正、客观的 AI 硬件评测体系,建立支持多种深度学习框架、最新主流模型评测需求、易于 AI 芯片厂商插入底层支撑工具的 AI 系统评测生态。不以排名为核心目标,以提供行业价值、促进 AI 产业生态发展为愿景;


  • FlagEval:多领域、多维度的基础大模型评测开源项目。探索大模型自动评测技术,推动大模型技术创新和产业应用。首先开放了近期备受关注的多模态领域 - CLIP 系列模型评测工具,支持多语言多任务、开箱即用。更多领域、更多维度的评测工具将陆续发布;


  • FlagData:开箱即用、易于扩展的数据工具开源项目。包含清洗、标注、压缩、统计分析等功能在内的多个数据处理工具与算法,为自然语言处理、计算机视觉等领域的模型训练与部署提供了数据层面的有力支撑;


  • FlagStudio:智源研究院应用文生图、文生音乐等人工智能模型支持艺术创作相关的开源项目集合。利用图文、声文等多模态模型,依托研究院在 NLP 和 CV 领域大模型的研究基础,为艺术创作提供更加符合中文场景的人工智能开源算法和模型,使创作效率更加高效,创作空间更加开阔,创作成果更加细腻;
  • FlagBoot:基于 Scala 开发的轻量级高并发微服务框架。FlagBoot 框架是默认完全异步的,微服务处理任何一个 API 都是完全异步执行的,帮助开发者对异步线程控制进行性能良好的统一管理。FlagBoot 中没有宏、隐式转换等晦涩难懂的代码,再加上 FlagBoot 的代码量极少,使得开发者能够轻易地了解 FlagBoot 的逻辑,并进行自定义的修改。


基于 FlagOpen,国内外开发者可以快速开启各种大模型的尝试、开发和研究工作,企业可以低门槛进行大模型研发。同时,FlagOpen 大模型基础软件开源体系正逐步实现对多种深度学习框架、多种 AI 芯片的完整支持,支撑 AI 大模型软硬件生态的百花齐放。


目前,FlagOpen 大模型技术开源体系也正在与 Linux 基金会等全球开源代表组织与机构积极合作,加快建设面向全球的大模型技术开源生态。


大模型时代的「Linux」


说到 Linux 在互联网时代的开创性意义,很多人都能领会。打造大模型时代的「Linux」,又意味着什么?智源研究院在其中担任何种角色?



这就要从大模型的发展历程开始说起。2020 年,OpenAI 发布了基于 Transformer 的 1750 亿参数「GPT-3」,让人们领略了「大模型」的魅力。后来的这几年,海外的顶尖学术机构和业界实验室争相入局,造出了 Switch Transformer、威震天 - 图灵、PaLM、Gato 等知名大模型。


在国内的 AI 领域,智源研究院是最早投入研发「大模型」的学术机构,是国内大模型研究的先行者。从 2020 年搭建大模型攻关团队,到 2021 年 6 月推出当时规模最大、性能领先的大模型「悟道 2.0」,再到今天的在多模态领域能力全线领先的「悟道 3.0」,智源研究院预见并见证了从「大炼模型」」到「炼大模型」的趋势转变。此外,智源研究院从 2020 年起培育和支撑了国内第一批大模型领域的科研人才和团队的快速成长,这些人才和团队已经成为活跃在国内大模型舞台的中坚力量。


或许是这些前人的经验与智慧,催生出了划时代意义的「ChatGPT」。人们可以通过同一个模型完成多场景任务,大模型成为了支撑无数智能应用的基础平台,使得人工智能技术的大规模应用变为可能,加速了智能时代的真正到来。


但从学术研究、产业落地的维度去展望,我们仍意识到,ChatGPT 想要从一种前沿技术转变为全民普及的应用产品,还缺少「开源操作系统」这种关键要素的推动。当前深度学习阶段的人工智能系统具有难以透彻理解的技术特性,智能时代不应封闭、必须开放、最好开源,特别是作为基础平台的大模型需要全面开源、接受监督,才能得到信任、采纳和广泛应用。


正如近段时间的 AI 圈流传甚广的一张图:



黄铁军指出,大模型是中间状态,既不是最终的服务,也不是研发对象。ChatGPT 的火热只是大模型技术「海平面以上」的冰山一角,可以理解为「一种标志性的 AI 产品」,但深藏于「海平面以下」的大模型技术体系才是更值得关注的部分。


FlagOpen 正是为了建立大模型技术体系而开展的基础性工作,其建立初衷就如同多年前的 Linux,不同之处在于,如今大模型领域的「Linux」在垄断力量形成之前就已成立,并将通过开源开放的形式促进各类机构共创共享,形成良好生态,共同打牢大模型发展根基。


「授人以鱼,不如授人以渔」


在大模型的浪潮之后,未来走什么样的技术路线,什么样的算法、技术会在里面发挥重要的作用,还是一个开放的问题。


这一领域注定会涌入大量的创新型人才,在前所未有的历史机遇里找到自己的位置,为大模型技术体系做出自己的贡献。而实现这一愿景的方法,不应该仅限于加入大公司或者少数极有实力的机构这一条路径。


自 ChatGPT 爆火之后,追逐热点的行为并不少见。但深思熟虑之后,我们能够得出结论:与其说「谁会成为中国的 OpenAI」,不如关注可以做些什么推动中国诞生更多的「OpenAI」。


「智源的 FlagOpen 希望为这些搞大模型研究的人提供展示、验证自己能力的平台,推动学界、业界等多方协同,而不是只有少数几个机构、企业掌握相关的技术和资源,推动大模型研究的长远发展。」黄铁军表示。


这也是 FlagOpen 的出发点:从长远考虑,打好根基,形成完整的大模型技术体系及强大的资源能力,才能产生更多的「ChatGPT 级」的现场级应用。


FlagOpen 的推出也许会深刻影响未来的中国 AI,更与时代中的每一位 AI 开发者息息相关。

相关文章
|
JavaScript Windows
npm install安装太慢或者失败,可以尝试一下以下方法
npm install安装太慢或者失败,可以尝试一下以下方法
3309 1
|
缓存 JSON 算法
(三).NET Core WebAPI集成JWT,实现身份验证
前两篇文章给大家介绍了在.NET Core中如何使用Swagger的文章,那今天给大家分享一下JWT 在做接口开发的同学可能都有感受,我的接口如何保护的问题,如果没有身份验证,那不是接口完全暴露在外面,任意使人调用,这显然不是我们想要的一种结果。当然做身份验证的方式有多种,今天给大家讲一种比较流行了,标准的身份验证JWT 什么是JWT?
|
机器学习/深度学习 存储 测试技术
【YOLOv8改进】iRMB: 倒置残差移动块 (论文笔记+引入代码)
该专栏聚焦YOLO目标检测的创新改进与实战案例,提出了一种融合CNN和Transformer优点的轻量级模型——倒置残差移动块(iRMB)。iRMB旨在平衡参数、运算效率与性能,适用于资源有限的移动端。通过集成多头自注意力和卷积,iRMB在ImageNet-1K等基准上超越SOTA,同时在iPhone14上展现出比EdgeNeXt快2.8-4.0倍的速度。此外,iRMB设计简洁,适用于各种计算机视觉任务,展示出良好的泛化能力。代码示例展示了iRMB模块的实现细节。更多详细信息和配置可在相关链接中找到。
|
XML JSON 前端开发
HTTP协议,Content-Type格式介绍篇
通过理解和正确使用Content-Type头字段,可以确保数据在网络上传输时的正确性和高效性,提升网络应用的可靠性和用户体验。
1879 25
|
机器学习/深度学习 人工智能 机器人
智能废物管理系统:城市垃圾的自动化处理
【10月更文挑战第24天】智能废物管理系统利用物联网、大数据、人工智能和自动化机器人等技术,实现城市垃圾从分类、收集到处理的全过程自动化,提高处理效率,优化资源配置,提升居民参与度,降低运营成本,推动城市可持续发展。
1656 2
|
存储 弹性计算 数据管理
阿里云对象存储OSS收费标准:存储、流量和请求等多个计费项详解
阿里云对象存储OSS提供多样化的计费模式,涵盖存储、流量、请求等多项费用。存储费用方面,按量付费标准型为0.09元/GB/月,包年包月则有9元40GB等多种选择。流量费用仅对公网出方向收费,价格区间从0.25至0.50元/GB不等,支持按量付费与流量包抵扣两种方式。更多详情及精准报价,欢迎访问阿里云OSS官方页面。
8174 1
|
安全 算法 网络安全
过等保测评应该选择哪种SSL证书
在等保测评中,选择合适的SSL证书至关重要。推荐使用支持RSA、DSA、ECC或SM2、SM3、SM4等加密算法的证书,密钥长度至少2048位。应选择国内可信赖的CA机构颁发的证书,确保数据不出境。申请流程包括访问官网(如JoySSL)、注册账号、选择证书类型、提交申请、等待验证及下载安装。综合考虑证书类型、加密算法、CA机构等因素,确保网站安全合规。
|
机器学习/深度学习 测试技术 网络架构
【YOLOv10改进-注意力机制】MSCAAttention多尺度卷积注意力
YOLOv10专栏介绍了一种新的卷积网络架构SegNeXt,它在语义分割任务中展现出优于Transformer模型的效率和效果。SegNeXt通过名为Multi-Scale Convolutional Attention (MSCA)的组件,结合局部信息聚合、多尺度上下文捕获和通道关系模拟,提升了性能。在多个数据集上,SegNeXt以较少参数实现了超过现有SOTA的性能,特别是在Pascal VOC 2012上,以1/10的参数量达到90.6%的mIoU。YOLOv10引入了MSCA模块,用于增强目标检测的上下文关注。相关代码和配置详情可在链接中找到。
|
计算机视觉
OpenCV(三十四):轮廓外接最大、最小矩形和多边形拟合
OpenCV(三十四):轮廓外接最大、最小矩形和多边形拟合
1827 0

热门文章

最新文章