解读顺网算力与AI,破局AIGC落地“最后一公里”

本文涉及的产品
无影云电脑个人版,1个月黄金款+200核时
无影云电脑企业版,4核8GB 120小时 1个月
简介: 解读顺网算力与AI,破局AIGC落地“最后一公里”

本文来自云科技时代公众号

全球知名AI科学家吴恩达和李飞飞在CES 2024上预测,2024年将是AI技术继续深化的一年,将成为下一次数字或工业革命真正的变革性驱动力。吴恩达还预测了2024年AI可能的突破性进展,其中包括边缘AI。吴恩达对边缘AI寄予厚望,他认为在笔记本电脑、PC或工业PC上运行边缘AI的能力,实际上比大多人认为的要好得多。


边缘AI对于AIGC应用落地来说至关重要,是AIGC应用落地的“最后一公里”。在2024年1月,中国工程院院士邬贺铨表示,解决AIGC应用落地的“最后一公里”,才能真正发挥大模型、AIGC等新技术、新产品的作用,实现整个AI产业链和生态的繁荣。解决了AIGC应用落地“最后一公里”,就意味着要极大降低AIGC使用门槛,让企业都能真正提升效率,让普通百姓感受到大模型AI带来的便利。

b3e2d7446ab73730ec9bb706de884ec7.jpg

那么,除了刚刚投放市场的几款AI PC和能运行本地大模型的手机外,有没有能够盘活现有PC和手机设备的边缘AI?2024年1月18日,作为网游和电竞主流运行平台,顺网科技举办了“跃迁·向未来”战略及产品升级发布会——推出了以顺网算力和灵悉智能体引擎为代表的算力和AI两大新业务板块。其中,顺网算力从边缘AI发力,以现有300+座顺网雲机房为核心,让全国各地的消费者和企业马上就能享受AIGC红利,再反向打造智算中心。


不需要AI PC或AI手机,也能马上“跃迁”获得AIGC能力。顺网科技是如何以独特产品和市场地位,破局AIGC应用落地“最后一公里”,从而切入算力和大模型AI产业的呢?



顺网算力的“三驾马车”

2023年以来,智算中心的建设在全国如火如荼地开展。根据IDC圈的不完全统计,截至2023年底,全国带有“智算中心”的项目有128个,其中83个项目的规模对外披露,规模总和超过7.7万P。这些智算中心的算力规模一般在50P、100P、500P、1000P,有的甚至到12000P以上,投资规模动辄达数亿元。那么,顺网科技是另一家囤积数据中心GPU的上市公司么?


在“跃迁·向未来”顺网科技发布会上,顺网科技CEO樊星博士介绍了顺网算力业务板块及三大主要产品:由算力云与智算中心构成的算力池、算力塔、算力市场。这三大板块构成了顺网算力的“三驾马车”,也代表了顺网科技自2023年以来对于整个大模型AI与算力产业的观察,最终选择了以“三驾马车”的方式切入算力产业,而不是盲目跟进智算中心的建设。

b3ac56c2c7b3466f167f815520c74bd1.jpg

首先来看算力池。顺网算力云业务依托于分布式消费级GPU集群,而智算中心业务则基于数据中心级GPU集群,这两大算力共同构成了底层多元异构算力池,为上层应用提供强大的算力支撑。其中,定位于边缘计算

的顺网算力云,由之前就已经建成的顺网雲升级而来,而智算中心为新建产品并将首先服务于顺网科技的内部需求。

作为顺网算力云的前身,顺网雲为面向网吧和电竞垂直行业的云服务,自2017年开始在全国城市投入机房建设,就近为当地的网咖、电竞酒店等公共上网场所提供云服务,当地网咖、电竞酒店等公共上网场所只要一条接入顺网雲节点的专线就可替代之前的自建服务器机房。到2024年1月,顺网雲已经在全国一至五线城市,建成300+顺网雲机房,为超过50万终端提供服务,服务上亿用户。随着电竞产业的崛起,顺网雲进一步拓展了算力上云,能够为100KM辐射半径内用户提供高品质娱乐体验。基于顺网雲机房的能力,顺网云电脑产品还能覆盖智慧教学、智慧家庭、企业办公等更多场景。


而在大模型AI的“狂飙”下,以高性能、大带宽和低时延为特色的顺网雲机房,也将覆盖边缘AI推理计算任务,为AI和AIGC应用落地打通最后一公里。与公有云服务商和互联网公司的CDN节点机房不同,同样是遍布全国城市的中小机房,顺网雲机房配备了大量带有消费级GPU的服务器,这些消费级GPU单卡就可以承载70亿到100亿规模的推理大模型,当地用户无需升级自己的PC和手机设备就可以直接使用AIGC应用。


根据樊星博士的介绍,升级后的顺网算力云将覆盖GPU云电脑、视觉类(推理&训练)、视频渲染、实时决策、物联网采集、深度学习等小型算力(<500G级)、中型算力(G-T级)、大型算力(T-P级)以及时延要求在10 ms~1000 ms的算力业务需求。


当然,如果要覆盖和保障全国所有城市的AIGC应用体验,除了顺网科技自营的城市机房外,还需要更多合作伙伴的加入,共同填满AIGC落地最后一公里的边缘算力缺口。为此,顺网科技推出了算力市场。

c07ab27448de254c3fdc65f6a812f8b3.jpg

顺网算力市场是一个聚焦AI及相关领域的算力服务平台,依托顺网算力平台,整合各方资源和多种GPU类型的算力,提供开箱即用的高性价比算力服务。顺网算力市场的特色包括:算力融合,普惠实用;分时定价,灵活易用;统一交付,适配好用;专注AI,开箱即用。


顺网算力市场类似于网约车平台,企业用户能够在这里对接多种类型的算力供给,包括顺网科技自建算力、电竞行业生态伙伴的算力以及其他合作伙伴的算力。顺网算力市场在供给侧的能力建设,主要围绕智能调度、高效运维、交付接入;在需求端的能力建设,主要围绕提供稳定安全的运行环境、丰富的AI计算框架和模型部署镜像。


樊星博士强调,顺网算力市场在边缘AI算力交付方面,是以工程化开箱即用的方式向企业用户进行交付。过去十几年的网吧超大型游戏安装交付,让顺网科技积累了丰富的经验,这实际上就是解决用户的“最后一公里”问题;而今天中小AI应用开发需要部署一个AI计算框架或者模型,其实工作量非常大,不仅要购买算力,还要工程化落地完整的AIGC应用。


具体来看顺网算力市场需求端的交付流程,包括:注册登录选择算力;选择模型&框架、确认服务;支持费用完成交付;生成账单,回看记录。因此,顺网算力网不仅是简单交付算力,而是算力+服务的交付方式,帮助客户开箱即用、真正用上AI。


作为创新的边缘算力调度平台,顺网算力云的技术特色包括:智能算力管理调度、敏捷云边端协同、统一边缘节点管理、Airlinks低延迟传输协议、智能高效算法策略、算力场景化匹配、资源管理系统和内容分发体系等。

有了算力池和算力市场,接下来要解决的就是边缘算力的调度,这就是顺网算力塔。顺网算力塔是一个分布式GPU算力管理平台,旨在解决行业算力“不好管”、“闲置多”两大痛点问题,实现算力的统一管理,将闲时算力向AI应用领域提供服务,兼容AI推理。

f3a26638bdd40d0e1d336218b2009bc0.jpg

顺网算力塔的四大核心技术包括:统一管理,纳管行业海量的各类型GPU算力;存算分离,存储和计算分离,时分复用容器化技术,支持更细粒度切分;云边协同,以云化方式管理,统一提供服务,以边缘方式交付;边缘自治,实现边缘业务自治,不影响边缘已有业务。


顺网算力塔目前提供两大解决方案:GPU云电脑和AI应用云服务。GPU云电脑解决方案提供低延迟云电脑,操作系统与本地算力体验一致,细分为电竞解决方案(网咖、电竞酒店、家庭)、企业和教育解决方案(3D设计、实景三维等)、XR解决方案(云VR、云AR、云MR)。AI应用云服务解决方案将英特尔、NVIDIA等厂


最后就是在建的顺网智算中心,将配备数据中心级GPU集群,满足超大型算力(P级)的需求,包括大模型训练、超算和大型数据处理等。顺网智算中心与顺网算力云业务互补,形成多层次的算力体系。同时,也可以通过算力塔对顺网智算中心进行调度,也就是在用户需要的时候将顺网智算中心纳入算力市场,一并进行更简单的交付。



顺网AI:以智识中枢、陪伴设定为特色的智能体开发

“立足算力,聚焦AI”是顺网科技的新战略。那么,有了算力布局之后,顺网科技的AI业务板块又有怎样的特色呢?这就是面向智能体开发的灵悉智能体引擎。智能体是继大模型之后的又一个大热概念,但顺网科技对于智能体的定义更偏向实际应用开发:Agent Engine,即用于AI Agent智能体开发的中间件。

b39395645398d96f89a5cbbfb56ae5fd.jpg

先来看顺网科技的“AI应用的五层范式”,自下而上为:算力层、基座模型层、模型池层、智能体层和应用层。算力层由智算中心和算力云组成,基座模型层包括文心一言、ChatGLM、MOSS等开源和商业基础大模型,模型池层包括MaaS模型即服务、可信AI、提示词工程、预训练、微调、数据处理、量化和部署等,智能体层包括由感知反馈、陪伴设定、智识中枢、执行体系所构成的智能体引擎,应用层包括生成式工具、陪伴应用等。


简单理解,“AI应用的五层范式”中的算力层提供从中心到边缘的算力池,基座模型层提供基础大模型,模型池层提供大模型微调以及定制行业模型的工具,智能体层则提供以陪伴为目标的AIGC应用开发中间件,最上层就是直接支持AIGC应用封装的工具层。因此,顺网科技的智能体引擎定位于支持智能体开发的中间件,而目前灵悉智能体引擎以陪伴式AIGC应用为主,也就是本次战略升级所推出的陪伴互动应用“唠唠”。


灵悉智能体引擎的两大特色是智识中枢和陪伴设定。智识中枢相当于智能体的大脑,理解用户意思,进行思考和做出决策。灵悉智能体引擎的智识中枢包括模型池、知识、记忆、意图理解与决策和行动规划等。其中,规划决策解决方案由顺网科技与浙工大智能服务计算实验室合作开发,双方还合作降低了智识中枢的门槛——基于顺网科技所掌握行业数据,选用了多种底座模型,实现了智识中枢的模型解耦,让开发者可以选用和适配相应的模型,通过预训练和微调完成智识中枢的构造。

814dbbcb6bd9391d739c35979106d532.jpg

智能决策模型的构造过程包括:获取娱乐、游戏、休闲等行业数据;通过数据增强,提升从数据模板到低质大规模数据、高质数据、训练数据集的数据构造;经过数据校验输入到基座模型;模型训练,包括预训练、指令微调、轻量级模型压缩技术LoRA等;效果评估,包括领域效果评估、通用效果评估、安全评估等;最终完成模型并至推理。在基础性评估方面,目前智能决策模型构造的模型参数规模可达约百亿水平,对标1750亿参数规模的大模型,基本达到了相当的程度,由此体现出了大模型成本可降低和可控的价值。这也意味着,在面对未来海量应用的过程中,智识中枢可以快速帮助人工智能创新团队完成业务。


陪伴设定则是打造智能体的内在和特点、自我定义,让智能体更具个性,包括角色定义、行为定义、属性定义、知识定义和能力定义等。陪伴设定面向各类陪伴式AIGC应用,供顺网科技以及合作伙伴开发陪伴类AIGC应用。在陪伴设定上,灵悉智能体引擎提供两种大类场景:一是个性定制,提供丰富的定制项,供开发者自行定制;二是快速定制,降低开发门槛,以开箱即用的方式,帮助开发者快速实现陪伴类智能体应用。


那么,如何评估智能体的陪伴能力?在顺网科技的摸索过程中,总结了一套评估方法——AI  Companion  Benchmark艾卡帕尼评估体系。顺网科技选择了国内比较领先的智能体与灵悉智能体引擎进行打分对比,发现顺网智能体已经与领先大模型直接封装的智能体达到几乎相当的陪伴水平,其意义在于顺网智能体可以显著改善智能体的成本结构,特别是自营算力可满足海量陪伴需求,为开发者和企业带来巨大价值。


从顺网AI的布局来看,既定位于智能体开发这样一个大赛道,又从当下需求最多的陪伴型智能体开始着手,为智能体应用开发提供创新的中间件——智能体引擎,在独特的顺网算力池支持下,打通从大模型到最终用户体验的全链条。未来,灵悉智能体引擎将建立开放生态,引入办公工具、模型服务、电商服务、客服服务、游戏服务、生活服务、资讯服务、AIGC服务等服务插件,而面向的场景也将从陪伴扩展到问答、创作、娱乐、情感、助理等。



2024,“唠唠”AI信仰

自从2015年AlphaGO与围棋世界冠军李世石的世纪大战以来,以深度学习为代表的AI开始大范围进入人们的认知。同样在2015年,IBM开始推出105年历史上第三个品牌“认知商业”,作为商业化AI技术代表的IBM Watson,在全球掀起了AI商业化浪潮。不过,到2023年之前,AI技术对于生活、工作和商业的渗透并没有达到人们的预期,更加谈不上建立人们对AI的信仰……直到大模型的出现。


经过2023年一整年的快速进展,全世界开始相信大模型AI带来的不只是一次风口,而将真正带来生产力变革。顺网科技董事长华勇在“跃迁·向未来”发布会上表示,他其实之前已经退休了,但在2023年5月选择回归公司,最大的原因就是感受到一个新的时代要到来了。在华勇回归后发布的第一封公开信中,他表示“AI带来的‘巨变时刻’是几十年一遇的。顺网作为一家领先的互联网科技企业,绝对不能、也绝对不会错过这样的重大机遇。”

58610cc86507d5eb719631a528530c2c.jpg

华勇在“跃迁·向未来”发布会上再次强调:“世界创新很多,但真正意义上能够称之为'生产力革命',之前只有三次——第一次是蒸汽时代,第二次是电气时代,第三次是互联网的信息时代,直至这次的人工智能时代。而且,我们也相信这次人工智能的革命可能是人类历史上最大的一次生产力革命,可能也是最快的一次。”为此,华勇也提出了“AI信仰”,他说:“作为公司包括合作伙伴,有一点改变,就是信仰的改变,一定要相信这个时代的到来,要相信这个世界接下来将发生巨变,因为只有相信才能改变它。”


与微软一样,于2005年成立的顺网科技根植于PC互联网时代的网吧行业,在这个行业坚持了18年,在取得成功的同时,也由于深深扎根于PC技术领域,而错过了移动互联网时代。根据顺网科技2022年年报,公司在2022年实现营业收入11.24亿元,营收增长9.1%,而在2023年前三季度公司已经实现营收11.09亿元,同比增长34.08%。顺网科技与微软一样,由于在PC时代太过成功而且一直保持成功,因而无法登上移动互联网的巨轮。那么如今大模型的巨轮来了,顺网科技不能再错过上船的机会。


简单理解,顺网科技在2023年处于与2014年微软类似的情况,同样都是公司鼎盛时期,同样都面临技术范式的变革,同样都是在公司最成功的时候要通过战略转型升级打开增长的第二曲线。那么,在2014年的时候,微软选择了老兵萨提亚·纳德拉出任新一任CEO,而微软在萨提亚·纳德拉的带领下一路跃升到全球第一大市值公司。那么,华勇的回归也是老兵回归,而华勇也与萨提亚·纳德拉一样展开了公司文化变革——萨提亚·纳德拉当时建立的云计算信仰,而华勇则建立的是AI信仰。


事实上,预训练大模型的通用AI能力,已经横扫全球,全面突破技术圈,特别是ChatGPT的惊艳体验、微软全线产品接入GPT、英特尔和伙伴推动AI PC……甚至微软在键盘上新增了“Copilot”键,可以说直接把大模型的能力以及生产力提升体验,带给了每一个人。现在已经不是当年马云说“只有相信,才能看见”的时候了,全球市场都已经看见大模型AI带来的变革正在真真切切、实实在在地发生。


华勇在“跃迁·向未来”发布会后接受采访时表示,顺网科技是一家行业特性非常明确的公司,在PC互联网时期取得了成功,进入移动互联网的时候放慢了脚步,原因是没有找到合适的场景和产品,类似网吧这样的PC互联网场景无法移植到移动互联网上,公司团队完全不适应,因为是两种完全不同的业务基因。而这次人工智能时代到来后,其实一直也不确定是否要跟进,自华勇于2023年5月回归后,公司团队才确定了方向,下决心冲上去。


顺网科技自2019年起就开始涉足深度学习等AI技术的实践,当时的许多公司专家都在对DL、CNN、RNN、CV等方向进行深入研究,这种技术探索和实践为顺网科技在AI领域积累了宝贵的经验。随着大语言模型、多模态模型、视觉模型等新兴技术架构的兴起,顺网科技之前的技术沉淀,为后面快速适应和掌握新技术,并应用到实际业务中,打下了扎实的基础。顺网科技在2023年3月成立AI创能中心,基于前期技术能力的积累,深度探索与研究大模型和GenAI等人工智能领域。


自2023年5月华勇回归后,在他的带领下,顺网科技与微软一样选择了一条结合公司第一曲线、适合公司基因的第二曲线——不是盲目上马建设智算中心,而是在原有的电竞娱乐行业优势上进行升级,复用公司已有的顺网雲机房资源,从边缘AI计算切入并将重点放到了软件方案的研发,为现有的客群提供增值服务,从而形成良性商业循环,再投入建设智算中心,而智算中心也首先服务于公司内部需求,之后再对外服务。换言之,在大模型的狂热中,顺网科技选择了一条非常理性的商业化道路,而且借助原有的城市机房算力资源而卡位到边缘AI计算这样一个独具市场优势的定位。


在“跃迁·向未来”发布会上,顺网科技展示了基于灵悉智能体引擎开发的AI陪伴应用“唠唠”。“唠唠”的意义在于:一方面顺网科技的优势产业领域是电竞游戏娱乐行业,该行业与年轻人的连接最为紧密,因而也让顺网科技更加深入地了解年轻人的需求和喜好,现在年轻用户的很多生活习惯都在发生转变,时间更多地向线上、休闲板块迁移,用户在这个过程中渴望有更多的陪伴,因此“唠唠”能够首先实现对于现有电竞游戏娱乐用户的增值服务;另一方面,“唠唠”也是顺网算力与AI板块的“小白鼠”,跑通了顺网算力与AI所有的新产品、新技术与新服务,向业界和合作伙伴验证了顺网算力与AI产品和方案的可行性。


写在最后

顺网科技的发展历程是从解决公共上网行业的上网问题,逐渐演变为解决各行业的“上好算力,用好AI”的问题,在这个过程中解决了AIGC落地最后一公司的问题。顺网算力的升级不仅仅是技术层面的变革,更是对集团AI业务的深度赋能。从原先的基于边缘计算的电竞行业垂直算力服务,到如今的多层次算力上云服务,顺网科技正在将服务范围扩展至更多泛行业场景。


顺网科技紧紧围绕原有的技术、用户和市场优势,向算力和AIGC升级,通过升级的技术和产品,服务好现有的用户群,再向新的用户群拓展。大模型和AIGC带来的生产力提升,主要体现在PC这样的高生产力设备上,AI PC2024年初的快速崛起也进一步印证了这个趋势,这为顺网科技在大模型时代找到了可移植PC互联网业务的场景,也符合团队和公司的DNA。可以说,顺网科技向算力和AI的战略升级,既是AI信仰,更是顺势而为。


相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
|
3月前
|
数据采集 机器学习/深度学习 人工智能
Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task1笔记
这段内容介绍了一个使用Stable Diffusion与LoRA技术创建定制化二次元图像生成模型的全流程。首先,通过安装必要的软件包如Data-Juicer和DiffSynth-Studio准备开发环境。接着,下载并处理二次元图像数据集,利用Data-Juicer进行数据清洗和筛选,确保图像质量和尺寸的一致性。随后,训练一个针对二次元风格优化的LoRA模型,并调整参数以控制模型复杂度。完成训练后,加载模型并通过精心设计的提示词(prompt)生成一系列高质量的二次元图像,展示模型对细节和艺术风格的理解与再现能力。整个过程展示了从数据准备到模型训练及结果生成的完整步骤,为定制化图像提供了方向。
|
26天前
|
人工智能 自然语言处理 数据挖掘
Claude 3.5:一场AI技术的惊艳飞跃 | AIGC
在这个科技日新月异的时代,人工智能(AI)的进步令人惊叹。博主体验了Claude 3.5 Sonnet的最新功能,对其卓越的性能、强大的内容创作与理解能力、创新的Artifacts功能、视觉理解与文本转录能力、革命性的“computeruse”功能、广泛的应用场景与兼容性以及成本效益和易用性深感震撼。这篇介绍将带你一窥其技术前沿的魅力。【10月更文挑战第12天】
57 1
|
1月前
|
人工智能 自然语言处理 算法
AI 系统的出现与算力发展
AI系统的崛起得益于大数据积累、强大算力与先进算法的共同驱动。大数据为AI提供了丰富学习材料,促进算法优化与应用创新;算法进步则提升了图像识别和自然语言处理等领域的性能,扩展了AI的应用范围。此外,GPU、TPU等专用芯片大幅加快了模型训练速度,通过硬件创新进一步增强了AI系统的效能。未来,算法与硬件的协同优化将推动AI技术迈向更高智能水平。
60 1
|
2月前
|
存储 人工智能 算法
阿里云AI基础设施升级亮相,模型算力利用率提升超20%
阿里云AI基础设施升级亮相,模型算力利用率提升超20%
218 18
|
2月前
|
人工智能 物联网 开发者
魔搭上线AIGC专区,为开发者提供一站式AI创作开发平台
魔搭上线AIGC专区,首批上架157个风格化大模型,专业文生图全免费~
127 16
|
2月前
|
人工智能 自动驾驶 云栖大会
何小鹏驾驶“全球首款AI汽车”亮相云栖大会 深化与阿里云AI算力合作
小鹏汽车加速端到端自动驾驶落地 深化与阿里云AI算力合作
388 13
|
30天前
|
人工智能 算法 JavaScript
无界SaaS与AI算力算法,链接裂变万企万商万物互联
本文介绍了一种基于无界SaaS与AI算力算法的商业模式的技术实现方案,涵盖前端、后端、数据库及AI算法等关键部分。通过React.js构建用户界面,Node.js与Express搭建后端服务,MongoDB存储数据,TensorFlow实现AI功能。提供了项目结构、代码示例及部署建议,强调了安全性、可扩展性和性能优化的重要性。
|
2月前
|
人工智能 算法 数据中心
从“纸面算力”到“好用算力”,超聚变打通AI+“最后一公里”
2024年,《政府工作报告》首提“AI+”行动,推动人工智能成为新质生产力引擎。市场层面,AI+正深刻变革金融、医疗、制造等行业,但AI算力瓶颈依然存在。在2024年中国算力大会上,超聚变等企业探讨了算力的绿色化和效能提升。超聚变推出的FusionPoD for AI全液冷服务器,显著降低能耗并提升算力效能,其FusionOne AI解决方案也加速了AI在各行业的落地。这些创新将重塑算力格局,推动智能革命。
|
3月前
|
机器学习/深度学习 人工智能 中间件
解读顺网算力与AI,破局AIGC落地“最后一公里”
解读顺网算力与AI,破局AIGC落地“最后一公里”
|
3月前
|
数据采集 机器学习/深度学习 人工智能
Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task1笔记
这段内容介绍了一个使用LoRA技术定制Stable Diffusion模型的工作流程。首先定义了提示词的结构,接着概述了LoRA作为轻量级微调方法的角色。ComfyUI作为一个图形化工具,简化了AI模型的配置与操作。示例脚本展示了如何通过Data-Juicer和DiffSynth-Studio进行数据准备、模型训练,并最终生成特定风格的二次元图像。通过不同的种子和提示词,生成了一系列具有一致风格但内容各异的高质量二次元角色图像。