解读顺网算力与AI,破局AIGC落地“最后一公里”

本文涉及的产品
无影云电脑企业版,4核8GB 120小时 1个月
无影云电脑企业版,4核8GB 120小时 1个月
简介: 解读顺网算力与AI,破局AIGC落地“最后一公里”

本文来自云科技时代公众号

全球知名AI科学家吴恩达和李飞飞在CES 2024上预测,2024年将是AI技术继续深化的一年,将成为下一次数字或工业革命真正的变革性驱动力。吴恩达还预测了2024年AI可能的突破性进展,其中包括边缘AI。吴恩达对边缘AI寄予厚望,他认为在笔记本电脑、PC或工业PC上运行边缘AI的能力,实际上比大多人认为的要好得多。


边缘AI对于AIGC应用落地来说至关重要,是AIGC应用落地的“最后一公里”。在2024年1月,中国工程院院士邬贺铨表示,解决AIGC应用落地的“最后一公里”,才能真正发挥大模型、AIGC等新技术、新产品的作用,实现整个AI产业链和生态的繁荣。解决了AIGC应用落地“最后一公里”,就意味着要极大降低AIGC使用门槛,让企业都能真正提升效率,让普通百姓感受到大模型AI带来的便利。

b3e2d7446ab73730ec9bb706de884ec7.jpg

那么,除了刚刚投放市场的几款AI PC和能运行本地大模型的手机外,有没有能够盘活现有PC和手机设备的边缘AI?2024年1月18日,作为网游和电竞主流运行平台,顺网科技举办了“跃迁·向未来”战略及产品升级发布会——推出了以顺网算力和灵悉智能体引擎为代表的算力和AI两大新业务板块。其中,顺网算力从边缘AI发力,以现有300+座顺网雲机房为核心,让全国各地的消费者和企业马上就能享受AIGC红利,再反向打造智算中心。


不需要AI PC或AI手机,也能马上“跃迁”获得AIGC能力。顺网科技是如何以独特产品和市场地位,破局AIGC应用落地“最后一公里”,从而切入算力和大模型AI产业的呢?



顺网算力的“三驾马车”

2023年以来,智算中心的建设在全国如火如荼地开展。根据IDC圈的不完全统计,截至2023年底,全国带有“智算中心”的项目有128个,其中83个项目的规模对外披露,规模总和超过7.7万P。这些智算中心的算力规模一般在50P、100P、500P、1000P,有的甚至到12000P以上,投资规模动辄达数亿元。那么,顺网科技是另一家囤积数据中心GPU的上市公司么?


在“跃迁·向未来”顺网科技发布会上,顺网科技CEO樊星博士介绍了顺网算力业务板块及三大主要产品:由算力云与智算中心构成的算力池、算力塔、算力市场。这三大板块构成了顺网算力的“三驾马车”,也代表了顺网科技自2023年以来对于整个大模型AI与算力产业的观察,最终选择了以“三驾马车”的方式切入算力产业,而不是盲目跟进智算中心的建设。

b3ac56c2c7b3466f167f815520c74bd1.jpg

首先来看算力池。顺网算力云业务依托于分布式消费级GPU集群,而智算中心业务则基于数据中心级GPU集群,这两大算力共同构成了底层多元异构算力池,为上层应用提供强大的算力支撑。其中,定位于边缘计算

的顺网算力云,由之前就已经建成的顺网雲升级而来,而智算中心为新建产品并将首先服务于顺网科技的内部需求。

作为顺网算力云的前身,顺网雲为面向网吧和电竞垂直行业的云服务,自2017年开始在全国城市投入机房建设,就近为当地的网咖、电竞酒店等公共上网场所提供云服务,当地网咖、电竞酒店等公共上网场所只要一条接入顺网雲节点的专线就可替代之前的自建服务器机房。到2024年1月,顺网雲已经在全国一至五线城市,建成300+顺网雲机房,为超过50万终端提供服务,服务上亿用户。随着电竞产业的崛起,顺网雲进一步拓展了算力上云,能够为100KM辐射半径内用户提供高品质娱乐体验。基于顺网雲机房的能力,顺网云电脑产品还能覆盖智慧教学、智慧家庭、企业办公等更多场景。


而在大模型AI的“狂飙”下,以高性能、大带宽和低时延为特色的顺网雲机房,也将覆盖边缘AI推理计算任务,为AI和AIGC应用落地打通最后一公里。与公有云服务商和互联网公司的CDN节点机房不同,同样是遍布全国城市的中小机房,顺网雲机房配备了大量带有消费级GPU的服务器,这些消费级GPU单卡就可以承载70亿到100亿规模的推理大模型,当地用户无需升级自己的PC和手机设备就可以直接使用AIGC应用。


根据樊星博士的介绍,升级后的顺网算力云将覆盖GPU云电脑、视觉类(推理&训练)、视频渲染、实时决策、物联网采集、深度学习等小型算力(<500G级)、中型算力(G-T级)、大型算力(T-P级)以及时延要求在10 ms~1000 ms的算力业务需求。


当然,如果要覆盖和保障全国所有城市的AIGC应用体验,除了顺网科技自营的城市机房外,还需要更多合作伙伴的加入,共同填满AIGC落地最后一公里的边缘算力缺口。为此,顺网科技推出了算力市场。

c07ab27448de254c3fdc65f6a812f8b3.jpg

顺网算力市场是一个聚焦AI及相关领域的算力服务平台,依托顺网算力平台,整合各方资源和多种GPU类型的算力,提供开箱即用的高性价比算力服务。顺网算力市场的特色包括:算力融合,普惠实用;分时定价,灵活易用;统一交付,适配好用;专注AI,开箱即用。


顺网算力市场类似于网约车平台,企业用户能够在这里对接多种类型的算力供给,包括顺网科技自建算力、电竞行业生态伙伴的算力以及其他合作伙伴的算力。顺网算力市场在供给侧的能力建设,主要围绕智能调度、高效运维、交付接入;在需求端的能力建设,主要围绕提供稳定安全的运行环境、丰富的AI计算框架和模型部署镜像。


樊星博士强调,顺网算力市场在边缘AI算力交付方面,是以工程化开箱即用的方式向企业用户进行交付。过去十几年的网吧超大型游戏安装交付,让顺网科技积累了丰富的经验,这实际上就是解决用户的“最后一公里”问题;而今天中小AI应用开发需要部署一个AI计算框架或者模型,其实工作量非常大,不仅要购买算力,还要工程化落地完整的AIGC应用。


具体来看顺网算力市场需求端的交付流程,包括:注册登录选择算力;选择模型&框架、确认服务;支持费用完成交付;生成账单,回看记录。因此,顺网算力网不仅是简单交付算力,而是算力+服务的交付方式,帮助客户开箱即用、真正用上AI。


作为创新的边缘算力调度平台,顺网算力云的技术特色包括:智能算力管理调度、敏捷云边端协同、统一边缘节点管理、Airlinks低延迟传输协议、智能高效算法策略、算力场景化匹配、资源管理系统和内容分发体系等。

有了算力池和算力市场,接下来要解决的就是边缘算力的调度,这就是顺网算力塔。顺网算力塔是一个分布式GPU算力管理平台,旨在解决行业算力“不好管”、“闲置多”两大痛点问题,实现算力的统一管理,将闲时算力向AI应用领域提供服务,兼容AI推理。

f3a26638bdd40d0e1d336218b2009bc0.jpg

顺网算力塔的四大核心技术包括:统一管理,纳管行业海量的各类型GPU算力;存算分离,存储和计算分离,时分复用容器化技术,支持更细粒度切分;云边协同,以云化方式管理,统一提供服务,以边缘方式交付;边缘自治,实现边缘业务自治,不影响边缘已有业务。


顺网算力塔目前提供两大解决方案:GPU云电脑和AI应用云服务。GPU云电脑解决方案提供低延迟云电脑,操作系统与本地算力体验一致,细分为电竞解决方案(网咖、电竞酒店、家庭)、企业和教育解决方案(3D设计、实景三维等)、XR解决方案(云VR、云AR、云MR)。AI应用云服务解决方案将英特尔、NVIDIA等厂


最后就是在建的顺网智算中心,将配备数据中心级GPU集群,满足超大型算力(P级)的需求,包括大模型训练、超算和大型数据处理等。顺网智算中心与顺网算力云业务互补,形成多层次的算力体系。同时,也可以通过算力塔对顺网智算中心进行调度,也就是在用户需要的时候将顺网智算中心纳入算力市场,一并进行更简单的交付。



顺网AI:以智识中枢、陪伴设定为特色的智能体开发

“立足算力,聚焦AI”是顺网科技的新战略。那么,有了算力布局之后,顺网科技的AI业务板块又有怎样的特色呢?这就是面向智能体开发的灵悉智能体引擎。智能体是继大模型之后的又一个大热概念,但顺网科技对于智能体的定义更偏向实际应用开发:Agent Engine,即用于AI Agent智能体开发的中间件。

b39395645398d96f89a5cbbfb56ae5fd.jpg

先来看顺网科技的“AI应用的五层范式”,自下而上为:算力层、基座模型层、模型池层、智能体层和应用层。算力层由智算中心和算力云组成,基座模型层包括文心一言、ChatGLM、MOSS等开源和商业基础大模型,模型池层包括MaaS模型即服务、可信AI、提示词工程、预训练、微调、数据处理、量化和部署等,智能体层包括由感知反馈、陪伴设定、智识中枢、执行体系所构成的智能体引擎,应用层包括生成式工具、陪伴应用等。


简单理解,“AI应用的五层范式”中的算力层提供从中心到边缘的算力池,基座模型层提供基础大模型,模型池层提供大模型微调以及定制行业模型的工具,智能体层则提供以陪伴为目标的AIGC应用开发中间件,最上层就是直接支持AIGC应用封装的工具层。因此,顺网科技的智能体引擎定位于支持智能体开发的中间件,而目前灵悉智能体引擎以陪伴式AIGC应用为主,也就是本次战略升级所推出的陪伴互动应用“唠唠”。


灵悉智能体引擎的两大特色是智识中枢和陪伴设定。智识中枢相当于智能体的大脑,理解用户意思,进行思考和做出决策。灵悉智能体引擎的智识中枢包括模型池、知识、记忆、意图理解与决策和行动规划等。其中,规划决策解决方案由顺网科技与浙工大智能服务计算实验室合作开发,双方还合作降低了智识中枢的门槛——基于顺网科技所掌握行业数据,选用了多种底座模型,实现了智识中枢的模型解耦,让开发者可以选用和适配相应的模型,通过预训练和微调完成智识中枢的构造。

814dbbcb6bd9391d739c35979106d532.jpg

智能决策模型的构造过程包括:获取娱乐、游戏、休闲等行业数据;通过数据增强,提升从数据模板到低质大规模数据、高质数据、训练数据集的数据构造;经过数据校验输入到基座模型;模型训练,包括预训练、指令微调、轻量级模型压缩技术LoRA等;效果评估,包括领域效果评估、通用效果评估、安全评估等;最终完成模型并至推理。在基础性评估方面,目前智能决策模型构造的模型参数规模可达约百亿水平,对标1750亿参数规模的大模型,基本达到了相当的程度,由此体现出了大模型成本可降低和可控的价值。这也意味着,在面对未来海量应用的过程中,智识中枢可以快速帮助人工智能创新团队完成业务。


陪伴设定则是打造智能体的内在和特点、自我定义,让智能体更具个性,包括角色定义、行为定义、属性定义、知识定义和能力定义等。陪伴设定面向各类陪伴式AIGC应用,供顺网科技以及合作伙伴开发陪伴类AIGC应用。在陪伴设定上,灵悉智能体引擎提供两种大类场景:一是个性定制,提供丰富的定制项,供开发者自行定制;二是快速定制,降低开发门槛,以开箱即用的方式,帮助开发者快速实现陪伴类智能体应用。


那么,如何评估智能体的陪伴能力?在顺网科技的摸索过程中,总结了一套评估方法——AI  Companion  Benchmark艾卡帕尼评估体系。顺网科技选择了国内比较领先的智能体与灵悉智能体引擎进行打分对比,发现顺网智能体已经与领先大模型直接封装的智能体达到几乎相当的陪伴水平,其意义在于顺网智能体可以显著改善智能体的成本结构,特别是自营算力可满足海量陪伴需求,为开发者和企业带来巨大价值。


从顺网AI的布局来看,既定位于智能体开发这样一个大赛道,又从当下需求最多的陪伴型智能体开始着手,为智能体应用开发提供创新的中间件——智能体引擎,在独特的顺网算力池支持下,打通从大模型到最终用户体验的全链条。未来,灵悉智能体引擎将建立开放生态,引入办公工具、模型服务、电商服务、客服服务、游戏服务、生活服务、资讯服务、AIGC服务等服务插件,而面向的场景也将从陪伴扩展到问答、创作、娱乐、情感、助理等。



2024,“唠唠”AI信仰

自从2015年AlphaGO与围棋世界冠军李世石的世纪大战以来,以深度学习为代表的AI开始大范围进入人们的认知。同样在2015年,IBM开始推出105年历史上第三个品牌“认知商业”,作为商业化AI技术代表的IBM Watson,在全球掀起了AI商业化浪潮。不过,到2023年之前,AI技术对于生活、工作和商业的渗透并没有达到人们的预期,更加谈不上建立人们对AI的信仰……直到大模型的出现。


经过2023年一整年的快速进展,全世界开始相信大模型AI带来的不只是一次风口,而将真正带来生产力变革。顺网科技董事长华勇在“跃迁·向未来”发布会上表示,他其实之前已经退休了,但在2023年5月选择回归公司,最大的原因就是感受到一个新的时代要到来了。在华勇回归后发布的第一封公开信中,他表示“AI带来的‘巨变时刻’是几十年一遇的。顺网作为一家领先的互联网科技企业,绝对不能、也绝对不会错过这样的重大机遇。”

58610cc86507d5eb719631a528530c2c.jpg

华勇在“跃迁·向未来”发布会上再次强调:“世界创新很多,但真正意义上能够称之为'生产力革命',之前只有三次——第一次是蒸汽时代,第二次是电气时代,第三次是互联网的信息时代,直至这次的人工智能时代。而且,我们也相信这次人工智能的革命可能是人类历史上最大的一次生产力革命,可能也是最快的一次。”为此,华勇也提出了“AI信仰”,他说:“作为公司包括合作伙伴,有一点改变,就是信仰的改变,一定要相信这个时代的到来,要相信这个世界接下来将发生巨变,因为只有相信才能改变它。”


与微软一样,于2005年成立的顺网科技根植于PC互联网时代的网吧行业,在这个行业坚持了18年,在取得成功的同时,也由于深深扎根于PC技术领域,而错过了移动互联网时代。根据顺网科技2022年年报,公司在2022年实现营业收入11.24亿元,营收增长9.1%,而在2023年前三季度公司已经实现营收11.09亿元,同比增长34.08%。顺网科技与微软一样,由于在PC时代太过成功而且一直保持成功,因而无法登上移动互联网的巨轮。那么如今大模型的巨轮来了,顺网科技不能再错过上船的机会。


简单理解,顺网科技在2023年处于与2014年微软类似的情况,同样都是公司鼎盛时期,同样都面临技术范式的变革,同样都是在公司最成功的时候要通过战略转型升级打开增长的第二曲线。那么,在2014年的时候,微软选择了老兵萨提亚·纳德拉出任新一任CEO,而微软在萨提亚·纳德拉的带领下一路跃升到全球第一大市值公司。那么,华勇的回归也是老兵回归,而华勇也与萨提亚·纳德拉一样展开了公司文化变革——萨提亚·纳德拉当时建立的云计算信仰,而华勇则建立的是AI信仰。


事实上,预训练大模型的通用AI能力,已经横扫全球,全面突破技术圈,特别是ChatGPT的惊艳体验、微软全线产品接入GPT、英特尔和伙伴推动AI PC……甚至微软在键盘上新增了“Copilot”键,可以说直接把大模型的能力以及生产力提升体验,带给了每一个人。现在已经不是当年马云说“只有相信,才能看见”的时候了,全球市场都已经看见大模型AI带来的变革正在真真切切、实实在在地发生。


华勇在“跃迁·向未来”发布会后接受采访时表示,顺网科技是一家行业特性非常明确的公司,在PC互联网时期取得了成功,进入移动互联网的时候放慢了脚步,原因是没有找到合适的场景和产品,类似网吧这样的PC互联网场景无法移植到移动互联网上,公司团队完全不适应,因为是两种完全不同的业务基因。而这次人工智能时代到来后,其实一直也不确定是否要跟进,自华勇于2023年5月回归后,公司团队才确定了方向,下决心冲上去。


顺网科技自2019年起就开始涉足深度学习等AI技术的实践,当时的许多公司专家都在对DL、CNN、RNN、CV等方向进行深入研究,这种技术探索和实践为顺网科技在AI领域积累了宝贵的经验。随着大语言模型、多模态模型、视觉模型等新兴技术架构的兴起,顺网科技之前的技术沉淀,为后面快速适应和掌握新技术,并应用到实际业务中,打下了扎实的基础。顺网科技在2023年3月成立AI创能中心,基于前期技术能力的积累,深度探索与研究大模型和GenAI等人工智能领域。


自2023年5月华勇回归后,在他的带领下,顺网科技与微软一样选择了一条结合公司第一曲线、适合公司基因的第二曲线——不是盲目上马建设智算中心,而是在原有的电竞娱乐行业优势上进行升级,复用公司已有的顺网雲机房资源,从边缘AI计算切入并将重点放到了软件方案的研发,为现有的客群提供增值服务,从而形成良性商业循环,再投入建设智算中心,而智算中心也首先服务于公司内部需求,之后再对外服务。换言之,在大模型的狂热中,顺网科技选择了一条非常理性的商业化道路,而且借助原有的城市机房算力资源而卡位到边缘AI计算这样一个独具市场优势的定位。


在“跃迁·向未来”发布会上,顺网科技展示了基于灵悉智能体引擎开发的AI陪伴应用“唠唠”。“唠唠”的意义在于:一方面顺网科技的优势产业领域是电竞游戏娱乐行业,该行业与年轻人的连接最为紧密,因而也让顺网科技更加深入地了解年轻人的需求和喜好,现在年轻用户的很多生活习惯都在发生转变,时间更多地向线上、休闲板块迁移,用户在这个过程中渴望有更多的陪伴,因此“唠唠”能够首先实现对于现有电竞游戏娱乐用户的增值服务;另一方面,“唠唠”也是顺网算力与AI板块的“小白鼠”,跑通了顺网算力与AI所有的新产品、新技术与新服务,向业界和合作伙伴验证了顺网算力与AI产品和方案的可行性。


写在最后

顺网科技的发展历程是从解决公共上网行业的上网问题,逐渐演变为解决各行业的“上好算力,用好AI”的问题,在这个过程中解决了AIGC落地最后一公司的问题。顺网算力的升级不仅仅是技术层面的变革,更是对集团AI业务的深度赋能。从原先的基于边缘计算的电竞行业垂直算力服务,到如今的多层次算力上云服务,顺网科技正在将服务范围扩展至更多泛行业场景。


顺网科技紧紧围绕原有的技术、用户和市场优势,向算力和AIGC升级,通过升级的技术和产品,服务好现有的用户群,再向新的用户群拓展。大模型和AIGC带来的生产力提升,主要体现在PC这样的高生产力设备上,AI PC2024年初的快速崛起也进一步印证了这个趋势,这为顺网科技在大模型时代找到了可移植PC互联网业务的场景,也符合团队和公司的DNA。可以说,顺网科技向算力和AI的战略升级,既是AI信仰,更是顺势而为。


相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
|
1天前
|
机器学习/深度学习 人工智能 自然语言处理
|
3天前
|
机器学习/深度学习 人工智能 自然语言处理
AIGC-基于EAS服务快速部署一个AI视频生成
AIGC-基于EAS服务快速部署一个AI视频生成
|
3天前
|
机器学习/深度学习 人工智能 自然语言处理
|
4天前
|
人工智能 运维 Serverless
报名参课丨解锁 Serverless+AI 新模式,拥有专属 AIGC 环境
Serverless 和 AI 大模型都是当前云上最火的技术方向,本次活动期望通过 Severless+AI 技术的强强联合,期待为客户提供基于 Serverless 技术实现 AI 推理部署平台的技术思路,一键解锁 AI 潜力,无需繁琐运维,降低 GPU 的使用成本、减少企业或个人创业的试错成本,让人人都可以拥有自己“专属”的 AIGC 环境成为可能。
|
7天前
|
机器学习/深度学习 人工智能 自然语言处理
|
12天前
|
机器学习/深度学习 人工智能 自动驾驶
「AIGC」Agent AI智能体的未来:技术、伦理与经济的交汇点
Agent AI智能体融合机器学习与深度学习,推动社会效率与创新,但也引发伦理、法律及就业挑战。技术上,它们能自我优化、积累知识,如自动驾驶汽车通过学习改善驾驶。伦理上,需建立AI准则,确保透明度和责任归属,如医疗AI遵循道德原则。经济上,AI改变就业市场结构,创造新职业,如AI顾问,同时要求教育体系更新。未来,平衡技术进步与社会影响至关重要。
42 0
|
12天前
|
机器学习/深度学习 数据采集 自然语言处理
|
19天前
|
机器学习/深度学习 人工智能 算法
谈谈创意设计中的AI、AGI、AIGC
创意设计领域在AI、AGI和AIGC的影响下正经历深刻变革。AI通过机器学习辅助设计,从市场分析到后期优化,提高设计师效率。AGI潜在地模仿人类创造力,可能开启全新设计时代。AIGC生成内容速度快,但也面临创意局限性和法律问题。Adobe国际认证提供权威技能验证,帮助设计师适应新技术,提升行业标准和国际交流。
|
25天前
|
人工智能
AI时代下:面对高要求低薪酬,我们如何破局?
在AI时代,职场竞争加剧,高要求低薪酬成挑战。Adobe国际认证提供破局之道。该认证覆盖Photoshop等多款软件及数字媒体相关领域,证明专业技能,提升个人竞争力,助于拓展职业发展空间。通过选择热门专业方向、持续学习、展示能力与争取合理待遇,认证持有者能在自动化变革中脱颖而出,实现职业与薪资增长。
AI时代下:面对高要求低薪酬,我们如何破局?
|
26天前
|
机器学习/深度学习 人工智能 算法
【AIGC】揭秘驱动AI创新的关键力量:领军者的角色
【AIGC】揭秘驱动AI创新的关键力量:领军者的角色
73 1