科技云报道:大模型时代,AI基础软件机会何在?

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 大模型落地的效率支撑

科技云报道原创。

大模型时代,离不开算力,算法、数据的喂养。如果将视角放至整个产业链上,算法背后,还有一个关键要素值得被关注,那就是AI基础软件。

算法是实现AI功能的关键,而基础软件则为算法提供运行的平台和工具。作为模型生态系统的中坚力量,AI基础软件将会成为大模型应用落地的最主要的效率支撑,并通过大模型+小模型的方式,形成模型训练新范式。

现今,AI大模型在国内热度高涨,遍地开花,这也同样倒推着基础软件的发展。在这背景下,AI基础软件市场如何,未来有何新的机会,这一点值得关注和讨论。

未命名1686309494.png

基础软件是人工智能的底座

中国信通院云大所副所长魏凯在公开演讲中曾谈到,基础软件是人工智能的底座,人工智能的基础软件的发展决定了人工智能发展的深度、高度、广度,可以说是非常重要。

对此,魏凯解释道,基础软件重要性具体表现有三点,一是人工智能的发展离不开高质量的基础软件,尤其是基础软件的工程化的易用性、完备性,AI具体的落地实践都需要在基础软件结合业务、数据实现;二是人工智能基础软件要在企业中发挥作用,要与场景结合,要很好的运维;三是需要有安全可信保障条件。

AI基础软件是构建和运行AI应用的必要组成部分,通常包括以下几个方面:

机器学习框架和库:这是构建和训练AI模型的基本工具。例如,TensorFlow、PyTorch和Scikit-learn都是广泛使用的机器学习框架和库。

模型训练和部署平台:这些平台提供了一系列工具和服务,支持从数据处理、模型训练到模型部署和服务的全流程。例如,Google的Cloud ML Engine和Amazon的SageMaker都是这样的平台。

数据处理和分析工具:在AI应用中,数据是至关重要的。数据处理和分析工具可以帮助用户高效地处理和分析数据,以满足AI模型的训练需求。例如,Pandas、NumPy和Spark都是常用的数据处理和分析工具。

优化和自动化工具:这些工具可以帮助用户优化模型的性能,或者自动化一些重复性的工作。例如,TensorBoard可以帮助用户可视化模型的训练过程,AutoML则可以自动化模型的选择和调优过程。

总的来说,AI基础软件提供了一系列必要的工具和服务,使用户能够更方便、高效地构建和运行AI应用。

目前,随着AI技术的不断普及和深入应用,中国AI基础软件市场正在迅速发展。Gartner预测,该市场未来五年营收将从47.67亿美元增长到138.58亿美元,年复合增长率(CAGR)将达到28%。

据悉,中国的AI软件市场中有3,000余家厂商,其中大部分属于AI多面手型厂商,可向客户独立提供自然语言处理(NLP)、计算机视觉(CV)和机器学习(ML)技术。

这些厂商提供端到端个性化增强服务、咨询服务和运营服务,解决客户的具体业务问题。

随着市场的持续扩张,中国AI软件公司的数量也会增长。目前,在市场上的玩家主要包含这两大类,一是包括百度、阿里巴巴、腾讯等大型互联网公司,二是包括旷视科技、九章云极DataCanvas等专业AI公司。

这些公司不仅提供了具有国际竞争力的机器学习框架和平台,还开发了针对中国市场特点的特色产品和服务。

拿九章云极DataCanvas来说,目前公司拥有以“开放、自动、云原生”为核心的数据科学产品体系,包括为数据科学家、应用程序开发人员和业务专家提供高效的构建智能应用程序的工具包——DataCanvas APS机器学习平台;——提供可扩展、高可用和容错架构的大数据实时处理能力,灵活开发、部署和运行各类实时分析应用程序,助力企业完成了高效构建实时业务数据模型、打造实时AI场景的DataCanvas RT实时决策中心平台等一系列企业级AI应用所需的平台软件产品。

并且在全球人工智能开源领域,自主研发的多项全球首个开源项目,填补AI领域技术空白。此外,在AIGC的技术热潮下,九章云极D-lab开源团队正在开展交叉型研究,加速实现AI前沿技术的融合创新。

今年5月,九章云极DataCanvas公布了与中国信通院云大所就“高质量AI基础设施产业化”相关合作。

双方将在此前标准制定、评估评测、技术创新、产业研究等丰富合作的基础上,发挥各自在AI基础设施方向理论研究、技术创新和应用实践的资源优势,打通AI基础设施上下游生态链,共建开放、强大、灵活的AI基础设施生态。

机遇和挑战并行:优质的产品和服务是突围的关键

与此同时,市场竞争也日趋激烈,技术更新换代的速度也越来越快。

进入大模型时代,AI基础软件面临的挑战显而易见:如何支持更大规模的模型训练?如何优化模型的性能和效率?如何简化模型的部署和使用?对于这些问题,AI基础软件需要找到新的解决方案。

首先,为了支持更大规模的模型训练,AI基础软件需要提供更强大的计算能力。

这可能涉及到更高效的分布式计算技术、更优化的硬件加速技术等。这是一个技术挑战,也是一个机会。对于具备技术优势的公司而言,他们可以通过提供更强大、更高效的AI训练平台,来满足用户的需求,获得市场份额。

其次,随着模型规模的增大,模型的性能和效率优化也变得更加重要。

这需要AI基础软件提供更高级的优化工具和服务。

例如,模型压缩技术可以减小模型的大小,提高模型的运行速度;自动化调参工具可以自动寻找最优的模型参数,提高模型的准确性。

这些技术不仅可以帮助用户更好地使用大模型,也可以为AI基础软件公司提供新的商业机会。

再次,随着AI应用的日益复杂化,如何简化模型的部署和使用也变得尤为重要。

这需要AI基础软件提供更简洁易用的API,更强大的部署工具,更智能的服务平台等。这对于AI基础软件公司来说,是一个提升用户体验,提高用户黏性的机会。

“底层海量的多模态数据管理与上层更加精准的分析决策需求,将推动数智融合进入深水区,为打造AI基础软件带来新的机遇”, IDC中国人工智能和大数据高级分析师李浩然在杭州通用人工智能论坛的演讲中谈到。

对于客户更加关注的开发服务平台这一基础软件,科技企业应从全生命周期组件、低代码/无代码、自动机器学习、算法模型库、可视化、部署运维六个方面进行建设,并注重与云服务、大数据组件的融合。

对此,九章云极DataCanvas副总裁周晓凌表示,公司长期布局这些重要技术能力,并通过一整套成体系的AI基础软件产品应用在金融、通信、交通、制造、能源等行业中。

他继续谈到,AI技术从分散模型到融合智能,再迈向通用人工智能的发展路程上极大的推动了政府和企业数智化浪潮;各行业有各自发展特点和转型阶段化差异,在云化、自动化、多模态、分布式等技术领域迭代升级AI平台和AI应用能力方面存在可观需求,从运营到经营的AI应用发展空间依然巨大。

总的来说,大模型时代对AI基础软件提出了新的要求和挑战,也带来了新的机会。对于中国的AI基础软件公司而言,如何抓住这些机会,将在很大程度上决定他们在未来市场中的竞争地位。

一方面,他们需要持续投入研发,提升技术水平,满足用户对大模型的需求;另一方面,他们也需要不断创新,提供差异化的产品和服务,赢得市场份额。

在大模型时代,AI基础软件的机会何在?

答案就在于如何满足用户的需求,如何提供优质的产品和服务。只有那些能够紧跟时代步伐,积极创新,不断进取的公司,才能在这个充满挑战和机遇的时代中立足并繁荣发展。

关于未来

回顾AI的发展历程,我们可以看到,硬件一直是最大的投入领域,但随着技术的进步和市场的成熟,软件正在逐渐提升其在AI产业链中的地位。

据IDC预测,2023年以后,各大厂商将更加投入到底层基础软件的建设中,这也是现在已经初显端倪的趋势。

此外,IDC预测未来AI市场的增量将主要来源于三个方面:

首先,是基于大模型应用替换过去几年建设的AI应用。正如前文所述,大模型可以学习到更复杂的模式,从而在各种任务上取得更好的效果。

随着技术和市场的发展,我们预见到许多现有的AI应用将被基于大模型的新应用所替代,这将产生巨大的市场增量。

其次,是生成式AI带来的增量市场。生成式AI,如生成式对抗网络(GAN)和变分自编码器(VAE),可以生成新的、逼真的数据,有着广泛的应用前景,如艺术创作、游戏设计、虚拟现实等。随着技术的发展,我们预见到生成式AI将开辟新的市场领域,带来新的增量。

最后,是全新AI赋能的企业级应用。AI技术可以帮助企业提高效率,降低成本,创新业务模式。随着AI技术的深入应用,我们预见到将有更多的企业级应用出现,这将是一个有巨大爆发潜力的市场点。

总的来说,AI产业链的发展趋势是多元化和深化。在硬件投入的基础上,底层基础软件的建设将越来越重要。

同时,大模型应用、生成式AI和企业级应用将是未来市场的三大增量来源。这为AI产业链的上下游各环节都带来了新的机会,也提出了新的挑战。只有紧跟趋势,抓住机会,才能在这个快速发展的市场中保持领先。

【关于科技云报道】

专注于原创的企业级内容行家——科技云报道。成立于2015年,是前沿企业级IT领域Top10媒体。获工信部权威认可,可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
打赏
0
0
0
0
180
分享
相关文章
AI大模型运维开发探索第四篇:智能体分阶段演进路线
本文探讨了智能体工程的演进历程,从最初的思维链(智能体1.0)到实例化智能体(智能体2.0),再到结构化智能体(智能体3.0),最终展望了自演进智能体(智能体4.0)。文章详细分析了各阶段遇到的问题及解决策略,如工具调用可靠性、推理能力提升等,并引入了大模型中间件的概念以优化业务平台与工具间的协调。此外,文中还提到了RunnableHub开源项目,为读者提供了实际落地的参考方案。通过不断迭代,智能体逐渐具备更强的适应性和解决问题的能力,展现了未来AI发展的潜力。
Vibe Draw:涂鸦秒变3D模型!开源AI建模神器解放创意生产力
Vibe Draw 是一款基于AI技术的开源3D建模工具,通过Next.js和FastAPI构建,能将用户绘制的2D草图智能转化为3D模型,并支持文本提示优化和场景构建。
98 35
Vibe Draw:涂鸦秒变3D模型!开源AI建模神器解放创意生产力
智谱AI新突破!GLM-Z1-Rumination:新一代沉思模型,推动AI助手进入"高智商+高自主"的新阶段
GLM-Z1-Rumination是智谱推出的新一代沉思模型,通过扩展强化学习训练实现长程推理能力,支持动态工具调用与自我验证机制,显著提升AI自主研究能力。
40 13
智谱AI新突破!GLM-Z1-Rumination:新一代沉思模型,推动AI助手进入"高智商+高自主"的新阶段
TripoSF:3D建模内存暴降80%!VAST AI新一代模型细节狂飙82%
TripoSF 是 VAST AI 推出的新一代 3D 基础模型,采用创新的 SparseFlex 表示方法,支持 1024³ 高分辨率建模,内存占用降低 82%,在细节捕捉和复杂结构处理上表现优异。
51 10
TripoSF:3D建模内存暴降80%!VAST AI新一代模型细节狂飙82%
模型即产品:万字详解RL驱动的AI Agent模型如何巨震AI行业范式
未来 AI 智能体的发展方向还得是模型本身,而不是工作流(Work Flow)。像 Manus 这样基于「预先编排好的提示词与工具路径」构成的工作流智能体,短期或许表现不错,但长期必然遇到瓶颈。这种「提示驱动」的方式无法扩展,也无法真正处理那些需要长期规划、多步骤推理的复杂任务。下一代真正的LLM智能体,则是通过「强化学习(RL)与推理(Reasoning)的结合」来实现的。
56 10
模型即产品:万字详解RL驱动的AI Agent模型如何巨震AI行业范式
标签噪声下的模型评估:如何准确评估AI模型的真实性能,提高模型性能测量的可信度
本文探讨了测试数据标签错误对模型性能评估的影响,分析了如何估计模型的“真实”准确率。通过图像分类案例,揭示了标签噪声与模型性能间的复杂关系。当模型错误与标签错误独立时,真实准确率通常高于测量值;但实际中两者常相关,导致真实准确率更接近下限。文章提出通过深入错误分析、评估相关性和多标注等方式优化性能评估,强调理解这些关系对提升模型可信度的重要性。
14 2
标签噪声下的模型评估:如何准确评估AI模型的真实性能,提高模型性能测量的可信度
一个支持阿里云百炼平台DeepSeek R1大模型(智能体)的Wordpress插件,AI Agent or Chatbot.
这是一个将阿里云DeepSeek AI服务集成到WordPress的聊天机器人插件,支持多轮对话、上下文记忆和自定义界面等功能。用户可通过短代码轻松添加到页面,并支持多种配置选项以满足不同需求。项目采用MIT协议授权,代码仓位于GitHub与Gitee。开发者Chi Leung为长期境外工作,代码注释以英文为主。适合需要在WordPress网站中快速部署AI助手的用户使用。
使用 Ollama 本地模型与 Spring AI Alibaba 的强强结合,打造下一代 RAG 应用
使用 Ollama 本地模型与 Spring AI Alibaba 的强强结合,打造下一代 RAG 应用
【AI大模型】使用Python调用DeepSeek的API,原来SDK是调用这个,绝对的一分钟上手和使用
本文详细介绍了如何使用Python调用DeepSeek的API,从申请API-Key到实现代码层对话,手把手教你快速上手。DeepSeek作为领先的AI大模型,提供免费体验机会,帮助开发者探索其语言生成能力。通过简单示例代码与自定义界面开发,展示了API的实际应用,让对接过程在一分钟内轻松完成,为项目开发带来更多可能。
阿里云 AI 搜索开放平台新发布:增加 QwQ 模型
阿里云 AI 搜索开放平台 新增加 QwQ 模型,将为企业和开发者带来更强大的搜索解决方案。

热门文章

最新文章