高通正式推出高通AI Hub,支持超过75款AI大模型

简介: 【2月更文挑战第9天】高通正式推出高通AI Hub,支持超过75款AI大模型

9e58d8a3cac1210e7f504cb4c95d603e.jpeg
过去几年中,人工智能已经成为了全行业关注的焦点,尤其是终端侧AI在手机、PC等设备上的部署和应用已经成为了大趋势。高通公司深谙这一趋势,看准了终端侧AI的巨大商机,为了能够给开发者提供更多的支持,赋能其打造全新的、令人期待的应用,高通在本届MWC上宣布推出全新的高通AI Hub。这一举措不仅是对市场需求的准确把握,更是对技术创新的深刻理解和应用。

高通AI Hub是一款为开发者提供全面优化的AI模型库,其支持的超过75款AI大模型包括了传统AI模型和生成式AI模型,覆盖了各种常见的应用场景和需求。这一库可以在高通的骁龙和其他高通平台上进行部署,为开发者提供了更为灵活和便捷的开发环境。开发者只需简单选择所需的模型和框架,确认目标平台,高通AI Hub就可以为其提供优化的模型,极大地简化了开发流程,提高了开发效率。

在高通AI Hub的帮助下,开发者打造AI应用将会变得简单和高效。开发者可以根据自己的需求选择所需的模型,例如Baichuan-7B,以及开发应用所使用的框架,例如Pytorch、Tensorflow等。然后,只需要确认目标平台,例如一款特定型号的手机或者高通平台,高通AI Hub就可以为开发者提供面向其指定应用、指定平台进行优化的模型。开发者只需几行代码就可以获取模型,并将其集成进应用程序,极大地简化了开发流程,降低了开发门槛。

据了解,高通AI Hub将支持超过75个AI模型,包括传统AI模型和生成式AI模型。通过对这些模型进行优化,开发者运行AI推理的速度将提升高达4倍。同时,优化后的模型占用的内存带宽和存储空间也将大大减少,从而实现更高的能效和更持久的电池续航。这一举措将为AI应用的普及和发展提供强有力的支持,推动AI技术在终端侧的广泛应用和落地。

除了高通AI Hub之外,高通在本届MWC上还展示了一系列先进的AI技术的应用,其中包括多模态大模型(LMM)和LoRA模型等。多模态大模型(LMM)是全球首个在搭载第三代骁龙8的Android手机上运行的多模态大模型,支持超过70亿参数,不仅能够接受文本输入,还可以接受图像、音频等其他输入数据类型,并能够基于输入的内容进行多轮对话,为用户提供丰富的应用体验。LoRA模型则是一种可以个性化定制生成式AI模型行为的关键技术,通过使用很小的适配器,就能够个性化定制整个生成式AI模型的行为,为用户提供更加个性化和定制化的服务。

高通AI Hub的推出标志着高通在AI领域的深度布局和雄心壮志。作为一家全球领先的移动通信技术公司,高通始终致力于将智能计算扩展至边缘侧几乎所有类型的终端,为用户带来更加便捷、智能化的生活体验。随着AI技术的不断发展和普及,相信高通AI Hub将为AI应用的创新和发展提供强有力的支持,推动AI技术在终端侧的广泛应用和落地,为用户带来更加丰富、智能化的生活体验,助力智能科技的进步与发展。

目录
相关文章
|
2天前
|
机器学习/深度学习 人工智能
超越Sora极限,120秒超长AI视频模型诞生!
【5月更文挑战第1天】 StreamingT2V技术突破AI视频生成界限,实现120秒超长连贯视频,超越Sora等传统模型。采用自回归方法,结合短期记忆的条件注意模块和长期记忆的外观保持模块,保证内容连贯性和动态性。在实际应用中,展示出优秀的动态性、连贯性和图像质量,但仍有优化空间,如处理复杂场景变化和连续性问题。[链接](https://arxiv.org/abs/2403.14773)
12 3
|
4天前
|
人工智能 前端开发 算法
参加完全球开发者大会之后,我一个小前端尝试使用了一些AI模型
参加完全球开发者大会之后,我一个小前端尝试使用了一些AI模型
|
6天前
|
人工智能 数据安全/隐私保护
Sora超逼真视频引恐慌!Nature刊文警示AI视频模型,或在2024年颠覆科学和社会
【4月更文挑战第27天】OpenAI公司的新型AI工具Sora能根据文字提示生成超逼真视频,引发关注。尽管已有类似产品,如Runway的Gen-2和谷歌的Lumiere,Sora以其高质量生成效果领先。该技术的进步可能导致2024年全球政治格局的颠覆,同时带来虚假信息的挑战。OpenAI已组建“红队”评估风险,但虚假视频识别仍是难题。尽管有水印解决方案,其有效性尚不确定。Sora在教育、医疗和科研等领域有潜力,但也对创意产业构成威胁。
16 2
|
6天前
|
人工智能 数据库 芯片
【报告介绍】中国AI大模型产业:发展现状与未来展望
【4月更文挑战第27天】中国AI大模型产业快速发展,受益于政策支持、技术创新及市场需求,已在电商等领域广泛应用,展现巨大潜力。但面临算力瓶颈、技术局限和数据不足等挑战。未来,AI大模型将向通用化与专用化发展,开源趋势将促进小型开发者参与,高性能芯片升级也将助力产业进步。[报告下载链接](http://download.people.com.cn/jiankang/nineteen17114578641.pdf)
17 2
|
6天前
|
机器学习/深度学习 人工智能 算法
AI大模型学习理论基础
本文探讨了AI大模型学习的理论基础,包括深度学习(模拟神经元工作原理,通过多层非线性变换提取特征)、神经网络结构(如前馈、循环和卷积网络)、训练方法(监督、无监督、强化学习)、优化算法(如SGD及其变种)、正则化(L1、L2和dropout防止过拟合)以及迁移学习(利用预训练模型加速新任务学习)。这些理论基础推动了AI大模型在复杂任务中的应用和人工智能的发展。
|
8天前
|
机器学习/深度学习 人工智能 安全
模型被投毒攻击,如今有了新的安全手段,还被AI顶刊接收
【4月更文挑战第25天】研究人员提出了一种结合区块链和分布式账本技术的联邦学习系统,以增强对抗投毒攻击的安全性。该系统利用智能合约支持的点对点投票和奖励惩罚机制,提高模型聚合的鲁棒性。此创新方法首次将区块链应用于联邦学习,减少中心化服务器的风险,但同时也面临计算成本增加、延迟问题以及智能合约安全性的挑战。论文已被AI顶刊接收,为金融、医疗等领域提供更安全的机器学习解决方案。[[1](https://ieeexplore.ieee.org/document/10471193)]
18 3
|
9天前
|
人工智能 搜索推荐
杨笛一新作:社恐有救了,AI大模型一对一陪聊,帮i人变成e人
【4月更文挑战第24天】杨笛一团队研发的AI大模型,以“AI伙伴”和“AI导师”框架帮助社恐人群提升社交技能。通过模拟真实场景和个性化反馈,该方法降低训练门槛,增强学习者自信。但也有挑战,如保持AI模拟的真实性,防止反馈偏见,并避免过度依赖。研究强调,AI应作为辅助工具而非替代。[论文链接](https://arxiv.org/pdf/2404.04204.pdf)
13 1
|
9天前
|
人工智能 搜索推荐 决策智能
【AI Agent系列】【阿里AgentScope框架】1. 深入源码:详细解读AgentScope中的智能体定义以及模型配置的流程
【AI Agent系列】【阿里AgentScope框架】1. 深入源码:详细解读AgentScope中的智能体定义以及模型配置的流程
47 0
|
9天前
|
存储 人工智能 数据库
【AI大模型应用开发】MemGPT原理与快速上手:这可能是目前管理大模型记忆的最专业的框架和思路
【AI大模型应用开发】MemGPT原理与快速上手:这可能是目前管理大模型记忆的最专业的框架和思路
25 0
|
9天前
|
存储 人工智能 数据库
【AI大模型应用开发】以LangChain为例:从短期记忆实战,到如何让AI应用保持长期记忆的探索
【AI大模型应用开发】以LangChain为例:从短期记忆实战,到如何让AI应用保持长期记忆的探索
21 0