高通正式推出高通AI Hub,支持超过75款AI大模型

简介: 【2月更文挑战第9天】高通正式推出高通AI Hub,支持超过75款AI大模型

9e58d8a3cac1210e7f504cb4c95d603e.jpeg
过去几年中,人工智能已经成为了全行业关注的焦点,尤其是终端侧AI在手机、PC等设备上的部署和应用已经成为了大趋势。高通公司深谙这一趋势,看准了终端侧AI的巨大商机,为了能够给开发者提供更多的支持,赋能其打造全新的、令人期待的应用,高通在本届MWC上宣布推出全新的高通AI Hub。这一举措不仅是对市场需求的准确把握,更是对技术创新的深刻理解和应用。

高通AI Hub是一款为开发者提供全面优化的AI模型库,其支持的超过75款AI大模型包括了传统AI模型和生成式AI模型,覆盖了各种常见的应用场景和需求。这一库可以在高通的骁龙和其他高通平台上进行部署,为开发者提供了更为灵活和便捷的开发环境。开发者只需简单选择所需的模型和框架,确认目标平台,高通AI Hub就可以为其提供优化的模型,极大地简化了开发流程,提高了开发效率。

在高通AI Hub的帮助下,开发者打造AI应用将会变得简单和高效。开发者可以根据自己的需求选择所需的模型,例如Baichuan-7B,以及开发应用所使用的框架,例如Pytorch、Tensorflow等。然后,只需要确认目标平台,例如一款特定型号的手机或者高通平台,高通AI Hub就可以为开发者提供面向其指定应用、指定平台进行优化的模型。开发者只需几行代码就可以获取模型,并将其集成进应用程序,极大地简化了开发流程,降低了开发门槛。

据了解,高通AI Hub将支持超过75个AI模型,包括传统AI模型和生成式AI模型。通过对这些模型进行优化,开发者运行AI推理的速度将提升高达4倍。同时,优化后的模型占用的内存带宽和存储空间也将大大减少,从而实现更高的能效和更持久的电池续航。这一举措将为AI应用的普及和发展提供强有力的支持,推动AI技术在终端侧的广泛应用和落地。

除了高通AI Hub之外,高通在本届MWC上还展示了一系列先进的AI技术的应用,其中包括多模态大模型(LMM)和LoRA模型等。多模态大模型(LMM)是全球首个在搭载第三代骁龙8的Android手机上运行的多模态大模型,支持超过70亿参数,不仅能够接受文本输入,还可以接受图像、音频等其他输入数据类型,并能够基于输入的内容进行多轮对话,为用户提供丰富的应用体验。LoRA模型则是一种可以个性化定制生成式AI模型行为的关键技术,通过使用很小的适配器,就能够个性化定制整个生成式AI模型的行为,为用户提供更加个性化和定制化的服务。

高通AI Hub的推出标志着高通在AI领域的深度布局和雄心壮志。作为一家全球领先的移动通信技术公司,高通始终致力于将智能计算扩展至边缘侧几乎所有类型的终端,为用户带来更加便捷、智能化的生活体验。随着AI技术的不断发展和普及,相信高通AI Hub将为AI应用的创新和发展提供强有力的支持,推动AI技术在终端侧的广泛应用和落地,为用户带来更加丰富、智能化的生活体验,助力智能科技的进步与发展。

目录
相关文章
|
11天前
|
人工智能 搜索推荐 Docker
手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型,创建个性化 AI 助手
DeepSeek R1 + LobeChat + Ollama:快速本地部署模型,创建个性化 AI 助手
3183 116
手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型,创建个性化 AI 助手
|
6天前
|
人工智能 Linux iOS开发
exo:22.1K Star!一个能让任何人利用日常设备构建AI集群的强大工具,组成一个虚拟GPU在多台设备上并行运行模型
exo 是一款由 exo labs 维护的开源项目,能够让你利用家中的日常设备(如 iPhone、iPad、Android、Mac 和 Linux)构建强大的 AI 集群,支持多种大模型和分布式推理。
219 100
|
12天前
|
人工智能 物联网 开发者
Oumi:开源的AI模型一站式开发平台,涵盖训练、评估和部署模型的综合性平台
Oumi 是一个完全开源的 AI 平台,支持从 1000 万到 4050 亿参数的模型训练,涵盖文本和多模态模型,提供零样板代码开发体验。
182 43
Oumi:开源的AI模型一站式开发平台,涵盖训练、评估和部署模型的综合性平台
|
7天前
|
机器学习/深度学习 人工智能 编解码
Lumina-Image 2.0:上海 AI Lab 开源的统一图像生成模型,支持生成多分辨率、多风格的图像
Lumina-Image 2.0 是上海 AI Lab 开源的高效统一图像生成模型,参数量为26亿,基于扩散模型和Transformer架构,支持多种推理求解器,能生成高质量、多风格的图像。
113 17
Lumina-Image 2.0:上海 AI Lab 开源的统一图像生成模型,支持生成多分辨率、多风格的图像
|
14天前
|
机器学习/深度学习 人工智能 自然语言处理
YuE:开源AI音乐生成模型,能够将歌词转化为完整的歌曲,支持多种语言和多种音乐风格
YuE 是香港科技大学和 M-A-P 联合开发的开源 AI 音乐生成模型,能够将歌词转化为完整的歌曲,支持多种音乐风格和多语言。
178 23
YuE:开源AI音乐生成模型,能够将歌词转化为完整的歌曲,支持多种语言和多种音乐风格
|
7天前
|
人工智能 开发框架 机器人
AstrBot:轻松将大模型接入QQ、微信等消息平台,打造多功能AI聊天机器人的开发框架,附详细教程
AstrBot 是一个开源的多平台聊天机器人及开发框架,支持多种大语言模型和消息平台,具备多轮对话、语音转文字等功能。
2022 13
AstrBot:轻松将大模型接入QQ、微信等消息平台,打造多功能AI聊天机器人的开发框架,附详细教程
|
14天前
|
人工智能 编解码 语音技术
SpeechGPT 2.0:复旦大学开源端到端 AI 实时语音交互模型,实现 200ms 以内延迟的实时交互
SpeechGPT 2.0 是复旦大学 OpenMOSS 团队推出的端到端实时语音交互模型,具备拟人口语化表达、低延迟响应和多情感控制等功能。
194 21
SpeechGPT 2.0:复旦大学开源端到端 AI 实时语音交互模型,实现 200ms 以内延迟的实时交互
|
9天前
|
机器学习/深度学习 存储 人工智能
MNN-LLM App:在手机上离线运行大模型,阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
MNN-LLM App 是阿里巴巴基于 MNN-LLM 框架开发的 Android 应用,支持多模态交互、多种主流模型选择、离线运行及性能优化。
762 14
MNN-LLM App:在手机上离线运行大模型,阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
|
4天前
|
人工智能 Linux 开发工具
Kiln AI:零代码实现微调模型!自动生成合成数据与微调模型的开源平台
Kiln AI 是一款开源的 AI 开发工具,支持零代码微调多种语言模型,生成合成数据,团队协作开发,自动部署。帮助用户快速构建高质量的 AI 模型。
323 7
Kiln AI:零代码实现微调模型!自动生成合成数据与微调模型的开源平台
|
5天前
|
人工智能 数据可视化 搜索推荐
免费+数据安全!手把手教你在PC跑DeepSeek-R1大模型,小白也能秒变AI大神!
本地部署AI模型(如DeepSeek R1)保障数据隐私、节省成本且易于控制,通过Ollama平台便捷安装与运行,结合可视化工具(如Chatbox)及Python代码调用,实现高效、个性化的AI应用开发与使用。
91 2
免费+数据安全!手把手教你在PC跑DeepSeek-R1大模型,小白也能秒变AI大神!