过去几年中,人工智能已经成为了全行业关注的焦点,尤其是终端侧AI在手机、PC等设备上的部署和应用已经成为了大趋势。高通公司深谙这一趋势,看准了终端侧AI的巨大商机,为了能够给开发者提供更多的支持,赋能其打造全新的、令人期待的应用,高通在本届MWC上宣布推出全新的高通AI Hub。这一举措不仅是对市场需求的准确把握,更是对技术创新的深刻理解和应用。
高通AI Hub是一款为开发者提供全面优化的AI模型库,其支持的超过75款AI大模型包括了传统AI模型和生成式AI模型,覆盖了各种常见的应用场景和需求。这一库可以在高通的骁龙和其他高通平台上进行部署,为开发者提供了更为灵活和便捷的开发环境。开发者只需简单选择所需的模型和框架,确认目标平台,高通AI Hub就可以为其提供优化的模型,极大地简化了开发流程,提高了开发效率。
在高通AI Hub的帮助下,开发者打造AI应用将会变得简单和高效。开发者可以根据自己的需求选择所需的模型,例如Baichuan-7B,以及开发应用所使用的框架,例如Pytorch、Tensorflow等。然后,只需要确认目标平台,例如一款特定型号的手机或者高通平台,高通AI Hub就可以为开发者提供面向其指定应用、指定平台进行优化的模型。开发者只需几行代码就可以获取模型,并将其集成进应用程序,极大地简化了开发流程,降低了开发门槛。
据了解,高通AI Hub将支持超过75个AI模型,包括传统AI模型和生成式AI模型。通过对这些模型进行优化,开发者运行AI推理的速度将提升高达4倍。同时,优化后的模型占用的内存带宽和存储空间也将大大减少,从而实现更高的能效和更持久的电池续航。这一举措将为AI应用的普及和发展提供强有力的支持,推动AI技术在终端侧的广泛应用和落地。
除了高通AI Hub之外,高通在本届MWC上还展示了一系列先进的AI技术的应用,其中包括多模态大模型(LMM)和LoRA模型等。多模态大模型(LMM)是全球首个在搭载第三代骁龙8的Android手机上运行的多模态大模型,支持超过70亿参数,不仅能够接受文本输入,还可以接受图像、音频等其他输入数据类型,并能够基于输入的内容进行多轮对话,为用户提供丰富的应用体验。LoRA模型则是一种可以个性化定制生成式AI模型行为的关键技术,通过使用很小的适配器,就能够个性化定制整个生成式AI模型的行为,为用户提供更加个性化和定制化的服务。
高通AI Hub的推出标志着高通在AI领域的深度布局和雄心壮志。作为一家全球领先的移动通信技术公司,高通始终致力于将智能计算扩展至边缘侧几乎所有类型的终端,为用户带来更加便捷、智能化的生活体验。随着AI技术的不断发展和普及,相信高通AI Hub将为AI应用的创新和发展提供强有力的支持,推动AI技术在终端侧的广泛应用和落地,为用户带来更加丰富、智能化的生活体验,助力智能科技的进步与发展。