MNN 直播第二弹|深入浅出谈 MNN 原理

简介: 上一期我们高屋建瓴的谈了谈端智能现在的发展趋势和在手淘中的应用场景,很多朋友都很好奇 MNN 的架构设计,以及为什么 MNN 在性能上会有比较大的优势。本期就让我们一起走近 MNN 的内部原理,一起来探索 MNN 的实现和优化手段。

主题:深入浅出谈 MNN 原理:为什么能这么快?
时间:1月15日 19:00-20:00
嘉宾:明弈 阿里巴巴淘系技术部无线开发专家

MNN 开源地址

上期 MNN 直播回看

加入我们


image.png

分享简介

上一期我们高屋建瓴的谈了谈端智能现在的发展趋势和在手淘中的应用场景,很多朋友都很好奇 MNN 的架构设计,以及为什么 MNN 在性能上会有比较大的优势。

本期就让我们一起走近 MNN 的内部原理,一起来探索 MNN 的实现和优化手段。

参与方式

1、扫描下方二维码添加小助手微信

2、回复「MNN」即可获得直播链接

image.png

1月15日,我们不见不散!

更多技术干货,关注「淘系技术」微信公众号~
image.png

相关文章
|
机器学习/深度学习 人工智能 小程序
|
缓存
MNN 执行推理(九)
MNN 执行推理(九)
144 1
|
机器学习/深度学习 算法 openCL
高效、轻量的深度学习框架MNN
MNN是一个高效、轻量的深度学习框架。
高效、轻量的深度学习框架MNN
|
7月前
|
机器学习/深度学习 存储 人工智能
MNN-LLM App:在手机上离线运行大模型,阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
MNN-LLM App 是阿里巴巴基于 MNN-LLM 框架开发的 Android 应用,支持多模态交互、多种主流模型选择、离线运行及性能优化。
4677 22
MNN-LLM App:在手机上离线运行大模型,阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
|
8月前
|
机器学习/深度学习 存储 人工智能
MNN:阿里开源的轻量级深度学习推理框架,支持在移动端等多种终端上运行,兼容主流的模型格式
MNN 是阿里巴巴开源的轻量级深度学习推理框架,支持多种设备和主流模型格式,具备高性能和易用性,适用于移动端、服务器和嵌入式设备。
1782 18
MNN:阿里开源的轻量级深度学习推理框架,支持在移动端等多种终端上运行,兼容主流的模型格式
|
9月前
|
存储 缓存 物联网
MNN推理框架将大模型放进移动端设备,并达到SOTA推理性能!
随着移动端(手机/平板等)算力、内存、磁盘空间的不断增长,在移动端部署大模型逐渐成为可能。在端侧运行大模型,可以有一系列好处:去除网络延迟,加快响应速度;降低算力成本,便于大规模应用;不需数据上传,保护用户稳私。
1481 13
MNN推理框架将大模型放进移动端设备,并达到SOTA推理性能!
|
存储 机器学习/深度学习 测试技术
mnn-llm: 大语言模型端侧CPU推理优化
mnn-llm: 大语言模型端侧CPU推理优化
1708 1
|
存储 缓存 网络协议
如何在 Linux 上刷新 DNS 缓存?
【7月更文挑战第14天】
556 0
如何在 Linux 上刷新 DNS 缓存?
|
PyTorch 算法框架/工具 异构计算
PyTorch 2.2 中文官方教程(十七)(1)
PyTorch 2.2 中文官方教程(十七)
357 1
PyTorch 2.2 中文官方教程(十七)(1)
|
JavaScript IDE 前端开发
从 VS Code 的历史中可以学到的经验
VS Code 作为目前使用人数绝对 Top1 的 IDE/Editor(Stackoverflow 2021 调研:https://insights.stackoverflow.com/survey/2021#section-most-popular-technologies-integrated-development-environment 有 71% 的开发者使用),一定是做对了一些关键的事情才达到今天的规模,如果想做好一个技术性的产品或工具,细细研究,一定能有所收获。
2605 0
从 VS Code 的历史中可以学到的经验

热门文章

最新文章