阿里云大数据Al技术
阿里云大数据Al技术_个人页
阿里云大数据Al技术
文章
351
问答
1
视频
0
个人介绍
阿里云大数据Al技术
擅长的技术
-
发表了文章 2022-07-25
这种精度高，消耗资源少的大模型稀疏训练方法被阿里云科学家找到了！已被收录到IJCAI
论文通过减少模型稀疏训练过程中需要更新的参数量，从而减少大模型稀疏训练的时间以及资源开销，是首个大模型参数高效的稀疏训练算法PST。
-
发表了文章 2022-07-20
瓜分30万奖金！DeepRec CTR模型性能优化天池挑战赛来啦
DeepRec CTR模型性能优化天池挑战赛正式上线！
-
发表了文章 2022-07-18
“创新大师杯”全球AI极客挑战赛征文活动
“创新大师杯”全球AI极客挑战赛征文活动开始了！
-
发表了文章 2022-07-12
【USENIX ATC】支持异构GPU集群的超大规模模型的高效的分布式训练框架Whale
高效大模型训练框架Whale（EPL）入选USENIX ATC
-
发表了文章 2022-07-11
【SIGIR 2022】面向长代码序列的Transformer模型优化方法，提升长代码场景性能
论文主导通过引入稀疏自注意力的方式来提高Transformer模型处理长序列的效率和性能
-
发表了文章 2022-07-07
国内唯一！阿里云机器学习平台PAI同时入选Gartner两项权威报告
日前，国际权威研究机构 Gartner 连续发布两份 AI 领域研究报告，阿里云机器学习平台 PAI 蝉联上榜。
-
发表了文章 2022-06-30
大数据&AI产品月刊【2022年6月】
大数据&AI产品技术月刊（2022年6月），涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容，帮助您快速了解阿里云大数据&AI方面最新动态。
-
发表了文章 2022-06-28
SREWorks v1.2 版本发布 | 运维市场能力发布
在v1.1版本发布之后，SREWorks团队开始了常态化的功能版本迭代，v1.1提供了组件插拔能力，v1.2更进一步，将会发布规划已久的运维市场，助力团队构筑运维生态，也会发布诸多企业用户关注的纯内网源码构建方案。
-
发表了文章 2022-06-28
再突破！阿里云进入Gartner云AI开发者服务挑战者象限
凭借达摩院领先的AI算法和阿里云丰富的产品体系，继2021年入围远见者象限之后，阿里云进一步跃升至挑战者象限，且成为报告中执行能力最强的中国企业。
-
发表了文章 2022-06-24
预约直播 | 主流视觉算法介绍及在PAI上的应用
阿里云AI技术分享会第一期《主流视觉算法介绍及在PAI上的应用》将在2022年06月30日开启直播，精彩不容错过！
-
发表了文章 2022-06-15
最新活动！机器学习PAI：企业AI加速计划（第一期）
最新活动，企业AI加速计划开启！两大权益等您来领： 1）参加PAI-DSW闭门直播课； 2）价值500元的PAI-DSW产品代金券
-
发表了文章 2022-06-14
基于EasyCV复现ViTDet：单层特征超越FPN
ViTDet其实是恺明团队MAE和ViT-based Mask R-CNN两个工作的延续。MAE提出了ViT的无监督训练方法，而ViT-based Mask R-CNN给出了用ViT作为backbone的Mask R-CNN的训练技巧，并证明了MAE预训练对下游检测任务的重要性。而ViTDet进一步改进了一些设计，证明了ViT作为backone的检测模型可以匹敌基于FPN的backbone(如SwinT和MViT)检测模型。
-
发表了文章 2022-06-13
EasyNLP带你玩转CLIP图文检索
本文简要介绍CLIP的技术解读，以及如何在EasyNLP框架中玩转CLIP模型。
-
发表了文章 2022-05-31
大数据&AI产品月刊5月刊
大数据&AI产品技术月刊（2022年5月），涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容，帮助您快速了解阿里云大数据&AI方面最新动态。
-
发表了文章 2022-05-24
开发者玩转机器学习不能错过的15篇深度文章！
机器学习平台PAI是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务。开发者可以通过PAI快速构建训练模型，如搭建一些《物体识别》、《验证语音降噪等》有趣的实验模型，也可以契合企业需求，实现企业个性化推荐，小编整理了一些基于PAI平台的模型开发训练指南，供开发者参考收藏。
-
发表了文章 2022-05-20
BladeDISC 0.2.0更新发布
在BladeDISC正式开源三个月后，我们发布了0.2.0版本，该更新包含了大量的性能优化与功能增强。
-
发表了文章 2022-05-17
MAE 自监督算法介绍和基于 EasyCV 的复现
自监督学习（Self-Supervised Learning）能利用大量无标注的数据进行表征学习，然后在特定下游任务上对参数进行微调。通过这样的方式，能够在较少有标注数据上取得优于有监督学习方法的精度。近年来，自监督学习受到了越来越多的关注，如Yann Lecun也在 AAAI 上讲 Self-Supervised Learning 是未来的大势所趋。在CV领域涌现了如SwAV、MOCO、DINO、MoBY等一系列工作。MAE是kaiming继MOCO之后在自监督学习领域的又一力作。首先，本文会对MAE进行解读，然后基于EasyCV库的精度复现过程及其中遇到的一些问题作出解答。
-
发表了文章 2022-05-09
阿里开源自研工业级稀疏模型高性能训练框架 HybridBackend
近年来，随着稀疏模型对算力日益增长的需求, CPU集群必须不断扩大集群规模来满足训练的时效需求，这同时也带来了不断上升的资源成本以及实验的调试成本。
-
发表了文章 2022-05-09
【ICDE 2022】稀疏模型训练框架HybridBackend，单位成本下训练吞吐提升至5倍
近日，阿里巴巴投稿的论文《PICASSO: Unleashing the Potential of GPU-centric Training for Wide-and-deep Recommender Systems》被数据库和数据挖掘方向CCF-A类国际三大顶会之一的ICDE 2022 (International Conference on Data Engineering) 接收。
-
发表了文章 2022-05-06
大数据&AI产品月刊【2022年4月】
大数据&AI产品技术月刊（2022年4月），涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容，帮助您快速了解阿里云大数据&AI方面最新动态。
-
发表了文章 2022-05-05
阿里云机器学习平台PAI与香港大学合作论文入选INFOCOM 2022，有效减少大规模神经网络训练时间
近日，阿里云机器学习平台 PAI 与香港大学吴川教授团队合作的论文”Efficient Pipeline Planning for Expedited Distributed DNN Training”入选INFOCOM（IEEE International Conference on Computer Communications） 2022，论文提出了一个支持任意网络拓扑的同步流水线并行训练算法，有效减少大规模神经网络的训练时间。
-
发表了文章 2022-04-27
阿里云机器学习PAI开源中文NLP算法框架EasyNLP，助力NLP大模型落地
EasyNLP背后的技术框架如何设计？未来有哪些规划？今天一起来深入了解。
-
发表了文章 2022-04-26
EasyCV开源｜开箱即用的视觉自监督+Transformer算法库
EasyCV背后的算法框架如何设计？开发者可以怎么使用？未来有哪些规划？今天一起来深入了解。
-
发表了文章 2022-04-01
Triton 云端生产实践
机器学习模型的在线推理在生产实践中扮演着非常重要的角色，从典型的互联网场景中的搜索，广告，推荐的召回排序，到实时的图像识别，语音识别，文本处理等领域，都需要涉及到模型的在线推理，从简单的逻辑回归模型到复杂的深度学习模型，从 CPU 到 GPU 加速，Aliyun 推出的EAS模型推理平台在云原生模型推理领域深耕多年，旨在打造一个开放的高性能云原生模型推理平台，能够覆盖经典机器学习模型和深度学习模型对于在线推理的不同诉求，借助于阿里云的弹性底座来实现资源的动态弹性伸缩，降低用户成本。
-
发表了文章 2022-04-01
大数据&AI产品月刊【2022年3月】
大数据&AI产品技术月刊（2022年3月），涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容，帮助您快速了解阿里云大数据&AI方面最新动态。
-
发表了文章 2022-03-30
【GTC 22】PaiSparse：面向深度学习的稀疏算子库
随着越来越多超大语言模型的出现，如何将这些超大语言模型在实际业务中部署落地成为了一个急需解决的问题。这些超大语言模型拥有百亿千亿甚至于万亿的参数，如此巨大的参数使得无法将超大模型直接部署在单张卡上，而需要几个甚至几十个 GPU 参与模型推理，会消耗非常大的计算资源。然而一些常用的模型优化技术如剪枝和量化虽然能够有效的降低模型大小，但是这些算法却很难在保证精度的情况下达到较大的压缩率。因此我们选择了非结构化稀疏来压缩超大语言模型，从而使得他们能够在保证精度的情况下达到较高的压缩率。
-
发表了文章 2022-03-30
【GTC 22】通过 PAI-Blade 更方便、更鲁棒地使用 TensorRT
随着 AI 应用的快速发展和广泛应用，AI 应用开发和工程部署及模型优化也日益引起了产业界关注。如何更高效地完成 AI 算法从研究领域到生产部署的应用开发流程是一个常见的问题。本次 GTC 2022 S41395 中，阿里云计算平台 PAI 团队分享了通过模型系统优化工具 PAI-Blade 更好地应用 TensorRT，BladeDISC 等相关技术方案，优化云上应用场景。
-
发表了文章 2022-03-21
阿里巴巴开源大规模稀疏模型训练/预测引擎DeepRec
经历6年时间，在各团队的努力下，阿里巴巴集团大规模稀疏模型训练/预测引擎DeepRec正式对外开源，助力开发者提升稀疏模型训练性能和效果。
-
发表了文章 2022-03-18
GTC 22 精彩看点 | 锁定阿里云机器学习 PAI 分享
3月21日，2022英伟达 GTC 大会即将拉开帷幕。此次 GTC 22 大会上，阿里云将带来有关推理优化/部署、深度学习编译器、大模型部署、训练优化、云手游等主题的内容，分享云端机器学习平台最新的创新实践。
-
发表了文章 2022-03-10
多任务学习模型之DBMTL介绍与实现
本文介绍的是阿里在2019年发表的多任务学习算法。该模型显示地建模目标间的贝叶斯网络因果关系，整合建模了特征和多个目标之间的复杂因果关系网络，省去了一般MTL模型中较强的独立假设。由于不对目标分布做任何特定假设，使得它能够比较自然地推广到任意形式的目标上。
-
发表了文章 2022-03-09
阿里开源 支持10万亿模型的自研分布式训练框架EPL(Easy Parallel Library)
最近阿里云机器学习PAI平台和达摩院智能计算实验室一起发布“低碳版”巨模型M6-10T，模型参数已经从万亿跃迁到10万亿，规模远超业界此前发布的万亿级模型，成为当前全球最大的AI预训练模型。同时做到了业内极致的低碳高效，使用512 GPU在10天内即训练出具有可用水平的10万亿模型。
-
发表了文章 2022-03-07
【持续更新】阿里云大数据&AI开源项目合集
阿里云大数据&AI开源项目合集，了解全部阿里云AI&大数据开源项目，欢迎加入。
-
发表了文章 2022-03-04
【ASPLOS 2022】机器学习访存密集计算编译优化框架AStitch，大幅提升任务执行效率
近日，关于机器学习访存密集计算编译优化框架的论文《AStitch: Enabling A New Multi-Dimensional Optimization Space for Memory-Intensive ML Training and Inference on Modern SIMT Architectures》被系统领域顶会ASPLOS 2022接收。
-
发表了文章 2022-03-02
冷启动推荐模型DropoutNet深度解析与改进
关于对冷启动推荐模型DropoutNet深度解析与改进。
-
发表了文章 2022-03-01
大数据&AI产品月刊【2022年2月】
大数据&AI产品技术月刊（2022年1月），涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容，帮助您快速了解阿里云大数据&AI方面最新动态。
-
发表了文章 2022-03-01
阿里云机器学习平台PAI论文入选国际顶会ASPLOS 2022
近日，阿里云机器学习PAI主导的论文《机器学习访存密集计算编译优化框架AStitch》入选国际顶会ASPLOS 2022，论文通过编译优化的手段来自动化地提高机器学习任务的执行效率。此次入选意味着阿里云机器学习平台PAI自研的深度学习编译优化系统达到了全球业界先进水平，获得了国际学者的认可，展现了中国机器学习系统技术创新在国际上的竞争力。
暂无更多信息
-
发表了文章
2024-11-20
DistilQwen2 蒸馏小模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
-
发表了文章
2024-11-11
大数据& AI 产品月刊【2024年10月】
-
发表了文章
2024-11-08
【EMNLP2024】基于多轮课程学习的大语言模型蒸馏算法 TAPIR
-
发表了文章
2024-11-07
【EMNLP2024】面向长文本的文视频表征学习与检索模型 VideoCLIP-XL
-
发表了文章
2024-11-06
【EMNLP2024】阿里云人工智能平台 PAI 多篇论文入选 EMNLP2024
-
发表了文章
2024-11-05
DistilQwen2：通义千问大模型的知识蒸馏实践
-
发表了文章
2024-10-24
多模态大模型活动 | 使用 PAI×LLaMA Factory 搭建文旅问答机器人
-
发表了文章
2024-10-21
PAI 大语言模型评测平台现已支持裁判员模型评测
-
发表了文章
2024-10-16
【MM2024】面向 StableDiffusion 的多目标图像编辑算法 VICTORIA
-
发表了文章
2024-10-15
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
-
发表了文章
2024-10-12
云栖实录 | 智能运维年度重磅发布及大模型实践解读
-
发表了文章
2024-10-11
大数据&AI产品月刊【2024年9月】
-
发表了文章
2024-09-27
使用PAI+LLaMA Factory 微调 Qwen2-VL 模型，搭建文旅领域知识问答机器人
-
发表了文章
2024-09-27
云栖实录 | GenAI 时代 AI Infra 工程技术趋势与平台演进
-
发表了文章
2024-09-27
首个大数据批流融合国家标准正式发布，阿里云为牵头起草单位！
-
发表了文章
2024-09-23
Pai-Megatron-Patch：围绕Megatron-Core打造大模型训练加速生态
-
发表了文章
2024-09-23
TAG：BladeLLM 的纯异步推理架构
-
发表了文章
2024-09-23
【Paper Reading】结合 NanoFlow 研究，优化大语言模型服务效率的探索
-
发表了文章
2024-09-23
AI Native平台，跨越AI应用从创新到生产的鸿沟
-
发表了文章
2024-09-18
“我在云栖大会等你”—来PAI Artlab定格你的云栖记忆！
滑动查看更多
暂无更多信息