人工智能平台PAI
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
超长序列，超快预测！深势科技联手阿里云，AI蛋白质预测再下一城
强强联合，突破 AI 蛋白质预测模型推理性能瓶颈，支持最高 6.6k 长氨基酸序列蛋白质的预测计算，达到目前已知最优推理效果。
阿里灵杰融合智能算力，全栈AI服务为探索者铺路
阿里灵杰大数据AI一体化平台提供全流程的开发和运维服务。尤其在模型训练和推理性能、大数据与AI工程能力方面，凭借技术领先性和丰富落地实践，成为区别传统AI集群的独特优势所在。
大数据&AI产品月刊【2022年8月】
大数据&AI产品技术月刊（2022年8月），涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容，帮助您快速了解阿里云大数据&AI方面最新动态。
动态尺寸模型优化实践之Shape Constraint IR Part II
在本系列分享中我们将介绍BladeDISC在动态shape语义下做性能优化的一些实践和思考。本次分享的是我们最近开展的有关shape constraint IR的工作，Part II 中我们将介绍shape constraint IR的设计，实现以及一些初步的实验结果
预约直播 | 基于预训练模型的自然语言处理及EasyNLP算法框架
阿里云AI技术分享会第三期《基于预训练模型的自然语言处理及EasyNLP算法框架》将在2022年08月24日晚18：00-18：30直播，精彩不容错过！
动态尺寸模型优化实践之Shape Constraint IR Part I
在本系列分享中我们将介绍BladeDISC在动态shape语义下做性能优化的一些实践和思考。本次分享的是我们最近开展的有关shape constraint IR的工作，Part I 中我们将介绍问题的背景，面临的主要挑战和以及我们做shape constraint IR的动机。
地址标准化服务AI深度学习模型推理优化实践
深度学习已在面向自然语言处理等领域的实际业务场景中广泛落地，对它的推理性能优化成为了部署环节中重要的一环。推理性能的提升：一方面，可以充分发挥部署硬件的能力，降低用户响应时间，同时节省成本；另一方面，可以在保持响应时间不变的前提下，使用结构更为复杂的深度学习模型，进而提升业务精度指标。
预约直播 | 深度学习编译器技术趋势与阿里云BladeDISC的编译器实践
阿里云AI技术分享会第二期《深度学习编译器技术趋势与阿里云BladeDISC的编译器实践》将在2022年08月17日晚18：00-18：30直播，精彩不容错过！
直播回放含 PPT 下载 | 基于 Flink & DeepRec 构建 Online Deep Learning
基于 Flink & DeepRec 构建 Online Deep Learning专场的直播回放和PPT下载
大数据&AI产品月刊【2022年7月】
大数据&AI产品技术月刊（2022年7月），涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容，帮助您快速了解阿里云大数据&AI方面最新动态。
这种精度高，消耗资源少的大模型稀疏训练方法被阿里云科学家找到了！已被收录到IJCAI
论文通过减少模型稀疏训练过程中需要更新的参数量，从而减少大模型稀疏训练的时间以及资源开销，是首个大模型参数高效的稀疏训练算法PST。
【SIGIR 2022】面向长代码序列的Transformer模型优化方法，提升长代码场景性能
论文主导通过引入稀疏自注意力的方式来提高Transformer模型处理长序列的效率和性能
再突破！阿里云进入Gartner云AI开发者服务挑战者象限
凭借达摩院领先的AI算法和阿里云丰富的产品体系，继2021年入围远见者象限之后，阿里云进一步跃升至挑战者象限，且成为报告中执行能力最强的中国企业。
最新活动！机器学习PAI：企业AI加速计划（第一期）
最新活动，企业AI加速计划开启！两大权益等您来领： 1）参加PAI-DSW闭门直播课； 2）价值500元的PAI-DSW产品代金券
基于EasyCV复现ViTDet：单层特征超越FPN
ViTDet其实是恺明团队MAE和ViT-based Mask R-CNN两个工作的延续。MAE提出了ViT的无监督训练方法，而ViT-based Mask R-CNN给出了用ViT作为backbone的Mask R-CNN的训练技巧，并证明了MAE预训练对下游检测任务的重要性。而ViTDet进一步改进了一些设计，证明了ViT作为backone的检测模型可以匹敌基于FPN的backbone(如SwinT和MViT)检测模型。
开发者玩转机器学习不能错过的15篇深度文章！
机器学习平台PAI是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务。开发者可以通过PAI快速构建训练模型，如搭建一些《物体识别》、《验证语音降噪等》有趣的实验模型，也可以契合企业需求，实现企业个性化推荐，小编整理了一些基于PAI平台的模型开发训练指南，供开发者参考收藏。
MAE 自监督算法介绍和基于 EasyCV 的复现
自监督学习（Self-Supervised Learning）能利用大量无标注的数据进行表征学习，然后在特定下游任务上对参数进行微调。通过这样的方式，能够在较少有标注数据上取得优于有监督学习方法的精度。近年来，自监督学习受到了越来越多的关注，如Yann Lecun也在 AAAI 上讲 Self-Supervised Learning 是未来的大势所趋。在CV领域涌现了如SwAV、MOCO、DINO、MoBY等一系列工作。MAE是kaiming继MOCO之后在自监督学习领域的又一力作。首先，本文会对MAE进行解读，然后基于EasyCV库的精度复现过程及其中遇到的一些问题作出解答。
阿里开源自研工业级稀疏模型高性能训练框架 HybridBackend
近年来，随着稀疏模型对算力日益增长的需求, CPU集群必须不断扩大集群规模来满足训练的时效需求，这同时也带来了不断上升的资源成本以及实验的调试成本。
【ICDE 2022】稀疏模型训练框架HybridBackend，单位成本下训练吞吐提升至5倍
近日，阿里巴巴投稿的论文《PICASSO: Unleashing the Potential of GPU-centric Training for Wide-and-deep Recommender Systems》被数据库和数据挖掘方向CCF-A类国际三大顶会之一的ICDE 2022 (International Conference on Data Engineering) 接收。
阿里云机器学习平台PAI与香港大学合作论文入选INFOCOM 2022，有效减少大规模神经网络训练时间
近日，阿里云机器学习平台 PAI 与香港大学吴川教授团队合作的论文”Efficient Pipeline Planning for Expedited Distributed DNN Training”入选INFOCOM（IEEE International Conference on Computer Communications） 2022，论文提出了一个支持任意网络拓扑的同步流水线并行训练算法，有效减少大规模神经网络的训练时间。
Triton 云端生产实践
机器学习模型的在线推理在生产实践中扮演着非常重要的角色，从典型的互联网场景中的搜索，广告，推荐的召回排序，到实时的图像识别，语音识别，文本处理等领域，都需要涉及到模型的在线推理，从简单的逻辑回归模型到复杂的深度学习模型，从 CPU 到 GPU 加速，Aliyun 推出的EAS模型推理平台在云原生模型推理领域深耕多年，旨在打造一个开放的高性能云原生模型推理平台，能够覆盖经典机器学习模型和深度学习模型对于在线推理的不同诉求，借助于阿里云的弹性底座来实现资源的动态弹性伸缩，降低用户成本。
【GTC 22】PaiSparse：面向深度学习的稀疏算子库
随着越来越多超大语言模型的出现，如何将这些超大语言模型在实际业务中部署落地成为了一个急需解决的问题。这些超大语言模型拥有百亿千亿甚至于万亿的参数，如此巨大的参数使得无法将超大模型直接部署在单张卡上，而需要几个甚至几十个 GPU 参与模型推理，会消耗非常大的计算资源。然而一些常用的模型优化技术如剪枝和量化虽然能够有效的降低模型大小，但是这些算法却很难在保证精度的情况下达到较大的压缩率。因此我们选择了非结构化稀疏来压缩超大语言模型，从而使得他们能够在保证精度的情况下达到较高的压缩率。
【GTC 22】通过 PAI-Blade 更方便、更鲁棒地使用 TensorRT
随着 AI 应用的快速发展和广泛应用，AI 应用开发和工程部署及模型优化也日益引起了产业界关注。如何更高效地完成 AI 算法从研究领域到生产部署的应用开发流程是一个常见的问题。本次 GTC 2022 S41395 中，阿里云计算平台 PAI 团队分享了通过模型系统优化工具 PAI-Blade 更好地应用 TensorRT，BladeDISC 等相关技术方案，优化云上应用场景。
阿里巴巴开源大规模稀疏模型训练/预测引擎DeepRec
经历6年时间，在各团队的努力下，阿里巴巴集团大规模稀疏模型训练/预测引擎DeepRec正式对外开源，助力开发者提升稀疏模型训练性能和效果。
GTC 22 精彩看点 | 锁定阿里云机器学习 PAI 分享
3月21日，2022英伟达 GTC 大会即将拉开帷幕。此次 GTC 22 大会上，阿里云将带来有关推理优化/部署、深度学习编译器、大模型部署、训练优化、云手游等主题的内容，分享云端机器学习平台最新的创新实践。
多任务学习模型之DBMTL介绍与实现
本文介绍的是阿里在2019年发表的多任务学习算法。该模型显示地建模目标间的贝叶斯网络因果关系，整合建模了特征和多个目标之间的复杂因果关系网络，省去了一般MTL模型中较强的独立假设。由于不对目标分布做任何特定假设，使得它能够比较自然地推广到任意形式的目标上。
【ASPLOS 2022】机器学习访存密集计算编译优化框架AStitch，大幅提升任务执行效率
近日，关于机器学习访存密集计算编译优化框架的论文《AStitch: Enabling A New Multi-Dimensional Optimization Space for Memory-Intensive ML Training and Inference on Modern SIMT Architectures》被系统领域顶会ASPLOS 2022接收。
阿里云机器学习平台PAI论文入选国际顶会ASPLOS 2022
近日，阿里云机器学习PAI主导的论文《机器学习访存密集计算编译优化框架AStitch》入选国际顶会ASPLOS 2022，论文通过编译优化的手段来自动化地提高机器学习任务的执行效率。此次入选意味着阿里云机器学习平台PAI自研的深度学习编译优化系统达到了全球业界先进水平，获得了国际学者的认可，展现了中国机器学习系统技术创新在国际上的竞争力。
贾扬清领衔，阿里多人入选全球人工智能最具影响力学者榜单
近日，2022年度人工智能最具影响力学者榜单正式发布，在21个AI子领域中，阿里云计算平台负责人贾扬清等10名阿里科学家成功入选。其中，贾扬清在多媒体领域排名第一。
序列特征在推荐算法中的应用
行为序列特征在推荐，广告等领域中有着广泛应用，最近几年涌现了很多有关行为序列的研究论文，讲解如何将行为序列应用到实际场景中。但是论文中的实际思想距离落地还有一段距离，因此本文先介绍一些论文中的序列特征的用法，然后介绍一下在大规模分布式推荐系统框架 EasyRec 中如何将序列特征快速落地，提升实际场景效果。
浙江大学、达摩院、阿里云获中国电子学会科技进步一等奖
1月14日消息,中国电子学会公布“2021中国电子学会科学技术奖”名单,浙江大学、达摩院、阿里云完成的“超大规模高性能图神经网络计算平台及其应用”获得科技进步一等奖。
多任务学习模型之ESMM介绍与实现
本文介绍的是阿里巴巴团队发表在 SIGIR’2018 的论文《Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate》。文章基于 Multi-Task Learning (MTL) 的思路，提出一种名为ESMM的CVR预估模型，有效解决了真实场景中CVR预估面临的数据稀疏以及样本选择偏差这两个关键问题。后续还会陆续介绍MMoE，PLE，DBMTL等多任务学习模型。
预训练知识度量比赛夺冠！阿里云PAI发布知识预训练工具
阿里云计算平台PAI团队携手达摩院智能对话与服务技术团队，在CCIR Cup2021全国信息检索挑战杯的《预训练模型知识量度量》比赛中基于自研的融入知识预训练模型取得第一名。团队采用自研的知识预训练模型KGBERT和DKPLM为底座，采用多样化知识融入方法，形成强有力的蕴含丰富知识的预训练模型，在比赛数据上取得了非常好的效果。
量化感知训练实践：实现精度无损的模型压缩和推理加速
本文以近期流行的YOLOX[8]目标检测模型为例，介绍量化感知训练的原理流程，讨论如何实现精度无损的实践经验，并展示了量化后的模型能够做到精度不低于原始浮点模型，模型压缩4X、推理加速最高2.3X的优化效果。
持续探索行业新趋势，PAI平台获得联邦学习评测证书
2021 年 6 月 24 日，阿里云机器学习平台PAI获得“大数据产品能力评测”联邦学习项目基础能力专项评测证书，持续探索行业新趋势，不断在前沿的热门领域尝试AI应用落地。
