大数据计算 MaxCompute

语法: add py [comment 'cmt'][-f]; 说明：local_file.py：.py文件 注册函数 语法: CREATE FUNCTION AS USING ; 说明： function_name：UDF函数名，这个名字就是SQL中引用该函数所使用的名字。

参数与返回值类型 参数与返回值通过如下方式指定： @odps.udf.annotate(signature) Python UDF目前支持ODPS SQL数据类型有：bigint, string, double, boolean和datetime。

2017/12/20 北京云栖大会上阿里云MaxCompute发布了最新的功能Python UDF。 小编第一时间申请到了公测资格，下面就为大家做个简单演示，通过DataWorks注册MaxCompute Python UDF（字符串大小写转换），完成数据处理。

在我看来，PyODPS就是阿里云上的Python。值得注意的是，这里的定语“阿里云上的”一定不能精简掉，因为PyODPS不等于单机版的Python！

摘要在2017杭州云栖大会机器学习平台PAI专场上阿里巴巴高级算法专家杨军结合具体案例分享了端到端GPU性能优化在深度学习场景下的应用实践。   本文内容根据嘉宾演讲视频以及PPT整理而成。   目前深度学习和GPU已经成为了人工智能的基础一软一硬的结合能够帮助我们实现图像识别、语音识别以及视频的处理那么如何优化深度学习框架与GPU资源也是机器学习平台的一个研究方向。

大数据计算服务MaxCompute不仅是阿里巴巴内部和阿里云的大数据旗舰平台，更是全新一代的人工智能计算引擎。12.19日-20日的北京云栖大会上，MaxCompute有哪些值得期待的内容，小编带你先行划重点。

2017年12月19 -20日，引发全球科技共振的云栖大会在国家会议中心举办2017年的压轴场—北京峰会。在本次大会上，阿里云主力计算平台MaxCompute将全球首次现场完成基于公共云的BigBench评测，并由阿里云总裁胡晓明在20日上午的主论坛宣布最终结果，令人期待。

本手册为云栖大会Workshop《云数据·大计算：快速搭建互联网在线运营分析平台》的《数据处理：数据建模与加工》篇而准备。主要阐述在使用DataWorks/MaxCompute过程中如何直读TableStore中的日志数据并进行加工、用户画像，学员可以根据本实验手册，去学习如何创建外部表、编写SQL。

该课程是基于大数据时代APP日志分析的基础需求的基础上，给开发者从数据高并发写入及实时在线访问存储到便捷高效的数据加工处理最终再到数据分析与展示的完整链路解决方案。不仅可以了解并实操到阿里云的产品，同时可以自己可以跟着讲师动手完成在线运营分析平台的搭建。

MaxCompute Studio 2.8.2 新版本，主要新增可视化建表、保存/查看历史job日志、查看历史执行sql脚本，重点优化Editor性能解决大脚本文件实时编译卡顿问题等等~

摘要：2017云栖大会dataworks专场，国网浙江电力大数据平台架构师陈振带来Dataworks/MaxCompute在国网应用的实践。本文主要从建设数据仓库的三个痛点开始谈起，引出企业级数仓架构设计，着重通过数据集成和企业级管理为大家分享了具体的应用情况，最后作了简要的展望。

摘要：在2017杭州云栖大会阿里云数加DataWorks专场上，阿里云产品专家代俊峰(花名：普阳)为大家分享了如何借助阿里云数加DataWorks工具进行数据集成和开发，分享了如何借助DataWorks实现从数据处理手工作坊到数据加工工厂的跨越转变。

摘要：2017云栖大会机器学习平台PAI专场，阿里巴巴高级技术专家陈绪带来千亿特征流式学习在大规模推荐排序场景的应用的演讲。主要从电商个性化推荐开始谈起，进而描述了技术挑战和PAI解决方案，重点分享了鲲鹏框架和算法调优，最好作了简要总结。

2017年是以数字经济为核心的新经济在助推政府、企业快速向数字化转型，也推动了产业互联网、智慧互联网的快速发展。企业上云不仅仅只是一个口号，是以运营商、政府、云企业共同推动，正在一步步落实，并且给企业带来“普惠”价值。

摘要：ofo小黄车大数据BI系统负责人龙利民为大家分享了ofo的上云体验，重点分享了MaxCompute的应用实践，最后对阿里云提出了自己的建议需求。 关于ofo小黄车 共享经济不仅与技术相关，它还关乎人类共同命运，关乎可持续发展。

MaxCompute感谢最最亲爱的客户，感谢您信任的将我选择，感谢您期待的将未来托付，更感谢您包容的与我比肩同行。感恩不应只在今天说出，而是在有你们支持走过的每一天。为亲爱的客户们奉上载满MaxCompute团队伙伴们感恩和祝福的话儿 “感恩有你，一路同行”。（文末有福利哦~）

摘要：华大基因股份公司总监金鑫介绍了华大基因，并浅谈了与阿里云的情缘，包括Maxcompute等方面应用案例。一起来看下吧。   关于华大基因 华大基因是中国最领先的基因科技公司，华大基因为消除人类病痛、经济危机、国家灾难、濒危动物保护、缩小贫富差距等方面提供分子遗传层面的技术支持。

11月22日在广州举办的2017年云栖大会·广东分会今天拉开序幕，小编已经深深感受到了华南地区小伙伴们的热情，针对大家好奇的问题，如本届广东分会阿里云会有什么亮点？邀请了哪些嘉宾？展台会有什么活动等等问题，小编在这里为大家做个现场报道吧！

阿里云大数据计算服务MaxCompute通过灵活性、简单性和创新为您企业的业务环境带来了变革，但是您企业是否通过其实现了原本预期的节省成本的目标呢?本文中，我们将为广大读者诸君介绍优化您企业MaxCompute开销的一些关键性的策略。

《逐云》第三期，我们拍了阿里巴巴通用计算平台负责人关涛，记录了他的学生时代，以及为什么从美回国来到阿里巴巴做通用计算平台，以及他对未来的展望。

很多用户经常被MaxCompute收费所困扰，比如执行了一条 select xxx from yyy 然后扣费1元 ，不知道如何查询到明细，也无法做优化。 接下来，我来教大家学习如何通过控制台消费功能查看你在MaxCompute（DataWorks/Studio）中的每一条SQL/MR计算、存储、下载的消费明细。

2017年11月16日，阿里巴巴集团旗下云计算平台阿里云，宣布在美推出MaxCompute大数据计算平台。正式向美国企业提供大数据计算服务。

“通过`show p -all;`命令查看所有执行过的job，再通过`wait instanceid;`查看这个job的logview，最后通过logview再查看具体的执行日志。” 这样的方式查看所有job并分析运行情况实在太麻烦，MaxCompute Studio已经可以轻松完成了。

美柚以让女人更美更健康为己任，致力成为最懂女人的互联网企业;美柚很早就将大数据作为了解女人、读懂女人、服务女人的最重要利器。大数据在美柚的应用非常广泛，然而在美柚大数据之路的初期，遇到了不少的困难和挑战

我们很熟悉的是通过Logview 去分析作业的执行情况，logview上有很详细的执行日志，而Studio不仅仅提供可视化的信息，还会明确给出一些分析结论如job是有否长尾或数据倾斜情况。

内容简介：阿里云大数据平台 MaxCompute 系统为开发者提供全托管的、PB 级的数据仓库解决方案，MaxCompute Studio 是 MaxCompute 新推出的数据集成开发环境（IDE），为开发者提供了 数据开发调试 - 命令行工具集成 - 自助作业分析诊断 的全面解决方案。

MaxCompute实现预付费项目自动续费。

　　近日，第26届操作系统原理大会（SOSP）在上海举行，来自亚洲、欧洲、北美等地区的高校、学术机构和众多科技企业研究人员齐聚一堂。阿里巴巴受邀参加此次会议，除在展区展示系统软件技术的同时，阿里集团副总裁周靖人在BOF环节向参会人员介绍了阿里在数据库、计算、机器学习、网络等领域的多项重点技术。

本文的方案让用户可以方便地把数据通过SQL语句进行跨区域迁移

11月1日，阿里云宣布大数据计算服务MaxCompute在北京和马来西亚同日开服。这是阿里云首次将其大数据计算服务在国内和海外双节点同时开服，特别是在马来西亚数据中心全球开放2天后，MaxCompute即开服马来西亚，意味着大数据计算产品正在市场和业务的呼唤下加速全球化拓展步伐。

Console客户端、大数据开发套件的SQL编辑器目前都没有脚本编译功能，每次需要执行SQL脚本，只能提交执行后若有语法错误，执行结果失败返回失败信息才发现，影响开发效率又浪费资源。今天我就来分享在MaxCompute SQL提交运行前就可以进行脚本编译的方法。

在阿里云双11访谈MaxCompute专场中，MaxCompute资深运营专家祎休为大家简单介绍了阿里云的MaxCompute平台的基本情况，并且为大家分享了MaxCompute如何帮助用户快速架构大数据仓库的。

在阿里云双11访谈之数据智能专场中，阿里云交互设计师梓铭、阿里云人工智能资深产品运营席嘉和阿里云DataV资深产品运营苇如为大家简单分享了数据智能的应用，介绍了阿里云新近发布的产品ET城市大脑以及它所用到的技术支撑和在其他领域的应用，最后还介绍了双11的具体优惠活动。

通过MaxCompute Studio工具界面，轻松完成tunnel命令能完成的本地数据导入导出工作。打破大数据开发套件中本地数据文件导入10M的限制，和打破下载只能下载查询结果最多10000行的限制。

要：在2017杭州云栖大会阿里云大数据计算服务（MaxCompute）专场上，阿里巴巴高级技术专家李睿博为大家分享了阿里云大数据计算服务MaxCompute对于开源系统的支持和融合，以及在拥抱开源和生态的时候阿里巴巴的技术团队遇到过哪些问题和挑战。

10月14日，2017杭州云栖大会·阿里云大数据计算服务（MaxCompute）专场，阿里巴巴计算平台架构师林伟分享了主题《MaxCompute2.0的NewSQL演进之路》，介绍阿里云大数据计算服务MaxCompute 2.0在NewSQL上所做的优化和实践工作。

摘要：2017云栖大会阿里云大数据计算服务（MaxCompute）专场，众安保险数据总监王超群带来MaxCompute助力众安保险方面的演讲。本文主要从MaxCompute优势开始谈起，进而谈及大数据能够公司运营带来的好处，最后重点分析了众安保险的数据平台建设，包括任务调度、元数据和数据质量监控等。

10月14日，2017杭州云栖大会·阿里云大数据计算服务（MaxCompute）专场，阿里云技术专家路璐带来《MaxCompute基于BigBench标准的最新测试进展》分享。   在11日的主论坛上，MaxCompute做了敢为人先、引领潮流BigBench On MaxCompute2.0的重磅发布，意味着MaxCompute成为第一个做到100TB数据规模的BigBench，并且在100T数据规模的Qpm达到7830Qpm，成为第一个达到7000分的大数据引擎。

摘要：2017云栖大会阿里云大数据计算服务（MaxCompute）专场，阿里云高级专家戴谢宁带来MaxCompute的索引与优化实践分享。本文主要从MaxCompute数据模型开始谈起，接着分享了哈希分片和区域分片，着重分析了索引优化和join优化，并且列出了应用实例，最好作出了简要总结。

This article describes how to install and run the BigBench on MaxCompute.

MaxCompute (ODPS) ( __注1__ )是阿里云自主研发的具有业界领先水平的分布式大数据处理平台, 尤其在集团内部得到广泛应用，支撑了多个BU的核心业务。 ODPS2.0除了持续优化性能外，也致力于提升SQL语言的用户体验和表达能力，提高广大ODPS开发者的生产力。

MaxCompute（原ODPS）是阿里云自主研发的具有业界领先水平的分布式大数据处理平台, 尤其在集团内部得到广泛应用，支撑了多个BU的核心业务。 MaxCompute除了持续优化性能外，也致力于提升SQL语言的用户体验和表达能力，提高广大ODPS开发者的生产力。

MaxCompute（原ODPS）是阿里云自主研发的具有业界领先水平的分布式大数据处理平台, 尤其在集团内部得到广泛应用，支撑了多个BU的核心业务。 MaxCompute除了持续优化性能外，也致力于提升SQL语言的用户体验和表达能力，提高广大ODPS开发者的生产力。