开发者社区> 武耀文> 正文

AI平台-AutoML-2019年几个靠谱的AutoML框架

简介: AutoML,也称自动机器学习,是指将机器学习应用于现实问题的端到端过程自动化的过程。
+关注继续查看

1. 什么是AutoML

1.1简介

AutoML,也称自动机器学习,是指将机器学习应用于现实问题的端到端过程自动化的过程。
典型的机器学习模型包括以下四个过程:
image
从摄取数据到预处理、优化,然后预测结果,每个步骤都由人来控制和执行。AutoML 主要关注两个主要方面:数据采集 / 收集和预测。中间发生的所有其他步骤都可以轻松实现自动化,同时提供经过优化并准备好进行预测的模型。
从表现形式来看,AutoML目前主要分三类:1. 自动化调参(比较基础)2. 对于非深度学习领域应用的AutoML,比如AutoSKlearn等,主要体现在从数据预处理,自动化特征分析,自动化特征检验,自动化特征选择,自动化模型选择等。3. 应用于深度学习/神经网络的AutoML,主要有NAS,ENAS等,对于框架有AutoKeras等。

1.2 为什么需要 AutoML

从应用角度,在过去几年中,对机器学习系统的需求飙升。这是因为 ML 如今在广泛的应用中取得了成功。然而,即使有这种明确的迹象表明机器学习可以为某些企业提供支持,但很多公司仍在为部署 ML 模型而艰难地努力着。
从理论角度,AI致力于替代人的一部分工作,但是进一步深究的话,AI算法的设计过程中的很多工作,比如调参,也是可以通过算法实现的,或者说可以在调参等过程中,通过贝叶斯、NAS、进化编程等算法,实现使用更多的算力来替代人力。
首先,他们需要建立一支由经验丰富的数据科学家组成的团队,这些科学家都要拿丰厚的薪水。其次,即使你拥有一支优秀的团队,往往需要更多的经验来决定哪种模式 最适合你的问题,而不是知识。机器学习在各种应用中的成功,导致了对机器学习系统不断增长的需求,这些系统可以由非专家使用¹。AutoML倾向于尽可能多地自动化 ML 管道中步骤,在只需最少人力的情况下仍保持模型的性能。

AutoML 的优点可归纳为三大要点:

  • 通过自动执行的重复性任务来提高工作效率。这使得数据科学家能够更多地关注问题而不是模型。
  • 自动化 ML 管道还有助于避免可能因手动引入的错误。
  • AutoML 是向机器学习民主化迈出的一步,它使所有人都能使用 ML 的功能。

2. 常见的Auto框架简介(2019年5月)

AutoML已经有很多年历史,但从去年开始,陆续涌出好多新的Auto框架,这几只是选择几个常见的做简介,后续的文章中会介绍他们的使用详情和性能等。

2.1 AutoSKlearn

本着入门一般选SKLearn的原则,先聊聊AutoSKLearn
Auto-Sklearn 是一个基于 Scikit-learn 构建的自动化机器学习软件包。Auto-Sklearn 让机器学习的用户从算法选择和超参数调整中解放出来。它包括特征工程方法,如独热编码(One-Hot)、数字特征标准化、PCA 等。该模型使用 sklearn 估计器处理分类和回归问题。
image
Auto-sklearn 创建了一个管道,并使用贝叶斯搜索对其进行优化。在 ML 框架的贝叶斯超参数优化中,添加了两个组件:元学习 用于初始化贝叶斯优化器,从优化过程中评估配置的自动集合构造。
Auto-sklearn 在中小型数据集上表现良好,但它还无法在大型数据集上产生性能最先进的现代深度学习系统。
演示
以下示例显示如何使用 Auto-Sklearn 拟合简单回归模型。

 import sklearn.model_selection
import sklearn.datasets
import sklearn.metrics

import autosklearn.regression

def main():
X, y = sklearn.datasets.load_boston(return_X_y=True)
feature_types = (['numerical'] * 3) + ['categorical'] + (['numerical'] * 9)
X_train, X_test, y_train, y_test = \
sklearn.model_selection.train_test_split(X, y, random_state=1)

automl = autosklearn.regression.AutoSklearnRegressor(
time_left_for_this_task=120,
per_run_time_limit=30,
tmp_folder='/tmp/autosklearn_regression_example_tmp',
output_folder='/tmp/autosklearn_regression_example_out',
)
automl.fit(X_train, y_train, dataset_name='boston',
feat_type=feature_types)

print(automl.show_models())
predictions = automl.predict(X_test)
print("R2 score:", sklearn.metrics.r2_score(y_test, predictions))


if __name__ == '__main__':
main()

资源链接:
Github:https://automl.github.io/autosklearn

2.1 MLBox

image
MLBox 是一个功能强大的自动化机器学习 Python 库。根据官方文档,该库提供以下功能:

  • 快速读取,分布式数据预处理 / 清洗 / 格式化;
  • 高可靠性的特征选择,泄漏检测,准确的 超参数优化;
  • 用于分类和回归的最先进的预测模型(深度学习,堆叠,LightGBM,......);
  • 具有模型解释的预测;

MLBox已经在 Kaggle 上进行了测试并且表现良好。(参见 Kaggle “Two Sigma Connect:Rental ListingInquiries”| Rank:85/2488)。

  • 管道

MLBox 架构
MLBox的主程序包包含 3 个子包,用于自动执行以下任务:

  • 预处理:用于读取和预处理数据。
  • 优化:用于测试和交叉验证模型。
  • 预测:用于预测。

2.3 TPOT

TPOT是基于树的管道优化工具,利用遗传算法来优化机器学习管道。TPOT 扩展了 Scikit-learn 框架,使用了自己的回归器和分类器方法。TPOT 的工作原理是探索数千条可能的管道,并为数据找到最好的一个。
image
资源链接:
Github:https://epistasislab.github.io/tpot/

2.4 H2O AutoML

H2O 是 H2O.ai 公司的完全开源的分布式内存机器学习平台。H2O同时支持 R 和 Python,支持最广泛使用的统计和机器学习算法,包括梯度提升(Gradient Boosting)机器、广义线性模型、深度学习模型等。
H2O 包括一个自动机器学习模块,使用自己的算法来构建管道。它对特征工程方法和模型超参数采用了穷举搜索,优化了管道。
H2O 自动化了一些最复杂的数据科学和机器学习工作,例如特征工程、模型验证、模型调整、模型选择 和 模型部署。除此之外,它还提供了自动可视化以及机器学习的解释能力(MLI)。
资料地址:https://h2o-release.s3.amazonaws.com/h2o/master/3888/docs-website/h2odocs/downloading.html#downloading-installing-h2o

2.5AutoKeras

Auto-Keras 是 DATA Lab 构建的一个用于自动化机器学习的开源软件库。基于 Keras 深度学习框架,Auto-Keras 提供了自动搜索深度学习模型的体系结构和超参数的功能。
API 的设计遵循 Scikit-Learn API 的经典设计,因此使用起来非常简单。当前版本提供了在深度学习过程中自动搜索超参数的功能。
Auto-Keras 的趋势是通过使用自动神经架构搜索(NAS)算法简化 ML 过程。NAS 基本上用一组自动调整模型的算法,替代了深度学习工程师 / 从业者。
资源链接:https://github.com/keras-team/autokeras
2.6 TransmogrifAI
下面介绍个大杀器2018年Salesforce出品的TransmogrifAI 。
该公司的旗舰 ML 平台名为爱因斯坦,也由 TransmogrifAI 驱动。TransmogrifAI是一个端到端的 AutoML 库,用于 Scala 编写的结构化数据,运行在最新版的Apache Spark 之上,可自动完成特征分析,特征选择,特征校验,模型选择等流程。在以下场景中,TransmogrifAI 特别有用:

  • 快速训练高质量机器学习模型,只需极少的手动调节
  • 构建模块化、可重用、强类型的机器学习工作流

3.关于Auto的思考

从质上讲,AutoML 的目的是自动化重复的任务,如管道创建和超参数调整,以便数据科学家在实际中可以将更多的时间花在手头的业务问题上。AutoML 还在于让所有人都能使用这项技术,而不仅仅少数人才能用。AutoML 和数据科学家可以联合起来加速 ML 的发展过程,从而实现机器学习的真正效率。
AutoML 是否成功取决于它的使用率和在这个领域所取得的进展。很明显,AutoML 是机器学习未来的一个重要组成部分。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
想知道Python的 数据驱动编程框架 Da0tabot 是怎么运行?
前言 Da0tabot是用于 Web 爬虫、ETL、数据管道任务开发的高性能 Python 数据驱动编程框架。**特性:** 数据驱动编程框架 基于协程的并行 基于类型和内容的函数路由 安装: pip install -U databot Databot is.
918 0
Spring 框架文档之核心技术—— AOP
Spring AOP 提供声明式企业服务(如声明式事务管理)。简化和补充 OOP。基于动态代理(JDK 动态代理或 CGLIB 代理)实现。
6565 0
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,阿里云优惠总结大概有三种登录方式: 登录到ECS云服务器控制台 在ECS云服务器控制台用户可以更改密码、更换系.
29195 0
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,大概有三种登录方式:
13578 0
从壹开始前后端分离【 .NET Core2.0 +Vue2.0 】框架之十 || AOP面向切面编程浅解析:简单日志记录 + 服务切面缓存
代码已上传Github+Gitee,文末有地址   上回《从壹开始前后端分离【 .NET Core2.0 Api + Vue 2.0 + AOP + 分布式】框架之九 || 依赖注入IoC学习 + AOP界面编程初探》咱们说到了依赖注入Autofac的使用,不知道大家对IoC的使用用怎样的感觉,我个人表示还是比较可行的,至少不用自己再关心一个个复杂的实例化服务对象了,直接通过接口就满足需求,当然还有其他的一些功能,我还没有说到,抛砖引玉嘛,大家如果有好的想法,欢迎留言,也可以来群里,大家一起学习讨论。
1286 0
【开发者的2018】GAN、AutoML、统一框架、语音等十大趋势
本文从开发者的角度,总结了GAN、AutoML、语音识别、NLP等已经可以用于实际产品的技术,以及值得关注的新趋势。作者认为,有ONNX这类的统一格式,Caffe Zoo等模型库,以及AutoML等自动化工具,制作基于AI的应用已经变得非常容易。
5428 0
阿里云服务器端口号设置
阿里云服务器初级使用者可能面临的问题之一. 使用tomcat或者其他服务器软件设置端口号后,比如 一些不是默认的, mysql的 3306, mssql的1433,有时候打不开网页, 原因是没有在ecs安全组去设置这个端口号. 解决: 点击ecs下网络和安全下的安全组 在弹出的安全组中,如果没有就新建安全组,然后点击配置规则 最后如上图点击添加...或快速创建.   have fun!  将编程看作是一门艺术,而不单单是个技术。
20710 0
+关注
武耀文
知行合一
77
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
JS零基础入门教程(上册)
立即下载
性能优化方法论
立即下载
手把手学习日志服务SLS,云启实验室实战指南
立即下载