AdaNet框架的简介
谷歌开源了基于 TensorFlow 的轻量级框架 AdaNet,该框架可以使用少量专家干预来自动学习高质量模型。
AdaNet 是一个轻量级的基于TensorFlow的框架,可以在最少的专家干预下自动学习高质量的模型。这个项目基于Cortes等人2017年提出的AdaNet算法,用于学习作为子网络集合的神经网络的结构。AdaNet 在谷歌近期的强化学习和基于进化的 AutoML 的基础上构建,快速灵活同时能够提供学习保证(learning guarantee)。重要的是,AdaNet 提供通用框架,不仅能用于学习神经网络架构,还能学习集成架构以获取更好的模型。
AdaNet实现了TensorFlow Estimator接口,通过封装训练、评估、预测和服务导出,大大简化了机器学习编程。它集成了开源工具,如TensorFlow Hub模块,TensorFlow Model Analysis和Google Cloud的Hyperparameter Tuner。分布式训练支持可显着缩短训练时间,并可与可用的CPU和加速器(例如GPU)进行线性扩展。
相关论文:《 AdaNet: Adaptive Structural Learning of Artificial Neural Networks》
论文地址:http://proceedings.mlr.press/v70/cortes17a/cortes17a.pdf
Github 项目地址:https://github.com/tensorflow/adanet
教程 notebook:https://github.com/tensorflow/adanet/tree/v0.1.0/adanet/examples/tutorials
AdaNet框架的特点
1、AdaNet 易于使用,能够创建高质量模型,节省 ML 从业者在选择最优神经网络架构上所花费的时间,实现学习神经架构作为集成子网络的自适应算法。
2、AdaNet 能够添加不同深度、宽度的子网络,从而创建不同的集成,并在性能改进和参数数量之间进行权衡。
3、AdaNet提供以下特征:
Estimator API,可轻松训练、评估和服务AdaNet模型。
学习在TensorFlow中集成用户定义的子网。
用于在单个 train() 调用中搜索子网架构和参数的接口。
关于CPU和GPU的分布式训练(我们正在开发TPU支持)。
一流的TensorBoard integration。
提供理论学习。
AdaNet框架的使用方法
正在研究ing
1、AdaNet的GitHub上使用教程:https://github.com/tensorflow/adanet/tree/v0.1.0/adanet/examples/tutorials