巧妙使用 TensorFlow 之 TensorLayer

简介:

TensorFlow 1.0 版本刚刚正式发布,各路媒体大量刷屏,可见其影响力。再加上 TensorFlow-Fold 的出现,让其建立 dynamic computation graphs 非常方便,具备了 dynet 和 pytorch 类似的功能。同学们可能发现 1.0 版本改动非常大,很多 API 被重新命名、使用方法也变了很多,导致旧版本的 TF 代码无法在 1.0 版本上直接运行。另外,TF1.0 版本中终于加入了tf.layers,虽然功能有限,但比没有要好多了。

今天介绍一个工具 TensorLayer(以下简称 TL),虽然它实现了各种各样的层,也提供类似 Keras 的 fit(), test(), predict() 等方法,但我称其为工具而不是库,因为它大量的功能以函数形式提供,通过巧妙使用提供的函数,可以非常简洁高效地实现复杂的应用。比如 TL 提供了大量的数据增强和预处理函数,自己可以根据应用而个性化地组合这些函数(比如 image segmentation 时 X 和 Y 要对应处理)。TL 的 API 设计要求尽可能地输入 TF 本身的 API,这样的好处是可以和 TF 方便地交互使用,其 DynamicRNNLayer 和 PoolLayer 是很好的例子(当然它也提供 简化版本API )。因此在我看来,使用 TL 的设计是为了巧妙地使用 TF,它提供的代码例子都跟随一种编写风格,方便社区统一风格以分享阅读代码。

这里根据最近使用 TL 的经验,我总结了一些使用小技巧,若写得不客观请见谅,当作是自己的笔记吧。

第一次在知乎写文章,写得不好看看就好

我现在在美帝读博,非常喜欢深度学习,欢迎交流 :D

*** 更多小技巧将陆续在(这里)补充。

1. 安装

* 为了方便阅读和拓展 TL 代码,建议把整个项目下载下来(在terminal中输入 git clone zsdonghao/tensorlayer),然后把 tensorlayer 的文件夹放到你的项目中。

* 由于近期 TL 发展很快,若想用 pip 安装,建议安装 master 版本。

* 对于研究 NLP 的同学,可能需要安装 NLTK 和 NLTK data 以使用文本分析API,这些功能封装在 tl.nlp 中。(若不使用则不需要安装)

2. TF与TL相互转换

* TF 转为 TL : 通过 InputLayer 把 tensor 输入到 tl.layers

* TL 转为 TF : 通过 network.outputs 获取 tensor

* 其它途径 [issues7], 多输入 [issues31]

3. Training/Testing 切换

* 通过 network.all_drop 来 disable/enable DropoutLayer (这只当使用 DropoutLayer 时才可以,可参考 tutorial_mnist.py 和 Understand Basic layer

* 更好的方法是把 noise 层的 "is_fix" 设为 "True",然后对 Training 和 Testing 分别建立不同的graph,这需要用到 parameter sharing。除了控制training/testing,这个方法可以让建立 graph 时使用不一样的参数,如 batch_size,GaussianNoiseLayer, BatchNormLayer 等。 例子如下:

def mlp(x, is_train=True, reuse=False):
    with tf.variable_scope("MLP", reuse=reuse):
      tl.layers.set_name_reuse(reuse)
      net = InputLayer(x, name='in')
      net = DropoutLayer(net, 0.8, True, is_train, 'drop1')
      net = DenseLayer(net, 800, tf.nn.relu, 'dense1')
      net = DropoutLayer(net, 0.8, True, is_train, 'drop2')
      net = DenseLayer(net, 800, tf.nn.relu, 'dense2')
      net = DropoutLayer(net, 0.8, True, is_train, 'drop3')
      net = DenseLayer(net, 10, tf.identity, 'out')
      logits = net.outputs
      net.outputs = tf.nn.sigmoid(net.outputs)
      return net, logits
x = tf.placeholder(tf.float32, shape=[None, 784], name='x')
y_ = tf.placeholder(tf.int64, shape=[None, ], name='y_')
net_train, logits = mlp(x, is_train=True, reuse=False)
net_test, _ = mlp(x, is_train=False, reuse=True)
cost = tl.cost.cross_entropy(logits, y_, name='cost')

4. 获取variables

TL非常特殊的一点是:需要给每层输入一个唯一的名字,除非 reuse 该层。我刚开始用时,完全不明白这样设计的道理,后来发现这样的好处是杜绝了错误重用和方便参数管理。

* 使用 tl.layers.get_variables_with_name 获取参数列表,尽量少用 net.all_params,下面的例子获取了上面例子中全部函数,因为上面例子中的函数都置于 “MLP” 之下:

train_vars = tl.layers.get_variables_with_name('MLP', True, True)
train_op = tf.train.AdamOptimizer(learning_rate=0.0001).minimize(cost, var_list=train_vars)

* 这个方法常常用于选择哪些参数需要被更新,比如训练 GAN 时,可以分别获取 G 和 D 的参数列表,放到对应的 optimizer 中。

* 其它方法 [issues17], [issues26], [FQA]

5. 使用预训练的 CNN 及建立 Resnet

很多应用中需要用到预训练好的CNN模型,比如 image captioning, VQA, 以及在小数据集中 fine-tune 做分类器等等。

* 预训练的 CNN

。TL 网站上提供了 VGG16, VGG19, Inception 等例子,请见 TL/example

。此外通过 tl.layers.SlimNetsLayer 可以使用 Tf-Slim pre-trained models 中全部预训练好的模型!

* Resnet

。Implement by "for" loop [issues85]

。 Other methods [by @ritchieng]

6. 数据增强

* 使用 TF 提供的 TFRecord,参考 cifar10 and tfrecord examples; 这里介绍一个很好的工具: imageflow

* TL提供了 tl.prepro.threading_data 来使用 python-threading,并提供了大量图像增强的函数: the functions for images augmentation,请参考 tutorial_image_preprocess.py

7. 句子ID化(Sentences tokenization)

NLP中,词语需要转换为ID来处理,TL 的 tl.nlp 提供了大量的方法,但我觉得下面的几个han s基本够用了。

* 使用 tl.nlp.process_sentence 把句子分隔,对于中文推荐使用 jieba分词

* 然后使用 tl.nlp.create_vocab 来建立词汇表并保存成为 txt 文件,该函数还会返回一个 tl.nlp.SimpleVocabulary 实例

* 最后建议从 tl.nlp.create_vocab 保存的 txt 文件中实例化一个 tl.nlp.Vocabulary,以方便词语和数字ID之间的转换

* 更多文本处理函数请见 tl.prepro 和 tl.nlp

8. Dynamic RNN 与 sequence length

* 使用 tl.layers.retrieve_seq_length_op2 来帮助 DynamicRNNLayer 自动计算每个句子的 sequence length

* 对一个 batch 的数据做 zero padding:

b_sentence_ids = tl.prepro.pad_sequences(b_sentence_ids, padding='post')

* 其它方法 [issues18]

9. 常见bug

* Matplotlib issue arise when importing TensorLayer [issues] [FQA] (这个问题往往在远程连接 ubuntu 时出现)

10. 其它小技巧

* TL默认模式下,在执行每一个 layer 时会把相关信息显示到terminal中。但当你在建立非常深的网络时,这些信息没有太大帮助。因此可以通过 with tl.ops.suppress_stdout(): 来禁止print输出:

print("You can see me")
with tl.ops.suppress_stdout():
    print("You can't see me") # 在这里建立模型
print("You can see me")

Useful links

* TL official sites: [Docs], [中文文档], [Github]

* Learning Deep Learning with TF and TL


转自:https://zhuanlan.zhihu.com/p/25296966

目录
相关文章
|
5天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
5672 13
|
5天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2126 7
|
7天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
7天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
20天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
9820 59
|
3天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
15天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
3343 9
|
21天前
|
JavaScript API iOS开发
DeepSeek Harness下载、安装、配置一篇搞定(2026整理,送常用插件)
DeepSeek Harness(DSH)是DeepSeek于2026年开源的MIT协议AI Agent框架,支持插件化组装模型、工具、沙箱与UI,兼容主流大模型。本文提供免Node.js的桌面端安装包(Win/macOS),含详细图文教程及热门插件推荐。
6032 69
|
3天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
965 0