TensorFlow 2.10 已发布,还没有更新的小伙伴现在可以更新了。
近日,TensorFlow 官方宣布, TensorFlow 2.10 来了!距离上次 2.9 版本的更新仅仅过去三个月。TensorFlow 地址:https://blog.tensorflow.org/2022/09/whats-new-in-tensorflow-210.html新版本的亮点包括:Keras 中新的用户友好特性、Windows 中扩展 GPU 支持等等。此版本还标志着 TensorFlow 决策森林 (TF-DF) 1.0 版本的到来!对于这一更新,网友还是很期待的,有人表示:「TensorFlow 2.10 增加了 64 位 Arm 支持,现在可以在 Arm 硬件上使用 pip install TensorFlow 进行安装了。」还有人对 TF-DF 1.0 版本的到来感到非常惊喜,并表示这是自己最期待的。下面我们介绍一下新版本都有哪些改进。TensorFlow 2.10 新特性Keras从 TensorFlow 2.10 开始,对 Keras 注意力层的 mask 处理(例如 tf.keras.layers.Attention、tf.keras.layers.AdditiveAttention ) 进行了扩展和统一。 现在 Transformer 自注意力块可以写成这样:
import tensorflow as tf embedding = tf.keras.layers.Embedding( input_dim=10, output_dim=3, mask_zero=True) # Infer a correct padding mask. # Instantiate a Keras multi-head attention (MHA) layer, # a layer normalization layer, and an `Add` layer object. mha = tf.keras.layers.MultiHeadAttention(key_dim=4, num_heads=1) layernorm = tf.keras.layers.LayerNormalization() add = tf.keras.layers.Add() # Test input. x = tf.constant([[1, 2, 3, 4, 5, 0, 0, 0, 0], [1, 2, 1, 0, 0, 0, 0, 0, 0]]) # The embedding layer sets the mask. x = embedding(x) # The MHA layer uses and propagates the mask. a = mha(query=x, key=x, value=x, use_causal_mask=True) x = add([x, a]) # The `Add` layer propagates the mask. x = layernorm(x) # The mask made it through all layers. print(x._keras_mask)
> tf.Tensor(> [[ True True True True True False False False False]> [ True True True False False False False False False]], shape=(2, > 9), dtype=bool)
其次,在 Tensorflow2.9 版本中,tf.keras.callbacks.BackupAndRestore 回调将在 epoch 边界备份模型和训练状态。在 Tensorflow 2.10 中,回调还可以每 N 个训练 step 备份一次模型。关于Keras 中新的用户友好特性,还有一点值得说的是,从音频文件目录中轻松生成音频分类数据集,现在使用tf.keras.utils.audio_dataset_from_directory 功能,就能从 .wav 文件目录轻松生成音频分类数据集。改进 AArch64 CPU 性能:ACL / oneDNN 集成TensorFlow 团队与 Arm、AWS 和 Linaro 合作,通过 oneDNN 将 Arm 架构 (ACL) 的计算库与 TensorFlow 集成,来加速 AArch64 CPU 的性能。从 TensorFlow 2.10 开始,你可以通过在运行 TensorFlow 程序之前设置环境变量 TF_ENABLE_ONEDNN_OPTS=1 来实现这一点。在 Windows 上扩展 GPU 支持TensorFlow 现在可以通过 TensorFlow-DirectML 插件在 Windows 上使用更广泛的 GPU。用户要在 AMD、Intel、NVIDIA 和 Qualcomm 等供应商提供的 DirectX 12-capable GPU 上进行模型训练,请在本机 Windows 或 WSL2 上安装与标准 TensorFlow CPU 包一起的插件。TensorFlow 决策森林 1.0随着 Tensorflow 2.10 的发布,TF-DF(Tensorflow Decision Forests)1.0 版本正式来了。这是一个伟大的里程碑,TensorFlow 团队改进了文档并建立了更全面的测试,以确保 TF-DF 为专业环境做好准备。了解更多更新,请查看 TensorFlow 官网。