Step By Step
一、模型训练与保存
1.1 DSW控制台创建DSW2实例
1.2 Terminal更新TensorFlow（2.3.1当期最新版本）
pip install tensorflow
1.3、python code
# 安装 TensorFlow
import tensorflow as tf
print(tf.__version__)
mnist = tf.keras.datasets.mnist
(x_train, y_train), (x_test, y_test) = mnist.load_data()
x_train, x_test = x_train / 255.0, x_test / 255.0
model = tf.keras.models.Sequential([
tf.keras.layers.Flatten(input_shape=(28, 28)),
tf.keras.layers.Dense(128, activation='relu'),
tf.keras.layers.Dropout(0.2),
tf.keras.layers.Dense(10, activation='softmax')
])
model.compile(optimizer='adam',
loss='sparse_categorical_crossentropy',
metrics=['accuracy'])
model.fit(x_train, y_train, epochs=5)
model.evaluate(x_test, y_test, verbose=2)
# 将整个模型另存为 SavedModel。
model.save('saved_model_2/my_model') 
4、模型格式
二、eascmd部署模型
2.1 压缩模型到zip包
zip -r model ./
2.2 eascmd 用户认证
eascmd64 config -i -k -e pai-eas.cn-hangzhou.aliyuncs.com
2.3 上传文件
eascmd upload [filename] --inner
2.4 创建模型部署json文件
{
"name": "taro_eas_keras_demo",
"generate_token": "true",
"model_path": "oss://eas-model-hangzhou/18482178/model.zip",
"processor": "tensorflow_cpu_1.14",
"metadata": {
"instance": 1,
"cpu": 1}
}
更多参考：EASCMD客户端使用说明
2.5 部署模型
eascmd create [service_desc_json]
2.6 eas 控制台查看成功部署的模型
三、sdk 调用模型
3.1 获取模型信息。
通过GET请求可以获取模型的相关信息，包括signature_name、name、type及shape，示例如下: curl <访问地址> -H 'Authorization:' | python -mjson.tool
3.2 Python SDK调用 Code Sample
#!/usr/bin/env python
from eas_prediction import PredictClient, TFRequest
import cv2
import numpy as np
with open('2.jpg', 'rb') as infile:
buf = infile.read()
# 使用numpy将字节流转换成array
x = np.fromstring(buf, dtype='uint8')
# 将读取到的array进行图片解码获得28 × 28的矩阵
img = cv2.imdecode(x, cv2.IMREAD_UNCHANGED)
# 由于预测服务API需要长度为784的一维向量将矩阵reshape成784
img = np.reshape(img, 784)
if __name__ == '__main__':
# http://1848217*********.cn-shanghai.pai-eas.aliyuncs.com/api/predict/kears_model
client = PredictClient('1848217*********.cn-shanghai.pai-eas.aliyuncs.com', 'kears_model')
# 注意上面的client = PredictClient(）内填入的信息，是通过对调用信息窗口（下图）中获取的访问地址的拆分
client.set_token('*********')
# Token信息在“EAS控制台—服务列表—服务—调用信息—公网地址调用—Token”中获取
client.init()
req = TFRequest('serving_default') # signature_name 参数:serving_default
req.add_feed('flatten_input', [1, 28, 28], TFRequest.DT_FLOAT, img)
resp = client.predict(req)
print(resp)3.3 测试结果
outputs {
key: "dense_1"
value {
dtype: DT_FLOAT
array_shape {
dim: 1
dim: 10
}
float_val: 0.0
float_val: 0.0
float_val: 1.0
float_val: 0.0
float_val: 0.0
float_val: 0.0
float_val: 0.0
float_val: 0.0
float_val: 0.0
float_val: 0.0
}
}参考链接：阿里云机器学习PAI EAS部署TensorFlow Model
参考链接
阿里云机器学习PAI EAS部署TensorFlow Model
TensorFlow服务请求构造
EASCMD客户端使用说明
