人工智能平台PAI 操作报错合集之DSSM负采样时,输入数据不同,被哈希到同一个桶里,导致生成的embedding相同如何解决

本文涉及的产品
交互式建模 PAI-DSW,每月250计算时 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,100CU*H 3个月
简介: 阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。

问题一:图形训练预测遇到了一些错误

这是组件的运行日志后半部分

2023-12-01 09:40:00,746 INFO: dlc endpoint pai-dlc.cn-shenzhen.aliyuncs.com

2023-12-01 09:40:00,748 INFO: input artifact input_table value is None

2023-12-01 09:40:00,748 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:00,779 INFO: Workspace list_features result: ['PaiDLC:IntegrateWithWorkspace']

2023-12-01 09:40:01,447 INFO: DLC job url: https://pai.console.aliyun.com/?regionId=cn-shenzhen&workspaceId=34471#/job/detail?jobId=dlc1ulv3lx1i7wmw

2023-12-01 09:40:01,702 INFO: job status: Creating

2023-12-01 09:40:16,960 INFO: job status: Failed

2023-12-01 09:40:16,962 INFO: input artifact input_table value is None

2023-12-01 09:40:16,962 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:17,003 INFO: Initialize DlcJobHelper from context: region_id=cn-shenzhen workspace_id=34471 is_use_workspace=True

2023-12-01 09:40:17,003 INFO: delete dataset using workspace service api

2023-12-01 09:40:17,208 INFO: delete data source: d-hkz9gro543u1x8i3ku

2023-12-01 09:40:17,209 INFO: input artifact input_table value is None

2023-12-01 09:40:17,209 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:17,242 INFO: Initialize DlcJobHelper from context: region_id=cn-shenzhen workspace_id=34471 is_use_workspace=True

2023-12-01 09:40:17,242 INFO: delete dataset using workspace service api

2023-12-01 09:40:17,443 INFO: delete data source: d-2a1agl03244fe6x59y

组件是通用图像预测easycv,上游组件是读取oss数据和图像检测训练easycv,

前几次测试的时候还可以调用起dlc到runing,后面就知道一下creating就出现failed了



参考答案:

根据提供的日志信息,可以看出组件在运行过程中出现了创建失败的情况。具体原因可能与以下几个因素有关:

  1. 输入数据问题:日志中显示input_tableinput_pose_detection_model_path的值都为None。这可能是由于上游组件没有正确传递这些输入数据导致的。请检查上游组件是否正确读取了OSS数据和图像检测模型,并将它们传递给当前组件。
  2. 资源限制:日志中还显示了作业状态为Failed,这可能是因为系统资源不足导致作业无法正常创建。请检查系统资源使用情况,如CPU、内存等,并确保它们满足组件的运行需求。
  3. 网络问题:日志中还显示了与阿里云相关的一些信息,如DLC(Deep Learning Compute)服务端点、工作空间等。如果网络连接存在问题,可能会导致作业创建失败。请检查网络连接是否正常,并确保可以访问到阿里云的相关服务。
  4. 配置问题:日志中还显示了一些初始化和删除数据集的操作。如果配置不正确,可能会导致作业创建失败。请检查相关配置是否正确,并确保它们符合预期的要求。



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/574166



问题二:机器学习PAI报一个问题:我DSSM负采样版本,请问这个问题咱们有碰到过吗?

机器学习PAI报一个问题:我DSSM负采样版本,user tower输入两个特征:gender(F, M, UNKNOWN,共3种)与age_level([1, 17], [18, 24], ..., UNKOWN,共11种),item tower一个特征:item_id。我们输入数据都提前补好了缺失值,gender的hash_bucket_size设的200(unique value有3个),age_level的hash_bucket_size设为300。我们预期上user tower产生33种不同的user embedding,但是实际上有一些样本attr被hash到同一个bucket里去了,只有30种不同的user embedding,导致他们虽然feature不同但是embedding相同,请问这个问题咱们有碰到过吗?

看上图,gender一样age_level不一样,但是embedding一样,看起来是age_level被hash到同一个bucket了



参考答案:

确实是一样的,这种取值有限的,要么用个vocab_dict或者EmbeddingVariable好了 可以防止冲突,或者干脆设置的大一些,比如1000

这说明,大多数未知年龄的,都把他当做25-29 的年龄来处理(应该出现概率高)。看起来也有道理啊,



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573260



问题三:请教下机器学习PAI现在GPU用不了可能是什么问题呢?

请教下机器学习PAI现在GPU用不了可能是什么问题呢?



参考答案:

上面好像都是要10.0,下面我看是10.1



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573257



问题四:机器学习PAI正在等待在云端的gateway资源 为啥一直在等待 gateway 资源啊?

机器学习PAI正在等待在云端的gateway资源 为啥一直在等待 gateway 资源啊?



参考答案:

机器学习PAI在等待云端的gateway资源可能是因为需要进行模型加载、数据预处理等操作。这个过程可能需要一些时间来准备所需的资源,因此需要等待一段时间。可以耐心等待一段时间,如果还不行的话,检查网络连接是否正常,以及阿里云账户是否有足够的资源来支持相关操作。

详细可以看看EAS常见问题:https://help.aliyun.com/zh/pai/support/faq-about-eas



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573256



问题五:机器学习PAI为什么 easyrec 打分会失败啊?

机器学习PAI为什么 easyrec 打分会失败啊?

用的是 mmoe 的模型,也不知道咋回事。



参考答案:

看最后一行的日志,已经提示了,输出没有写对



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573255

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
7月前
|
分布式计算 自然语言处理 MaxCompute
构建NLP 开发问题之如何在数据加载框架中实现从两个ODPS表中分别读取正样本和负样本,并在batch内以1:1的方式混合
构建NLP 开发问题之如何在数据加载框架中实现从两个ODPS表中分别读取正样本和负样本,并在batch内以1:1的方式混合
|
9月前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI产品使用合集之如何配置DSSM模型负采样item表的schema
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
9月前
|
机器学习/深度学习 人工智能 TensorFlow
人工智能平台PAI产品使用合集之在使用DSSM负采样时,不知道label_fields的配置方法如何解决
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
机器学习/深度学习 算法框架/工具 TensorFlow
深度学习基础系列(一)| 一文看懂用kersa构建模型的各层含义(掌握输出尺寸和可训练参数数量的计算方法)
      我们在学习成熟神经模型时,如VGG、Inception、Resnet等,往往面临的第一个问题便是这些模型的各层参数是如何设置的呢?另外,我们如果要设计自己的网路模型时,又该如何设置各层参数呢?如果模型参数设置出错的话,其实模型也往往不能运行了。
1371 0
|
9月前
|
机器学习/深度学习 人工智能 PyTorch
人工智能平台PAI 操作报错合集之机器学习PAI把SequenceFeature直接送入BST模块,但发现未配置sequence_combiner会报错,如何解决
阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。
|
数据管理 大数据 开发者
R 基本数据管理--数据集合并、子集的提取以及随机抽样函数| 学习笔记
快速学习 R 基本数据管理--数据集合并、子集的提取以及随机抽样函数
170 0
|
8月前
|
机器学习/深度学习 数据采集 人工智能
人工智能平台PAI产品使用合集之在使用ARIMA模型预测时,目标是预测输出12个值,但只打印了5个值,是什么原因
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
6月前
|
SQL 自然语言处理 算法
预训练模型STAR问题之计算伪OOD样本的软标签的问题如何解决
预训练模型STAR问题之计算伪OOD样本的软标签的问题如何解决
【挑战】计算48种依次泛化的假设情况下,总共有多少种不可再简化的析合范式?
一种可行的算法: 由于属性泛化后,一个泛化的假设可以对应多个具体假设。 把所有假设按三属性泛化,二属性泛化,一属性泛化,具体属性排序(这样可以保证排在后面的假设不会包含前面的任何一个假设,所以省略了一些包含判断),进行循环枚举,按顺序遍历所有假设组合248种可能(当然绝大部分都提前结束了,不会是那么夸张的量级,虽然也不低): 使用栈来实现非递归,如果当前假设还有没被析合式所包含的具体假设,则认为可以入栈,并当前栈大小的长度计数加1,并继续扫描。
1110 0
|
机器学习/深度学习 自然语言处理 达摩院
模型精度再被提升,统一跨任务小样本学习算法 UPT 给出解法!
UPT是一种面向多种NLP任务的小样本学习算法,致力于利用多任务学习和预训练增强技术,在仅需要标注极少训练数据的情况下,提升大规模预训练语言模型在多种场景下的模型精度。

热门文章

最新文章

相关产品

  • 人工智能平台 PAI