有个机器学习PAI问题想请教一下，1e-12在tf 中默认float32 ?
有个机器学习PAI问题想请教一下，
tf.log(hit_prob + 1e-12) * tf.squeeze(self._sample_weight))
1e-12在tf 中默认float32 ?
然后sw double，那self._sample_weight就要转float32了
展开
收起
1
条回答
写回答
写回答
-
在TensorFlow中，1e-12是一个很小的数值，通常用于防止除法运算中的数值溢出。这个数值的类型取决于你使用的数据类型。如果你使用的是float32，那么这个数值就是float32类型的。如果你使用的是double，那么这个数值就是double类型的。
在你的代码中，self._sample_weight是double类型的，所以不需要转换为float32。但是，如果你的self._sample_weight是float32类型的，那么在执行乘法运算之前，你可能需要将其转换为double类型，以避免精度损失。
2023-11-12 09:08:32赞同 展开评论 打赏
问答分类：
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
热门讨论
热门文章
如何高效的往交互建模（dsw）上传较大的文件，有从阿里云盘中直接下载或类似的方法吗？
2897
小白想问一下nas上面的模型怎么通过pai-eas进行使用
1023
机器学习PAI在mind调参那里，建议item塔不加bn，但是item不加bn，会导致item_em
32
请教一下机器学习PAI 这个镜像部署之后，进入docker会报错?!
32
请问机器学习PAI DSW如何更换显卡驱动？
24
机器学习PAI5000CU*H是多少小时？
281
通义灵码 idea版本的代码提示如何设置？
103
dsw实例无法启动，卡在准备环境很久，然后显示以失败，求救
742
请教一下机器学习PAI：按照这个模板写的，为什么会报字符格式的问题？
20
请问机器学习PAI huggingface连接超时怎么解决？
20
展开全部
【玩转数据系列九】机器学习为您解密雾霾形成原因
48683
【玩转数据系列十】利用阿里云机器学习在深度学习框架下实现智能图片分类
47928
【玩转数据系列六】文本分析算法实现新闻自动分类
18483
机器学习PAI全新功效——实时新闻热点Online Learning实践
13105
基于协同过滤算法的推荐
9733
【教程】5分钟在PAI算法市场发布自定义算法
9923
云端深度学习框架TensorFlow读取数据IO的高效方式
7028
PAI实现的深度学习网络可视化编辑功能-FastNeuralNetwork
6816
【文本分析】新闻分类
5191
【数据科学老司机在线教学第二期】阿里云大数据生态协同过滤推荐系统实战
5195
展开全部
