问题一:大数据计算MaxCompute,可以在代码中把File类型的文件内容解析出来吗?
大数据计算MaxCompute,可以在代码中把File类型的文件内容解析出来吗?
参考回答:
MaxCompute resource是在用udf或者MapReduce来依赖的,没办法直接解析resource。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/587314
问题二:dataworks数据集成 msyql到maxcompute,目标表建立失败怎么办?
dataworks数据集成 msyql到maxcompute,目标表建立失败怎么办?
参考回答:
当在DataWorks中进行MySQL到MaxCompute的数据集成时,如果目标表建立失败,可以尝试以下步骤来解决问题:
- 检查源表和目标表的结构和字段是否匹配。确保源表和目标表的字段类型、长度、精度等属性一致。
- 检查目标表的存储格式是否正确。MaxCompute支持多种存储格式,如ORC、Parquet等。确保目标表的存储格式与源表一致或兼容。
- 检查目标表的分区设置是否正确。如果目标表需要进行分区操作,确保分区键的选择和分区策略的正确性。
- 检查目标表的权限设置是否正确。确保DataWorks任务能够访问并操作目标表所在的MaxCompute项目和表空间。
- 查看DataWorks任务的运行日志,查找是否有报错信息或异常提示。根据日志中的详细信息,可以进一步定位问题所在。
- 如果以上步骤都没有解决问题,可以尝试重新创建目标表,或者使用其他工具(如DMS)进行数据迁移操作。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/589047
问题三:大数据计算MaxCompute有没有SQL可以列出项目下已有的外表呢?
大数据计算MaxCompute有没有SQL可以列出项目下已有的外表呢?
参考回答:
可以用Information Schema的TABLES表,里边有个类型table_type,筛选出为EXTERNAL_TABLE的就是外表。可以用Information Schema的TABLES表,里边有个类型table_type,筛选出为EXTERNAL_TABLE的就是外表。立即升级
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/587311
问题四:大数据计算MaxCompute中,我用的是按量付费模式,数据量不大,才5w左右?
大数据计算MaxCompute中,我用的是按量付费模式,数据量不大,才5w左右?
参考回答:
有两个原因1、join阶段数据膨胀,看日志merge join已经6000w行了。检查一下join是不是笛卡尔积了。https://help.aliyun.com/zh/maxcompute/use-cases/data-skew-tuning?spm=a2c4g.11186623.0.i14#p-b10-lf2-xu92、在online阶段多执行了10分钟,执行不成功回退到offline执行。![image.png](https://ucc.alicdn.com/pic/developer-ecology/wyvq5mjsckydw_5775bd707e95474b93b5ec4a1e710364.png)
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/587310
问题五:大数据计算MaxCompute中,整库可以是只读库吗?另外监控数据源这的binlog是啥弄的?
大数据计算MaxCompute中,整库可以是只读库吗?另外监控数据源这的binlog是啥弄的?
参考回答:
监控binlog,只读。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/587309