MaxCompute中如何处理使用udf导致的分区剪裁失效
目前如果使用了UDF可能会导致分区剪裁失效。从新版本开始,MaxCompute支持了UdfProperty注解。UDF的作者在定义UDF时,可以指定这个注解,让编译器知道这个函数是确定性的,如:
@com.aliyun.odps.udf.annotation.UdfProperty(isDeterministic = true)
public class AnnotatedUdf extends com.aliyun.odps.udf.UDF {
public String evaluate(String x) {
return x;
}
}
然后改写 SQL 语句为:
-- 原来的写法
SELECT * FROM t WHERE pt = udf('foo'); -- pt 是 t 的一个分区列。
-- 改成下面的样子
SELECT * FROM t WHERE pt = (SELECT udf('foo')); -- pt 是 t 的一个分区列。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。