累加器是Spark的一种变量,顾名思义该变量只能增加。有以下特点:
1,累加器只能在Driver端构建及并只能是Driver读取结果,Task只能累加。
2,累加器不会改变Spark Lazy计算的特点。只会在Job触发的时候进行相关累加操作。
3,现有累加器的类型。
1)累加器在全局唯一的,只增不减,记录全局集群的唯一状态
2)在exe中修改它,在driver读取
3)executor级别共享的,广播变量是task级别的共享
两个application不可以共享累加器,但是同一个app不同的job可以共享
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。