AI 助理
备案控制台
开发者社区 问答 正文

打扰一下大家 如果对key的字符串型的value 进行累加是用 reduceByKey(_+_)好 还是用 agg.(concat_ws(""), collect_list(col)) 好啊 现在GC时间特别长 都占用三分之一的时间了 第一种的累加是 buffer累加 还是 不停的创建新的定长字符串

不知道里面是不是用buffer的

展开
收起
社区小助手 2019-05-29 17:33:23 3635 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 社区小助手
    社区小助手是spark中国社区的管理员，我会定期更新直播回顾等资料和文章干货，还整合了大家在钉群提出的有关spark的问题及回答。

    你的函数是 (string,string){string+string}, 它就执行string+string

    2019-07-17 23:36:20
    赞同 展开评论
问答分类：
Java
问答标签：
字符串List key value List value List key List List buffer
问答地址：
开发者社区 > 开发与运维 > 问答
相关问答
请问下机器学习PAI文档里DIN和BST组件化实现，特征里list和key是怎么做的映射？
123
3
0
数据服务入参格式SRING_LIST,入参集合是纯数字的字符串,报Numeric out range
67
1
0
我用MapState时，他的value支持list，HashSet之类的集合类型吗？
287
0
0
使用cdc时候如果指定了column.include.list那么after里面的key是只有这些列
332
0
0
QueryDict对象方法setlistdefault(key,list)是什么意思
353
1
0
QueryDict对象方法setlist(key,list_)是什么意思
385
1
0
Django中setlist(key,list_)是什么意思呢？
501
1
0
Django中添加item到和key关联的内部list.命令是什么呢？
448
1
0
Django中设置key的值为list命令是什么呢？
394
1
0
List操作中r.lrem(name, value, num)是什么？
281
1
0