数据量大时,构造Reducer的reduce()方法入参values会不会造成OOM?
来源:10-5 MapJoin功能实现
慕数据4346287
2019-06-26
PK哥你好,关于Reducer有个疑问,Reducer的reduce()方法入参values是所有具有相同key的VALUEIN列表吧?这样的话,如果数据量很大,values对象就会很大,就会造成OOM,这在现网如何解决呢?
写回答
1回答
-
会有这可能,你这表述的就是数据倾斜
112019-06-26
相似问题
partion数量的问题
回答 1
Hive查数据库表,卡住不动
回答 2