数据量大时,构造Reducer的reduce()方法入参values会不会造成OOM?

来源:10-5 MapJoin功能实现

慕数据4346287

2019-06-26

PK哥你好,关于Reducer有个疑问,Reducer的reduce()方法入参values是所有具有相同key的VALUEIN列表吧?这样的话,如果数据量很大,values对象就会很大,就会造成OOM,这在现网如何解决呢?

写回答

1回答

Michael_PK

2019-06-26

会有这可能,你这表述的就是数据倾斜

1
1
慕数据4346287
非常感谢!
2019-06-26
共1条回复

Hadoop 系统入门+核心精讲

从Hadoop核心技术入手,掌握数据处理中ETL应用,轻松进军大数据

2397 学习 · 902 问题

查看课程