当前位置: 首页 > 知识库问答 >
问题:

Hadoop combiner:在一个单词计数mapreduce程序中使用与combiner相同的reducer代码?

夏何平
2023-03-14

这个问题从认证机构的实践测试,特别是对我来说,是没有意义的。有人能帮忙吗?

提前感谢你的回答,比卡尔·巴斯内特

共有1个答案

顾俊茂
2023-03-14

您的理解是正确的,但是在经典的MapReduce字数应用程序中,还原器可以用作组合器。看看WordCount中的第37行。它是:

sum += val.get();

而不是:

sum += 1;
 类似资料:
  • 我正在学习一些MapReduce,但是我遇到了一些问题,情况是这样的:我有两个文件:“users”包含一个用户列表,其中包含一些用户数据(性别、年龄、国家等)...)文件看起来像这样: “歌曲”包含所有用户收听的歌曲的数据(用户ID,收听日期和时间,艺术家ID,艺术家姓名,歌曲ID,歌曲标题): 目标是在某些国家找到k首最受欢迎的歌曲。k和输入中提供的国家列表。 我决定为映射器使用Multiple

  • 我指的是学习 C 的 K 和 R 书;它是关于在字数统计程序中使用 EOF 的 while 循环,书中给出的程序运行良好,但我想知道它如何在一次输入后停止接受输入并给出带有行、单词、 请帮助我理解这个程序中到底发生了什么来打破循环。 附加代码和输出 -

  • 一、作用 1、combiner最基本是实现本地key的聚合,对map输出的key排序,value进行迭代。如下所示: map: (K1, V1) → list(K2, V2) combine: (K2, list(V2)) → list(K2, V2) reduce: (K2, list(V2)) → list(K3, V3) 2、combiner还具有类似本地的reduce功能. 例如hadoo

  • 我想在oozie工作流中为现有的mapreduce jar(带有mapper、reducer,有时还有combiner)文件配置一个mapreduce操作,这样只有reducer/combiner在输入文件上运行。

  • 本文向大家介绍请简述 mapreduce 中,combiner,partition 作用?相关面试题,主要包含被问及请简述 mapreduce 中,combiner,partition 作用?时的应答技巧和注意事项,需要的朋友参考一下 解答: combiner是reduce的实现,在map端运行计算任务,减少map端的输出数据。 作用就是优化。 但是combiner的使用场景是mapreduce的

  • 本文向大家介绍请简述mapreduce中,combiner,partition作用?相关面试题,主要包含被问及请简述mapreduce中,combiner,partition作用?时的应答技巧和注意事项,需要的朋友参考一下 在MapReduce整个过程中,combiner是可有可无的,需要是自己的情况而定,如果只是单纯的对map输出的key-value进行一个统计,则不需要进行combiner,c