试分析为何采用Combiner可以减少数据传输量?是否所有的MapReduce程序都可以采用Combiner?为什么?

题目
问答题
试分析为何采用Combiner可以减少数据传输量?是否所有的MapReduce程序都可以采用Combiner?为什么?
参考答案和解析
正确答案: 对于每个分区内的所有键值对,后台线程会根据key对它们进行内存排序(Sort),排序是MapReduce的默认操作。排序结束后,还包含一个可选的合并(Combine)操作。如果用户事先没有定义Combiner函数,就不用进行合并操作。如果用户事先定义了Combiner函数,则这个时候会执行合并操作,从而减少需要溢写到磁盘的数据量。
所谓“合并”,是指将那些具有相同key的的value加起来,比如,有两个键值对<*xmu",1>和<*xmu",1>,经过合并操作以后就可以得到一个键值对<*xmu",2>,减少了键值对的数量。
不过,并非所有场合都可以使用Combiner,因为,Combiner的输出是Reduce任务的输人,Combiner绝不能改变Reduce任务最终的计算结果,一般而言,累加、最大值等场景可以使用合并操作。
解析: 暂无解析
如果没有搜索结果或未解决您的问题,请直接 联系老师 获取答案。
相似问题和答案

第1题:

在分布式数据库中,采用【13】连接操作可以减少场地之问的数据传输量。


正确答案:
半【解析】数据在网络中传输时,则是以整个关系(也可以是片段)传输,显然这是一种冗余的方法。在一个关系传输到另一场地后,并非每个数据都参与连接操作,因此,不参与连接的数据或无用的数据不必在网络中来回传输。采用半连接操作即可在网络中只传输参与连接的数据。

第2题:

钻孔时试钻、引钻都可以采用机动进给。


正确答案:错误

第3题:

关于Combiner组件,下面说法错误的是()。

A、Combiner组件的引入可减少MapTask输出数据量(磁盘IO)

B、Combiner组件的引入可减少Reduce-Map网络传输数据量(网络IO)

C、Combiner组件可看作是localreducer

D、任何数据处理应用都可以用Combiner组件


答案:D

第4题:

为什么要对操作符进行重载?是否所有的操作符都可以重载?


正确答案:通过对C++操作符进行重载,我们可以实现用C++的操作符按照通常的习惯来对某些类(特别是一些数学类)的对象进行操作,从而使得程序更容易理解。除此之外,操作符重载机制也提高了C++语言的灵活性和可扩充性,它使得C++操作符除了能对基本数据类型和构造数据类型进行操作外,也能用它们来对类的对象进行操作。
不是所有的操作符都可以重载,因为“.”,“.*”,“::”,“?:”,sizeof这五个操作符不能重载。

第5题:

基站EIRP的计算公式为()

  • A、BTS max. transmit power -BTS combiner and jumper loss -BTS feeder and connector loss + BTS antenna gain
  • B、BTS max. transmit power -BTS combiner and jumper loss
  • C、BTS combiner and jumper loss -BTS feeder and connector loss
  • D、以上都不对

正确答案:A

第6题:

通过使用WBC单元,可以配置成哪几种合路方式()。

A.By-pass

B.Two way

C.Four way

D.RTC combiner


参考答案:B, C

第7题:

使用AFEA配置O1的INTRATALK DE34基站,BYPASS THE HYBRID COMBINER后,可以减少3DB的衰耗


正确答案:正确

第8题:

所有的视图是否都可以更新?为什么?


正确答案:
 

第9题:

下面哪种合路器可用于射频跳频()。

  • A、Filter Combiner
  • B、Hybrid Combiner
  • C、Gaussian Combiner
  • D、Viterbi Combiner

正确答案:B

第10题:

试分析为什么磁选机都采用非均匀磁场而不是采用均匀磁场?


正确答案: 磁场分为均匀磁场与不均匀磁场,磁场的不均匀程度用磁场梯度来表示,磁场梯度是指磁场强度沿空间的变化率。磁场梯度越大,则表示磁场不均匀程度越大。磁性矿粒在磁场中所受磁力大小与磁场强度和磁场梯度的乘积成正比。
均匀磁场中任何一点的磁场强度大小和方向都是相同的,磁场梯度为零,则磁性颗粒所受磁力等于零,达不到分选目的。
在非均匀磁场中,任何一点的磁场强度大小和方向都不相同,磁场梯度不为零,则磁性颗粒受到某一方向的磁力作用而发生移动,达到分选的目的。因此,磁选机都采用非均匀磁场。