相关疑难解决方法(0)

什么时候减少任务从Hadoop开始?

在Hadoop中什么时候开始减少任务?它们是在完成一定百分比(阈值)的映射器后开始的吗?如果是这样,这个门槛是否固定?通常使用什么样的阈值?

reduce hadoop mapreduce

80
推荐指数
2
解决办法
3万
查看次数

如何在Reducer中访问Mapper Counter值?

我想在reducer中访问myCounter.my值:

public static class Map extends Mapper<LongWritable, Text, ImmutableBytesWritable, ImmutableBytesWritable>
{
    public static enum myCounter{my};

    @Override
    public void map(LongWritable key, Text value, Context context) 
    {
        context.getCounter(myCounter.my).increment(1);
        context.write( new ImmutableBytesWritable ( ),new ImmutableBytesWritable() );
    }
}


public static class Reduce extends Reducer<ImmutableBytesWritable, ImmutableBytesWritable, Text, Text>
{
    @Override
    public void reduce(ImmutableBytesWritable key,Iterable<ImmutableBytesWritable> result,Context context)
    {

    }
}
Run Code Online (Sandbox Code Playgroud)

从reducer访问mapper的计数器(对于旧API) 如何使其适用于新API?

要么

我想知道映射器输出的总数?有没有更好的方法?(我无法访问Reducer中的计数器:

Group Name->org.apache.hadoop.mapred.Task$Counter Counter Name->MAP_OUTPUT_RECORDS)

谢谢

java hadoop mapreduce

7
推荐指数
1
解决办法
2346
查看次数

标签 统计

hadoop ×2

mapreduce ×2

java ×1

reduce ×1