标签: mapper

Pandas 逐行映射器

Pandas 是否包含一种简单的方法来一次将映射器应用于每一行?

例如:

import pandas as pd
df = pd.DataFrame(
    [[j + (3*i) for j in range(3)] for i in range(4)],
    columns=['a','b','c']
)
print(df)


   a   b   c
0  0   1   2
1  3   4   5
2  6   7   8
3  9  10  11
Run Code Online (Sandbox Code Playgroud)

然后应用一些映射器(伪代码)

df_ret = df.rowmap(lambda d: d['a'] + d['c'])
print(df_ret)

   0
0  2
1  8
2  14
3  20
Run Code Online (Sandbox Code Playgroud)

请注意,添加数字实际上并不是这里的重点。重点是要有一个按行映射器。

python mapper pandas

2
推荐指数
1
解决办法
1478
查看次数

Mapper Mapster - 如何对配置进行单元测试?

我来这里是因为我在网上找不到答案:/

我想测试我的 Mapster 配置以避免在开发时发生错误映射。但我不知道如何使用 Mapster lib 来实现它。

有什么线索吗?

问候,

.net unit-testing mapper mapster .net-6.0

2
推荐指数
1
解决办法
2182
查看次数

如何在php中的魔法setter和getter之后覆盖参数

现在我有一个 BaseObject 可以对 DB 执行 ORM。我依靠私有 $data 和魔法 setter 和 getter 来创建带有一堆列的对象作为私有对象成员(动态)。在子类中,如果我想更改行为以设置单个对象成员,我必须覆盖父 setter 并查找键。我的问题是是否有更好的方法来做到这一点,我可以只覆盖单个对象成员而不是通过 __setter

映射到数据库并动态创建一堆私有参数的基本对象映射器

class Base
 {
    private $data = array();

    public function __construct(){
        //get columns info from db and do set
    }
    public function __set($key, $value){
        $this->data[$key] = $value;        
    }

   public function __get($key){
       return isset($this->data[$key])? $this->data[$key] : null;       
   }
}
Run Code Online (Sandbox Code Playgroud)

和儿童班。现在要覆盖参数设置我必须这样做

 class Child extends Base
 {
     public function __set($name, $value){
        if($name == 'dog' && $value == 'chihuahua')
          $this->dog = 'dog bark wolf wolf';
        else if($name == 'cat' …
Run Code Online (Sandbox Code Playgroud)

php magic-methods mapper getter-setter

1
推荐指数
1
解决办法
1509
查看次数

关于地图中的混洗的查询减少

运行映射器的节点处理如何知道它必须将一些键值输出发送到节点A(运行reducer),一些键值输出到节点B(运行另一个reducer)?是否存在由JobTracker维护的reducer节点列表?如果是,它如何选择节点来运行减速器?

hadoop mapreduce reducers mapper

1
推荐指数
1
解决办法
128
查看次数

如果从Modelmapper中为null,则如何排除整个属性

ModelMapper(http://modelmapper.org/)是否支持排除属性的内容?如果该值为null.

我刚刚找到了PropertyMap.但这对我来说是一个约束.因为我必须描述我想要的特定属性.

像这样.

ModelMapper modelMapper = new ModelMapper();
modelMapper.addMappings(new PropertyMap<TestObject, TestObject>() {
    @Override
    protected void configure() {
        when(Conditions.isNull()).skip().setName(source.getName());
        when(Conditions.isNull()).skip().set...(source.get...());
        when(Conditions.isNull()).skip().set...(source.get...());
        when(Conditions.isNull()).skip().set...(source.get...());
        when(Conditions.isNull()).skip().set...(source.get...());
        when(Conditions.isNull()).skip().set...(source.get...());
    }
});
Run Code Online (Sandbox Code Playgroud)

在我的情况下,我有很多财产和冗长.如果映射属性从它们中为空,如何排除它们.有更舒适的解决方案吗?

谢谢.

java mapper modelmapper

1
推荐指数
1
解决办法
3063
查看次数

在MapReduce中,如何在处理X记录后停止减速器

我正在使用Mapper加载大量数据,这些数据具有执行时间和与之关联的大型查询.我只需要找到1000个最昂贵的查询,所以我将执行时间作为我输出的关键字输入映射器.我使用1个reducer,只想写1000条记录,减速机停止处理.

如果(count <1000){context.write(key,value)},我可以有一个全局计数器并执行此操作

但这仍将加载所有数十亿条记录,然后不再写入.

我希望在吐出1000条记录后停止减速机.通过避免下一组记录的搜索时间和读取时间.

这可能吗??

hadoop mapreduce reducers mapper

0
推荐指数
1
解决办法
1370
查看次数

如何在Linq中创建AsSomeClass?

我有这个'方法':

private static readonly Expression<Func<EntityClass, SomeClass>> AsSomeClass =
        x => new SomeClass
        {

        };
Run Code Online (Sandbox Code Playgroud)

这让我做:

_ctx.EntityClasses.Where(e => e.SomeProperty == someValue).Select(AsSomeClass);
Run Code Online (Sandbox Code Playgroud)

返回一个IQueryable<SomeClass>很棒的!

在这样做时,我想知道是否有一些方法可以做到这一点,所以我可以这样做:

_ctx.EntityClasses.Where(e => e.SomeProperty == someValue).AsSomeClass() 而不是选择语句.

有没有办法让它成为那样?

c# linq mapper

0
推荐指数
1
解决办法
32
查看次数

java.lang.NumberFormatException:对于输入字符串:执行MapReduce时为"100"

我正在写一个MapReduce工作,用于在Facebook上寻找普通朋友.

这是我的mapper的输入:

100, 200 300 400 500 600
200, 100 300 400
300, 100 200 400 500
400, 100 200 300
500, 100 300
600, 100
Run Code Online (Sandbox Code Playgroud)

这是我的映射器代码的一部分:

map{
        String line = value.toString();
        String[] LineSplits = line.split(",");


        String[] friends = LineSplits[1].trim().split(" ");
        for(int i =0; i<friends.length;i++) {
            int friend2 = Integer.parseInt(friends[i]);
            System.out.println(friend2);
        }

        int friend1 = Integer.parseInt(LineSplits[0]);
        System.out.println(friend1);
}                                            
Run Code Online (Sandbox Code Playgroud)

当我执行此操作时,我将获得正确的值friend2.(Intege.parseInt这里工作正常).变量friend1应该将值设为"100".但是Integer.ParseInt没有用,我收到这样的错误:

java.lang.Exception: java.lang.NumberFormatException: For input string: "100"
    at org.apache.hadoop.mapred.LocalJobRunner$Job.run(LocalJobRunner.java:354)
Caused by: java.lang.NumberFormatException: For input string: "100" …
Run Code Online (Sandbox Code Playgroud)

java hadoop exception mapper

0
推荐指数
1
解决办法
4889
查看次数

Hadoop减少输入记录= 0

我是Hadoop的新手,我的map-reduce代码可以工作,但它不会产生任何输出.这是map-reduce的信息:

16/09/20 13:11:40 INFO mapred.JobClient: Job complete: job_201609081210_0078
16/09/20 13:11:40 INFO mapred.JobClient: Counters: 28
16/09/20 13:11:40 INFO mapred.JobClient:   Map-Reduce Framework
16/09/20 13:11:40 INFO mapred.JobClient:     Spilled Records=0
16/09/20 13:11:40 INFO mapred.JobClient:     Map output materialized bytes=1362
16/09/20 13:11:40 INFO mapred.JobClient:     Reduce input records=0
16/09/20 13:11:40 INFO mapred.JobClient:     Virtual memory (bytes)   snapshot=466248720384
16/09/20 13:11:40 INFO mapred.JobClient:     Map input records=852032443
16/09/20 13:11:40 INFO mapred.JobClient:     SPLIT_RAW_BYTES=29964
16/09/20 13:11:40 INFO mapred.JobClient:     Map output bytes=0
16/09/20 13:11:40 INFO mapred.JobClient:     Reduce shuffle bytes=1362
16/09/20 13:11:40 INFO mapred.JobClient:     Physical …
Run Code Online (Sandbox Code Playgroud)

java hadoop mapreduce reducers mapper

0
推荐指数
1
解决办法
550
查看次数