小编Mat*_*t E的帖子

跨多个数据中心分发数据节点

有没有人试图跨多个数据中心测试数据节点的性能?特别是在小管道网络上.我似乎无法找到太多关于它的信息,我发现的信息要么是旧的(大约2010年),要么是专有的(似乎DataStax有一些东西).我知道Hadoop支持机架识别,但就像我说我没有看到任何用于调整多个数据中心系统的文档.

hadoop distributed-computing

7
推荐指数
1
解决办法
2193
查看次数

Spring Security Active Directory 忽略 PartialResultException

我的 spring 安全 xml 文件中有以下配置。当我尝试进行身份验证时,我收到以下消息但无法继续。

信息:忽略 PartialResultException

我知道 spring 的文档指出您可以将 ignorePartialResultException 设置为 true ,但此属性似乎位于 LdapTemplate 类中,可能需要额外的编码。我想通过 bean 配置完成所有这些,因为我对角色映射不感兴趣。

<authentication-manager>
        <authentication-provider ref="activeDirectoryAuthProvider" />
    </authentication-manager>
    <beans:bean id="activeDirectoryAuthProvider"
        class="org.springframework.security.ldap.authentication.ad.ActiveDirectoryLdapAuthenticationProvider">
        <beans:constructor-arg value="mydomain.com" />
        <beans:constructor-arg value=" ldap://mydomain.com:389" />
    </beans:bean>
Run Code Online (Sandbox Code Playgroud)

java spring spring-mvc spring-security spring-ldap

7
推荐指数
1
解决办法
1万
查看次数

Hadoop fs -get仅复制特定文件

有没有办法只复制特定文件,比如根据文件类型使用fs -get或fs -copyToLocal?注意:我希望这是递归的并遍历整个集群.

想出来但我不能回答我自己的问题.

这是我们如何做到的.刚写了一个快速的shell脚本.

mkdir /tmp/txt

    for F in `hadoop fs -fs hdfs://namenode.mycluster -lsr / | grep '/*.txt$' | awk '{print $NF}'; 
    do
       hadoop fs -fs hdfs://namenode.mycluster -copyToLocal $F /tmp/las/ 
    done
Run Code Online (Sandbox Code Playgroud)

hadoop

3
推荐指数
1
解决办法
5377
查看次数

psql似乎因长查询而超时

我正在使用大约80GB的数据对postgres进行批量复制.

\copy my_table FROM '/path/csv_file.csv' csv DELIMITER ','
Run Code Online (Sandbox Code Playgroud)

在提交事务之前,我收到以下错误.

服务器意外关闭连接这可能意味着服务器在处理请求之前或处理时异常终止.

在PostgreSQL日志中:

LOG:server process (PID 21122) was terminated by signal 9: Killed
LOG:terminating any other active server processes
WARNING:terminating connection because of crash of another server process
DETAIL:The postmaster has commanded this server process to roll back the current transaction and exit, because another server process exited abnormally and possibly corrupted shared memory.
HINT: In a moment you should be able to reconnect to the database and repeat your command. 
Run Code Online (Sandbox Code Playgroud)

postgresql postgresql-9.2 psql

2
推荐指数
1
解决办法
5971
查看次数