标签: hbase

如何让 HBase 等待 HDFS 准备好后再启动?

我正在为 Hadoop 构建自动安装脚本,但遇到了 HBase 无法启动的问题,因为 HDFS 尚未完全启动并准备就绪。我如何以编程方式(最好是从 Bash)判断 HDFS 系统是否已准备好供 HBase 启动,以便我可以等到它准备好为止?

我尝试使用“hadoop dfsadmin -report”并查找正确的节点数量,但显然在集群实际准备好业务之前仍然会返回。

bash hadoop hbase hdfs

1
推荐指数
1
解决办法
803
查看次数

使用 Hbase shell 时,ruby (.irbrc) 的保存历史选项不起作用

保存历史记录目前可以在普通的 irb (jruby) shell 上运行。但由于某种原因,它在使用 hbase shell 时不起作用。

我过去曾见过其他机器上的 hbase shell 的历史记录,遵循与现在描述的相同的过程,并且它们确实有效,所以不确定这次我可能错过了哪些小细节。

我在 ~/.irbrc 中放入了以下内容:

$ cat  ~/.irbrc
require 'irb/ext/save-history'
IRB.conf[:SAVE_HISTORY] = 100
IRB.conf[:HISTORY_FILE] = "#{ENV['HOME']}/.irb-save-history"
Run Code Online (Sandbox Code Playgroud)

启动irb时需要吗?是的..

hbase(main):001:0>   puts IRB.conf[:HISTORY_FILE]
/home/stephenb/.irb-save-history

:AT_EXIT=>[#<Proc:0x6bb5eba4@/shared/jruby-1.7.3/lib/ruby/1.9/irb/ext/save-history.rb:67
Run Code Online (Sandbox Code Playgroud)

这个 jruby 脚本存在吗?是的 ..

$ ll /shared/jruby-1.7.3/lib/ruby/1.9/irb/ext/save-history.rb
-rw-r--r-- 1 stephenb stephenb 2119 Feb 21 07:53 /shared/jruby-1.7.3/lib/ruby/1.9/irb/ext/save-history.rb
Run Code Online (Sandbox Code Playgroud)

hbase shell 历史记录有效吗?嗯,不适用于 HBASE 命令。但它确实显示了之前 IRB 会话中的内容(非 HBASE)

$ date
Mon Jun  3 12:28:41 PDT 2013
stephenb@gondolin:/shared/git2/etl/appminer/hive$ hbase shell
HBase Shell; enter 'help<RETURN>' for list of supported commands.
Type "exit<RETURN>" to leave …
Run Code Online (Sandbox Code Playgroud)

hbase

1
推荐指数
1
解决办法
1082
查看次数

为什么使用 AND 进行 Hbase 过滤会导致性能大幅下降?

为什么使用 AND 的 Hbase shell 过滤器会导致性能大幅下降?

\n\n
    \n
  • 扫描 \xe2\x80\x98table\xe2\x80\x99, {FILTER => \xe2\x80\x9cPrefixFilter(\xe2\x80\x98192.168.120.1\xe2\x80\xb2)\xe2\x80\x9d}
  • \n
  • 0.8840 秒内 160 行
  • \n
  • 扫描 \xe2\x80\x98table\xe2\x80\x99, {FILTER => \xe2\x80\x9cPrefixFilter(\xe2\x80\x98192.168.120.1\xe2\x80\xb2) AND ColumnPrefixFilter(\xe2\x80\ x98SSL\xe2\x80\x99)\xe2\x80\x9d}
  • \n
  • 196.0920 秒内 101 行
  • \n
\n

hbase

1
推荐指数
1
解决办法
965
查看次数

如何在 Apache Phoenix 中获取盐桶计数?

Apache Phoenix 推荐使用盐桶来提高性能。我希望获得我前段时间创建的表的盐桶数。

  • 基于 SQLLine 的客户端不提供任何类似于 MySQL 的东西SHOW CREATE TABLE
  • 此外,Hbasedescribe命令不提供有关SALT_BUCKETS.

怎样才能得到计数?

apache hbase phoenix

1
推荐指数
1
解决办法
1150
查看次数

Hbase Maven 从源代码构建

我是maven构建架构的新手。Hbase官方网站解释了通过此命令构建tar球:

mvn clean site install assembly:assembly -DskipTests -Prelease
Run Code Online (Sandbox Code Playgroud)

但我找不到创建最终二进制 tar 球的地方?我理解它来自/hbase-assembly/src/main/assembly/src.xml

但是根据这个程序集文件属性,没有创建 tar 球?那么二进制 tar 球到底会在哪里创建呢?

hadoop hbase maven

1
推荐指数
1
解决办法
1192
查看次数

HDFS 与 HBASE:哪一个在数百万个小文本文件上表现更好?

如果我们有数百万个大小从几 KB 到几 MB 不等的小文本文件,那么 HDFS 和 HBASE 中的哪一个需要更少的处理时间?而且内存消耗更少?

performance hadoop hbase hdfs

1
推荐指数
1
解决办法
658
查看次数

Hbase 是柱状数据库吗

Hbase表是基于列族的,这意味着每一列都是一个元组每一列存储在一起

这是否意味着 HBase 不是柱状数据库?列式数据库在 IO 方面是高效的,它们可以进行更好的压缩,因为单列的数据往往是相似的。所以一次压缩一列然后一次压缩整个表更容易

HBase 列族存储在一起的事实是否会降低效率,或者 HBase 是否做了一些聪明的技巧来保持列性质?

hbase

1
推荐指数
1
解决办法
2587
查看次数

Spring Boot REST 与 Hadoop HBASE

我正在寻找构建一个简单的RESTFull API来访问HBase。我看了Python HappyBase,但我的集群是 kerberised。现在我进入了Spring

我曾经使用Solr CloudSpring Boot制作简单的 API REST 。

是否可以对 Hbase 做同样的事情?
我不知道是否必须使用Spring Boot 'Yarn App' => https://spring.io/guides/gs/yarn-basic/

Spring Hadoop。=> https://projects.spring.io/spring-hadoop/

只想要一个非常简单的 API。

感谢帮助。

spring hadoop hbase spring-boot

1
推荐指数
1
解决办法
5324
查看次数

将值放在 Hbase 中同一系列的多个列中

我正在寻找一个 Hbase put 命令,该命令可以将值插入到 Hbase 表中相同行键的同一列族中的多个列中。假设我有一个名为“employee”的 hbase 表,其中包含 1 个列族“data”

我正在应用以下命令,但它会引发错误。

PUT 'employee' 'data:column1', 'column1_val', 'data:column2', 'column_val2'
ERROR: no method 'add' for arguments (org.jruby.java.proxies.ArrayJavaProxy,org.jruby.RubyNil,org.jruby.RubyString,org.jruby.java.proxies.ArrayJavaProxy) on Java::OrgApacheHadoopHbaseClient::Put available overloads:
Run Code Online (Sandbox Code Playgroud)

但是,如果我为每个列值插入尝试单独的 put 命令,它工作正常。

PUT 'employee' 'data:column1', 'column1_val'
PUT 'employee' 'data:column2', 'column2_val'
Run Code Online (Sandbox Code Playgroud)

有没有办法在单个 put 命令中将值插入属于同一列族的多个列?

hadoop hbase

1
推荐指数
1
解决办法
5560
查看次数

HBase 真的是一个列式数据库吗?

我正在阅读有关 HBase 的内容,对它的常见描述是“列式数据库”。这实际上意味着什么?与传统的 RDBMS 相比,HBase 的结构是否相反?

提前致谢!

hbase bigdata

1
推荐指数
1
解决办法
597
查看次数

标签 统计

hbase ×10

hadoop ×5

hdfs ×2

apache ×1

bash ×1

bigdata ×1

maven ×1

performance ×1

phoenix ×1

spring ×1

spring-boot ×1