在beeline hive中导出为csv

Question

我试图将我的蜂巢表导出为直线蜂巢中的csv.当我运行该命令时,!sql select * from database1 > /user/bob/output.csv它给我语法错误.

我已使用下面的命令成功连接到数据库.查询在控制台上输出正确的结果.

beeline -u 'jdbc:hive2://[databaseaddress]' --outputformat=csv

此外,不清楚文件的最终位置.它应该是hdfs中的文件路径正确吗？

Answer 1

当hive版本至少为0.11.0时,您可以执行:

INSERT OVERWRITE LOCAL DIRECTORY '/tmp/directoryWhereToStoreData' 
ROW FORMAT DELIMITED 
FIELDS TERMINATED BY ','  
LINES TERMINATED BY "\n"
SELECT * FROM yourTable;

从hive/beeline将表存储到本地文件系统的目录中.

或者,使用beeline,将SELECT查询保存在SQLFile.sql中并运行:

beeline -u 'jdbc:hive2://[databaseaddress]' --outputformat=csv2 -f yourSQlFile.sql > theFileWhereToStoreTheData.csv 

此外,这会将结果存储到本地文件系统中的文件中.

从配置单元,将数据存储到HDFS:

CREATE EXTERNAL TABLE output 
LIKE yourTable 
ROW FORMAT DELIMITED 
FIELDS TERMINATED BY ','
LINES TERMINATED BY '\n'
LOCATION 'hfds://WhereDoYou/Like';

INSERT OVERWRITE TABLE output SELECT * from yourTable;

然后您可以使用以下方法将数据收集到本地文件:

hdfs dfs -getmerge /WhereDoYou/Like

这是另一种仅使用beeline获取数据的选项:

env HADOOP_CLIENT_OPTS="-Ddisable.quoting.for.sv=false" beeline -u "jdbc:hive2://your.hive.server.address:10000/" --incremental=true --outputformat=csv2 -e "select * from youdatabase.yourtable" 

工作:

Connected to: Apache Hive (version 1.1.0-cdh5.10.1)
Driver: Hive JDBC (version 1.1.0-cdh5.10.1)
Transaction isolation: TRANSACTION_REPEATABLE_READ
Beeline version 1.1.0-cdh5.10.1 by Apache Hive