我正在尝试使用Java连接我的jobtracker.
下面显示的是我试图执行的程序
public static void main(String args[]) throws IOException {
Configuration conf = new Configuration();
conf.addResource(new Path(
"/home/user/hadoop-1.0.3/conf/core-site.xml"));
conf.addResource(new Path(
"/home/user/hadoop-1.0.3/conf/hdfs-site.xml"));
conf.addResource(new Path(
"/home/user/hadoop-1.0.3/conf/mapred-site.xml"));
InetSocketAddress jobtracker = new InetSocketAddress("localhost", 50030);
JobClient jobClient = new JobClient(jobtracker, conf);
jobClient.setConf(conf);
JobStatus[] jobs = jobClient.jobsToComplete();
for (int i = 0; i < jobs.length; i++) {
JobStatus js = jobs[i];
if (js.getRunState() == JobStatus.RUNNING) {
JobID jobId = js.getJobID();
System.out.println(jobId);
}
}
Run Code Online (Sandbox Code Playgroud)
这是我得到的例外.即使我尝试用127.0.0.1替换localhost也不行.同样的错误.
Exception in thread "main" java.io.IOException: Call to localhost/127.0.0.1:50030 failed on local exception: …Run Code Online (Sandbox Code Playgroud) 我想将以下链接的内容下载到文件中。
\n\n我尝试使用 wget 和 curl 命令,该文件已下载数据,但不是可读格式或 json 字符串。
\n\n我使用过的命令是:
\n\n wget -O ~/ks/json.txt "http://api.geonames.org/postalCodeLookupJSON?postalcode=6600&country=AT&username=demo"\nRun Code Online (Sandbox Code Playgroud)\n\n我希望输出文件本身包含 json 格式的数据,如链接所示。
\n\n编辑
\n\n我使用 Vi 编辑器读取输出,下面是我得到的输出示例:
\n\n^_<8b>^H^@^@^@^@^@^D^@\xc3\x95[^?w\xc3\x9a8\xc2\xb3\xc3\xbe*\xc2\xba\xc3\xac<9e>\xc2\xbed^W\xc3\xbf\xc2\xb61\xc3\x90$\xc3\xbb\xc2\xa6M\xc3\x9ad\xc3\x9b$\xc2\xbdM\xc3\x9a\xc3\x9d\xc2\xbeKO<8e>\xc2\xb0^E(16k\xc3\x8b\xc2\xa1\xc2\xb4\xc2\xa7\xc3\xb7\xc2\xb3\xc3\x9f^Y\xc3\x89^F^C&%\xc3\x99\xc3\xbb\xc3\x8f\xc3\x8d\xc3\x99-F<9e>^Y<8d>\xc2\xa4<99>G3#\xc3\xb1\xc2\xad\xc3\x81^E<9b>d<8d>\xc3\x9e_\xc3\x9f^Z<82><8e>\xc3\xb0\xc2\xa11\xc2\xa6a<92>L^[\xc2\xad\xc3\x86<84>NS^V\xc3\xa6^A<83>\xc3\xa79M\xc3\xa3\xc3\x86\xc3\xa7V#<99>\xc3\x85,m\xc3\xb4\xc2\xbe5R6\xc3\x8d^E^U<<89>^[=\xc3\x9bi5\xc3\xb2<8c>\xc2\xa57<l\xc3\xb4^\\\xc3\x8fq\xc3\x9dv\xc3\x99"\xc3\xa6S\xc3\x96\xc3\xa8^A\xc3\xb5<88>g<82><81>8<90>E<83><80>M\xc3\x85MJ^E\xc2\xbc\xc3\xb2;\xc2\xad\xc3\x864M<86><b7|BGH=^Vb<9a>\xc3\xb5^Lc6<9b>\xc3\xa9\xc2\xa3<94>\xc3\x9eSAS=H&<86>z4\xc3\x82\xc3\x90\xc2\xb4\xc2\xbc6^[\xc2\xbaf7^XZag\xc3\xa0<87>~\xc3\x97\xc2\xb6C\xc3\x9aa<8e>^[\xc3\x98<83>\xc3\x9f\xc2\xb2^C\xc3\x8b\xc3\xae<^K^Ox\xc3\x88b\xc3\x81<83>$~<96>^^\xc2\xbc{\xc3\xbdlx`A\xc3\xb7!\xc3\x8f\xc2\xa6^Q<9d>\xc3\x9f\xc3\x84t<82><9d>\xc2\xbd&oR<9e><8d>cJ\xc2\xae\xc3\xa8dJ\xc3\x85^XH"^^\xc3\x9f^Uz<80>^Z<99>\xc2\xa0\xc3\x81]r\xc3\x8f\xc3\x92a<94>\xc3\x8c\xc2\xa4^^8\xc2\xb4\xc3\x8c(Fj<8c>\xc2\xb4;%A\xc3\x8b\nRun Code Online (Sandbox Code Playgroud)\n 我对scala编程很新,所以这可能是一个基本问题
我打算动态创建一个数据帧.
这是我的最终目标:
val df2 = df1.select("col1","col2","col3")
Run Code Online (Sandbox Code Playgroud)
我有一个函数生成如下所示的列名称并保存到这样的变量:
scala> val colVar = generateColSelectionString(4)
colVar: String = col1,col2,col3
Run Code Online (Sandbox Code Playgroud)
现在,
我该怎么做这样的事情:
val df2 = df1.select(colVar)
Run Code Online (Sandbox Code Playgroud)