小编pol*_*u2s的帖子

使用Spark列出Hadoop HDFS目录中的所有文件?

我想循环遍历Hadoop目录中的所有文本文件,并计算单词"error"的所有出现次数.有没有办法hadoop fs -ls /users/ubuntu/用Apache Spark Scala API列出目录中的所有文件?

从给定的第一个示例中,spark上下文似乎只能通过以下方式单独访问文件:

val file = spark.textFile("hdfs://target_load_file.txt")
Run Code Online (Sandbox Code Playgroud)

在我的问题中,我不知道预先在HDFS文件夹中有多少文件名.看了一下spark上下文文档,却找不到这种功能.

hadoop scala apache-spark

13
推荐指数
2
解决办法
3万
查看次数

Kurento WebRTC没有录音

我正在尝试使用带有nodejs的Kurento媒体服务器录制视频.我一直在这里运行你好世界的例子.我将一个recorderEndpoint连接到webrtcEndpoint并且能够使整个事情运行但我在服务器上收到此错误消息:

0:37:59.122469563 7003 0xaf5500错误KurentoMediaPipelineImpl /build/buildd/kms-core-5.0.3/src/server/implementation/objects/MediaPipelineImpl.cpp:32:busMessage:总线错误:错误消息:0x7f11c0330ea0,时间99: 99:99.999999999,seq-num 514729,元素'kmsrecorderendpoint10',GstMessageError,gerror =(GError)NULL,debug =(string)"/ build/buildd/kms-elements-5.0.3/src/gst-plugins/kmsrecorderendpoint. c(876):\ sink_required_cb \():\/GstPipeline:pipeline8/KmsRecorderEndpoint:kmsrecorderendpoint10";

我不认为它的录音是正确的,但我不确定是什么问题.我能够运行原始示例,因此服务器很好.

代码在这里:

https://gist.github.com/poliu2s/2cd3fc2a5dc929062481

javascript node.js webrtc kurento

6
推荐指数
1
解决办法
3366
查看次数

在 MKL 中查找矩阵的矩阵指数

有没有办法计算 MKL 中矩阵的矩阵指数?我查看了参考手册,但我只能找到v?Exp()哪个用于查找向量元素的指数。

(我基本上是在寻找 MATLAB expm() 等价物)

c++ matrix intel-mkl

2
推荐指数
1
解决办法
2208
查看次数

Apache Spark:Hashmap累加器给出类型不匹配错误

我试图将hashmap声明为Spark(v0.9.1)累加器.文档声明"Spark本身支持数值类型和标准可变集合的累加器......"(链接).

但是,当我尝试创建HashMap [String,Boolean]时,这对我来说似乎不起作用:

scala> import collection.mutable.HashMap
import collection.mutable.HashMap

scala> val accum = sc.accumulator("test" -> true)(HashMap)
<console>:13: error: type mismatch;
 found   : scala.collection.mutable.HashMap.type
 required: org.apache.spark.AccumulatorParam[(String, Boolean)]
           val accum = sc.accumulator("test" -> true)(HashMap)
Run Code Online (Sandbox Code Playgroud)

scala apache-spark

2
推荐指数
2
解决办法
5481
查看次数

如何获得 SVG 的纵横比?

有没有办法获得加载的 svg 的纵横比?我希望能够知道进入该preserveAspectRatio属性的缩放比例。该文件指出,对于meet

  • 纵横比被保留
  • 整个 viewBox 在视口内可见
  • viewBox 尽可能放大,同时仍满足其他条件

有没有办法检索属性在 JS 中以某种方式知道的纵横比?

javascript css svg d3.js

2
推荐指数
1
解决办法
3271
查看次数

标签 统计

apache-spark ×2

javascript ×2

scala ×2

c++ ×1

css ×1

d3.js ×1

hadoop ×1

intel-mkl ×1

kurento ×1

matrix ×1

node.js ×1

svg ×1

webrtc ×1