小编Mac*_*chi的帖子

这些指标对于 Spark 结构化流意味着什么?

spark.streams.addListener(new StreamingQueryListener() {\n    ......\n    override def onQueryProgress(queryProgress: QueryProgressEvent): Unit = {\n        println("Query made progress: " + queryProgress.progress)\n    }\n    ......\n})\n
Run Code Online (Sandbox Code Playgroud)\n\n

当 StreamingQueryListener 添加到 Spark Structured Streaming 会话并连续输出 queryProgress 时,您将获得的指标之一是urationMs

\n\n
Query made progress: {\n  ......\n  "durationMs" : {\n    "addBatch" : 159136,\n    "getBatch" : 0,\n    "getEndOffset" : 0,\n    "queryPlanning" : 38,\n    "setOffsetRange" : 14,\n    "triggerExecution" : 159518,\n    "walCommit" : 182\n  }\n  ......\n}\xe2\x80\x8b\n
Run Code Online (Sandbox Code Playgroud)\n\n

谁能告诉我durationMs中的那些子指标在spark上下文中意味着什么?例如“addBatch 159136”是什么意思。

\n

apache-spark spark-structured-streaming

7
推荐指数
1
解决办法
1571
查看次数

${BASH_SOURCE-$0} 的含义?

我在 Zookeeper 中看到了这个 shell 脚本zkClear.sh

ZOOBIN="${BASH_SOURCE-$0}"
Run Code Online (Sandbox Code Playgroud)

谁能告诉我这个脚本的含义?谢谢。

bash

1
推荐指数
1
解决办法
2721
查看次数