小编Kri*_*n R的帖子

如何在Python中从pySpark添加SparkListener?

我想创建一个Jupyter/IPython扩展来监视Apache Spark Jobs.

Spark提供REST API.

但是,我不想轮询服务器,而是希望通过回调发送事件更新.

我想注册一个SparkListenerSparkContext.addSparkListener().SparkContextPython 中的PySpark 对象中没有此功能.那么如何从Python向Scala/Java版本的上下文注册python监听器.是否可以通过py4j?我希望在侦听器中触发事件时调用python函数.

py4j apache-spark pyspark

5
推荐指数
1
解决办法
2192
查看次数

标签 统计

apache-spark ×1

py4j ×1

pyspark ×1