如何查看Spark版本

Hap*_*ing 43 apache-spark cloudera-cdh

如何命名,我怎么知道CentOS中安装了哪个版本的火花?

当前系统已安装cdh5.1.0.

Shy*_*nki 66

如果您使用Spark-Shell,它将在开头的横幅中显示.

SparkContext.version可以使用编程方式.

  • 在spark-shell中,`sc.version`或在应用程序`val sc = new SparkContext(new SparkConf); sc.version`. (4认同)
  • 嗯..我在 python shell 中得到 `<property object at 0x7f8d2afb2998>` (2认同)
  • @PikoMonde version 是 SparkContext 类的一个属性,因此您只需在该类的 **实例** 上调用它即可。 (2认同)
  • 是的,我刚刚意识到这一点。我认为,对于像我这样刚接触 python 和 Spark 的人来说,完整的代码(以编程方式)是有帮助的。这里我写了完整的代码[如下](/sf/answers/4236654761/) (2认同)

Ven*_*ive 34

打开Spark shell终端,运行sc.version

在此输入图像描述


Ozg*_*urk 27

您可以使用spark-submit命令: spark-submit --version


mrs*_*vas 12

在Spark 2.x程序/ shell中,

使用

spark.version 
Run Code Online (Sandbox Code Playgroud)

当spark变量是SparkSession对象

在开始时使用控制台日志 spark-shell

[root@bdhost001 ~]$ spark-shell
Setting default log level to "WARN".
To adjust logging level use sc.setLogLevel(newLevel).
Welcome to
      ____              __
     / __/__  ___ _____/ /__
    _\ \/ _ \/ _ `/ __/  '_/
   /___/ .__/\_,_/_/ /_/\_\   version 2.2.0
      /_/
Run Code Online (Sandbox Code Playgroud)

无需进入代码/ shell

spark-shell --version

[root@bdhost001 ~]$ spark-shell --version
Welcome to
      ____              __
     / __/__  ___ _____/ /__
    _\ \/ _ \/ _ `/ __/  '_/
   /___/ .__/\_,_/_/ /_/\_\   version 2.2.0
      /_/

Type --help for more information.
Run Code Online (Sandbox Code Playgroud)

spark-submit --version

[root@bdhost001 ~]$ spark-submit --version
Welcome to
      ____              __
     / __/__  ___ _____/ /__
    _\ \/ _ \/ _ `/ __/  '_/
   /___/ .__/\_,_/_/ /_/\_\   version 2.2.0
      /_/

Type --help for more information.
Run Code Online (Sandbox Code Playgroud)


小智 7

如果您正在使用Databricks并与笔记本电脑交谈,请运行:

spark.version
Run Code Online (Sandbox Code Playgroud)


Man*_*r G 5

如果您使用的是 pyspark,则可以在粗体 Spark 徽标旁边看到正在使用的 Spark 版本,如下所示:

manoj@hadoop-host:~$ pyspark
Python 2.7.6 (default, Jun 22 2015, 17:58:13)
[GCC 4.8.2] on linux2
Type "help", "copyright", "credits" or "license" for more information.
Setting default log level to "WARN".
To adjust logging level use sc.setLogLevel(newLevel).

Welcome to
      ____              __
     / __/__  ___ _____/ /__
    _\ \/ _ \/ _ `/ __/  '_/
   /__ / .__/\_,_/_/ /_/\_\   version 1.6.0
      /_/

Using Python version 2.7.6 (default, Jun 22 2015 17:58:13)
SparkContext available as sc, HiveContext available as sqlContext.
>>>
Run Code Online (Sandbox Code Playgroud)

如果想显式获取spark版本,可以使用SparkContext的version方法,如下图:

>>>
>>> sc.version
u'1.6.0'
>>>
Run Code Online (Sandbox Code Playgroud)