我正在使用HiveContext和SparkSQL,我正在尝试连接到远程Hive Metastore,设置hive Metastore的唯一方法是在类路径中包含hive-site.xml(或将其复制到/ etc/spark/CONF /).
有没有办法在不包含hive-site.xml的情况下以编程方式在java代码中设置此参数?如果是这样,使用什么是Spark配置?
我想验证 spark-sql 查询在语法上是否正确,而无需在集群上实际运行查询。
实际用例是我正在尝试开发一个用户界面,它接受用户输入 spark-sql 查询,我应该能够验证所提供的查询在语法上是否正确。此外,如果在解析查询后,我可以就最好的火花最佳实践提供有关查询的任何建议。