在Kubernetes上部署Elasticsearch for Apache Spark

Aar*_*uke 5 hadoop elasticsearch apache-spark kubernetes elasticsearch-hadoop

我想知道是否有人有使用Elasticsearch for Hadoop库配置Kubernetes集群的经验。尝试从Spark写入Elasticsearch时,我遇到了节点发现超时的问题。由于ES 的elasticsearch-cloud-kubernetes插件可以处理发现,因此我可以启动Elasticsearch并运行,但是我不确定如何最好地配置Elasticsearch-hadoop来了解kubernetes集群中的节点(荚)。我尝试设置spark.es.nodes为es客户端服务,但这似乎不起作用。我也知道我可以启用es.nodes.wan.only,但是正如文档中所述,这将严重影响性能,这使它们无法在同一群集上运行的目的实现了。任何帮助,将不胜感激。

小智 0

我没有受过elasticsearch-hadoop 方面的教育,但是您是否尝试过将您的elasticsearch-hadoop 指向您的elasticsearch 服务而不是特定节点?您的主节点通常会处理 ES 集群中的所有事务。