dat*_*ack 1 scala apache-spark aws-lambda aws-glue
我有一个用Scala编写的胶水作业(Spark作业),我想将参数传递给它。我使用lambda函数来触发作业。我应该如何访问传递给作业的参数?
这是正确的方法吗?
def main(sysArgs: Array[String]) {
/** This is input parameter */
val par = sysArgs(0)
}
Run Code Online (Sandbox Code Playgroud)
还是其他?
使用GlueArgParser解析参数:
import com.amazonaws.services.glue.util.GlueArgParser
val args = GlueArgParser.getResolvedOptions(
sysArgs, Array(
"JOB_NAME",
"CUSTOM_PARAMETER")
)
val param = args("CUSTOM_PARAMETER")
Run Code Online (Sandbox Code Playgroud)
请注意,参数应使用前缀--(即--CUSTOM_PARAMETER)传递
| 归档时间: |
|
| 查看次数: |
243 次 |
| 最近记录: |