我想打开一个镶木地板文件,并在Intellij中查看该表的内容.有没有办法当前或使用插件?
我对 AWS Glue 非常陌生。我正在开发一个小项目,要求从 S3 存储桶读取文件,转置它并将其加载到 mysql 表中。S3存储桶中的源数据如下所示
+----+----+-------+-----+---+--+--------+
|cost|data|minutes|name |sms|id|category|
+----+----+-------+-----+---+--+--------+
| 5 |1000| 200 |prod1|500|p1|service |
+----+----+-------+-----+---+--+--------+
Run Code Online (Sandbox Code Playgroud)
目标表结构为Product_id,Parameter,value
我期望目标表具有以下值
p1,成本,5
P1,数据,1000
我能够使用 ID 和值加载目标表。但我无法填充参数列。输入数据中不存在此列,我想根据要填充的列值填充一个字符串。
这是我用于成本的代码。
import sys
from awsglue.transforms import *
from awsglue.utils import getResolvedOptions
from pyspark.context import SparkContext
from awsglue.context import GlueContext
from awsglue.job import Job
## @params: [JOB_NAME]
args = getResolvedOptions(sys.argv, ['JOB_NAME'])
sc = SparkContext()
glueContext = GlueContext(sc)
spark = glueContext.spark_session
job = Job(glueContext)
job.init(args['JOB_NAME'], args)
## @type: DataSource
## @args: [database = "mainclouddb", table_name = …Run Code Online (Sandbox Code Playgroud)