小编Nik*_*har的帖子

如何在intellij中查看镶木地板文件

我想打开一个镶木地板文件,并在Intellij中查看该表的内容.有没有办法当前或使用插件?

intellij-idea parquet

11
推荐指数
3
解决办法
1809
查看次数

在AWSglue动态数据框中添加列

我对 AWS Glue 非常陌生。我正在开发一个小项目,要求从 S3 存储桶读取文件,转置它并将其加载到 mysql 表中。S3存储桶中的源数据如下所示

    +----+----+-------+-----+---+--+--------+
    |cost|data|minutes|name |sms|id|category|
    +----+----+-------+-----+---+--+--------+
    |  5 |1000|  200  |prod1|500|p1|service |
    +----+----+-------+-----+---+--+--------+
Run Code Online (Sandbox Code Playgroud)

目标表结构为Product_id,Parameter,value

我期望目标表具有以下值

p1,成本,5

P1,数据,1000

我能够使用 ID 和值加载目标表。但我无法填充参数列。输入数据中不存在此列,我想根据要填充的列值填充一个字符串。

这是我用于成本的代码。

import sys
from awsglue.transforms import *
from awsglue.utils import getResolvedOptions
from pyspark.context import SparkContext
from awsglue.context import GlueContext
from awsglue.job import Job

## @params: [JOB_NAME]
args = getResolvedOptions(sys.argv, ['JOB_NAME'])

sc = SparkContext()
glueContext = GlueContext(sc)
spark = glueContext.spark_session
job = Job(glueContext)
job.init(args['JOB_NAME'], args)

## @type: DataSource
## @args: [database = "mainclouddb", table_name = …
Run Code Online (Sandbox Code Playgroud)

amazon-web-services aws-glue

9
推荐指数
1
解决办法
2万
查看次数