小编And*_*sov的帖子

如何从SBT运行webpack

我正在开发一个Play 2.4应用程序,并希望SBT在编译期间运行webpack来生成静态资产.

我试过https://github.com/stejskal/sbt-webpack,但它似乎对我不起作用.

sbt playframework webpack

16
推荐指数
1
解决办法
4866
查看次数

CloudFormation:一种定义ACTIVATED计划胶水作业触发器的方法

我正在使用CloudFormation SCHEDULED根据官方文档定义Glue作业触发器:

ParquetJobTrigger:
  Type: 'AWS::Glue::Trigger'
  Properties:
    Name: !Sub "${Prefix}_csv_to_parquet_job_trigger_${StageName}"
    Type: SCHEDULED
    Schedule: cron(0 0/1 * * ? *)
    Actions:
      - JobName: !Ref ParquetJob
        Arguments:
          "--job-bookmark-option": "job-bookmark-enable"
Run Code Online (Sandbox Code Playgroud)

除了一件事,它就像一个魅力.它定义了一个具有状态的作业触发器,CREATED我必须手动启用它:

在此输入图像描述

有没有办法通过CloudFormation单独定义激活的计划触发器?

amazon-web-services aws-cloudformation aws-glue

5
推荐指数
2
解决办法
1479
查看次数

在 EMR 上使用 Spark SQL 查询 Glue 表时获取 NullPointerException(名称为 null)

我已经使用 Spark 和 Zeppelin 以及 AWS Glue 目录设置了一个 AWS EMR 作为 Hive 的元存储。我使用了这个指令:https : //docs.aws.amazon.com/emr/latest/ReleaseGuide/emr-spark-glue.html

看来 EMR 集群和 Zeppeling 正在运行。

当我运行以下段落时:

%sql
show databases
Run Code Online (Sandbox Code Playgroud)

它可以工作并输出我在 Glue 中设置的数据库。

但是,当我尝试以这种方式查询任何表时:

%sql
select * from `fus-bear-parquet-db-prod`.fus_bear_parquet_prod limit 10
Run Code Online (Sandbox Code Playgroud)

我收到以下异常:

java.lang.NullPointerException: Name is null
at java.lang.Enum.valueOf(Enum.java:236)
at org.apache.hadoop.hive.ql.metadata.Table.getTableType(Table.java:401)
at org.apache.spark.sql.hive.client.HiveClientImpl$$anonfun$getTableOption$1$$anonfun$apply$11.apply(HiveClientImpl.scala:394)
at org.apache.spark.sql.hive.client.HiveClientImpl$$anonfun$getTableOption$1$$anonfun$apply$11.apply(HiveClientImpl.scala:373)
at scala.Option.map(Option.scala:146)
at org.apache.spark.sql.hive.client.HiveClientImpl$$anonfun$getTableOption$1.apply(HiveClientImpl.scala:373)
at org.apache.spark.sql.hive.client.HiveClientImpl$$anonfun$getTableOption$1.apply(HiveClientImpl.scala:371)
at org.apache.spark.sql.hive.client.HiveClientImpl$$anonfun$withHiveState$1.apply(HiveClientImpl.scala:290)
at org.apache.spark.sql.hive.client.HiveClientImpl.liftedTree1$1(HiveClientImpl.scala:231)
at org.apache.spark.sql.hive.client.HiveClientImpl.retryLocked(HiveClientImpl.scala:230)
at org.apache.spark.sql.hive.client.HiveClientImpl.withHiveState(HiveClientImpl.scala:273)
at org.apache.spark.sql.hive.client.HiveClientImpl.getTableOption(HiveClientImpl.scala:371)
at org.apache.spark.sql.hive.client.HiveClient$class.getTable(HiveClient.scala:75)
at org.apache.spark.sql.hive.client.HiveClientImpl.getTable(HiveClientImpl.scala:79)
at org.apache.spark.sql.hive.HiveExternalCatalog$$anonfun$getRawTable$1.apply(HiveExternalCatalog.scala:118)
at org.apache.spark.sql.hive.HiveExternalCatalog$$anonfun$getRawTable$1.apply(HiveExternalCatalog.scala:118)
at org.apache.spark.sql.hive.HiveExternalCatalog.withClient(HiveExternalCatalog.scala:97)
at org.apache.spark.sql.hive.HiveExternalCatalog.getRawTable(HiveExternalCatalog.scala:117)
at org.apache.spark.sql.hive.HiveExternalCatalog$$anonfun$getTable$1.apply(HiveExternalCatalog.scala:675)
at …
Run Code Online (Sandbox Code Playgroud)

amazon-emr apache-spark apache-zeppelin aws-glue

5
推荐指数
1
解决办法
2047
查看次数