小编Has*_*air的帖子

Python:将pandas数据框保存到镶木地板文件中

是否可以将pandas数据框直接保存到镶木地板文件中?如果没有,建议的过程是什么?

目的是能够将镶木地板文件发送给另一个团队,他们可以使用scala代码来读取/打开它.谢谢!

hdfs python-3.x parquet

10
推荐指数
4
解决办法
1万
查看次数

如何防止在Struts2 textfield标记中显示默认值"0"

我有一个包含多个文本字段的表单.当我用数据填充它时,有一些整数文本字段显示'0',这是整数的默认值.我希望textfield为空而不是零.

<s:textfield id="txtPhone" name="phone"/>
Run Code Online (Sandbox Code Playgroud)

请帮忙.

java struts2 java-ee

3
推荐指数
1
解决办法
2111
查看次数

带有 SASL_SSL 身份验证的 Kafka Spark 结构化流

我一直在尝试使用 Spark Structured Streaming API 通过 SASL_SSL 连接到 Kafka 集群。我已将 jaas.conf 文件传递​​给执行程序。似乎我无法设置密钥库和信任库身份验证的值。

我尝试传递 thisspark链接中提到的值

此外,尝试通过此链接中的代码传递它

仍然没有运气。

这是日志

20/02/28 10:00:53 INFO streaming.StreamExecution: Starting [id = e176f5e7-7157-4df5-93ce-1e267bae6125, runId = 03225a69-ec00-45d9-8092-1467da34980f]. Use flight/checkpoint to store the query checkpoint.
20/02/28 10:00:53 INFO yarn.ApplicationMaster: Final app status: SUCCEEDED, exitCode: 0
20/02/28 10:00:53 INFO spark.SparkContext: Invoking stop() from shutdown hook
20/02/28 10:00:53 INFO server.AbstractConnector: Stopped Spark@46202f7b{HTTP/1.1,[http/1.1]}{0.0.0.0:0}
20/02/28 10:00:53 INFO consumer.ConsumerConfig: ConsumerConfig values:
        metric.reporters = []
        metadata.max.age.ms = 300000
        partition.assignment.strategy = [org.apache.kafka.clients.consumer.RangeAssignor]
        reconnect.backoff.ms …
Run Code Online (Sandbox Code Playgroud)

scala apache-kafka apache-spark spark-streaming spark-streaming-kafka

3
推荐指数
1
解决办法
4745
查看次数

Spark Structured Streaming 异常处理

我使用 Spark Structured Streaming API 从 MQTT 流媒体源读取数据。

val lines:= spark.readStream
  .format("org.apache.bahir.sql.streaming.mqtt.MQTTStreamSourceProvider")
  .option("topic", "Employee")
  .option("username", "username")
  .option("password", "passwork")
  .option("clientId", "employee11")
  .load("tcp://localhost:8000").as[(String, Timestamp)]
Run Code Online (Sandbox Code Playgroud)

我将流数据转换为案例类 Employee

case class Employee(Name: String, Department: String)    
val ds = lines.map {
        row =>
          implicit val format = DefaultFormats
          parse(row._1).extract[Employee]
      }
  ....some transformations
 df.writeStream
        .outputMode("append")
        .format("es")
        .option("es.resource", "spark/employee")
        .option("es.nodes", "localhost")
        .option("es.port", 9200)
        .start()
        .awaitTermination()
Run Code Online (Sandbox Code Playgroud)

现在队列中有一些消息与Employee案例类具有不同的结构。假设缺少一些必需的列。我的流媒体作业因未找到字段异常而失败。

现在我想处理这样的异常,也想发送一个警报通知。我尝试放置一个 try/catch 块。

case class ErrorMessage(row: String)        
catch {

      case e: Exception =>
        val ds = lines.map {
          row => …
Run Code Online (Sandbox Code Playgroud)

spark-structured-streaming

2
推荐指数
1
解决办法
2333
查看次数

用户在spring-security中注销时从会话中删除用户登录凭据

我是Spring和Spring-Security的新手.我一直在阅读这里的教程

未经登录,不允许用户点击添加员工页面.因此,如果您点击添加员工页面,您将被定向到登录页面,当登录成功时,您将被自动定向到添加员工页面.

但是一旦用户登录,即使在用户注销后也可以访问添加员工链接.即使在重新启动服务器后也可以访问它,我不得不关闭浏览器窗口以便销毁登录凭据.

当我将注销URL保持为"j_spring_security_logout"时,我不想使用它.我想使用自定义字段名称和网址,是否可能?

这就是我的spring-security.xml的样子

<http auto-config="true" use-expressions="true">
    <intercept-url pattern="/login" access="permitAll" />
    <intercept-url pattern="/logout" access="permitAll" />
    <intercept-url pattern="/accessdenied" access="permitAll" />
    <intercept-url pattern="/**" access="hasRole('ROLE_USER')" />
    <form-login login-page="/login" default-target-url="/list"
        authentication-failure-url="/accessdenied" />
    <logout logout-success-url="/logout" invalidate-session="true"
        delete-cookies="true" />
</http>
<authentication-manager alias="authenticationManager">
    <authentication-provider>
        <user-service>
            <user name="hasif" password="password" authorities="ROLE_USER" />
        </user-service>
    </authentication-provider>
</authentication-manager>
Run Code Online (Sandbox Code Playgroud)

这就是我的LoginController的外观

@Controller公共类LoginController {

@RequestMapping(value = "/login", method = RequestMethod.GET)
public String login() {     
    return "login";
}

@RequestMapping(value = "/logout", method = RequestMethod.GET)
public String logout(HttpServletRequest request) {
    HttpSession session = request.getSession(false); …
Run Code Online (Sandbox Code Playgroud)

java spring spring-mvc spring-security

1
推荐指数
1
解决办法
2万
查看次数