小编Jig*_*ekh的帖子

Spark Streaming历史状态

我正在构建用于检测欺诈ATM卡交易的实时处理.为了有效地检测欺诈,逻辑要求按卡分配最后交易日期,交易金额按天(或最后24小时)计算.

其中一个用例是,如果在该国家/地区之外的卡片交易超过该国家最后一次交易的30天,则会发送警报作为可能的欺诈行为

所以试着将Spark流视为一种解决方案.为了实现这一目标(可能我对功能编程缺乏了解),下面是我的psudo代码

stream=ssc.receiverStream() //input receiver 
s1=stream.mapToPair() // creates key with card and transaction date as value
s2=stream.reduceByKey() // applies reduce operation for last transaction date 
s2.checkpoint(new Duration(1000));
s2.persist();
Run Code Online (Sandbox Code Playgroud)

我这里面临两个问题

1)如何进一步使用这个最后的交易日期以便将来从同一张卡进行比较
2)如何保持数据所以即使重启驱动程序然后s2的旧值恢复回来3)updateStateByKey可以用来维持历史状态?

我想我错过了如何实现这种逻辑的火花流/函数编程的关键点.

java scala apache-spark shark-sql spark-streaming

7
推荐指数
1
解决办法
2423
查看次数

任何基于Spring的网络推送都像通知一样,我可以在网页上更新通知而不刷新页面?

是否有任何基于Spring的框架来向网页发送通知.我见过http://www.w3schools.com/html5/tryit.asp?filename=tryhtml5_sse我也在研究能够支持大多数浏览器的东西.Spring中是否有任何框架或附件用于服务器端代码的此功能?以及任何支持浏览器的jquery框架?

TIA.

jquery notifications spring

6
推荐指数
1
解决办法
5122
查看次数

如何并行化RDD?

要将文件读入内存,我使用:

val lines = sc.textFile("myLogFile*")
Run Code Online (Sandbox Code Playgroud)

其类型:

org.apache.spark.rdd.RDD[String] = MappedRDD[1] at textFile at <console>:12
Run Code Online (Sandbox Code Playgroud)

阅读Scala文档:http: //spark.apache.org/docs/0.9.1/scala-programming-guide.html#parallelized-collections"通过在现有Scala集合上调用SparkContext的parallelize方法来创建并行化集合(a Seq对象)."

这似乎不适用于RDD?可以在RDD上进行并行处理吗?我是否需要将RDD转换为Seq对象?

scala apache-spark

6
推荐指数
1
解决办法
7924
查看次数

使用Spring MVC确认密码的最简单方法

我想使用Spring MVC 3,Hibernate和PostgresQL注册用户.这是我想提交的表格:

<form:form name="registerForm" method="post"
        action="registerNewUser.html" commandName="user">

        <table>

            <tr>
                <td><spring:message code="label.userName" /></td>
                <td><form:input path="userName" /></td>
                <td><form:errors path="userName" cssClass="error" /></td>
            </tr>

            <tr>
                <td><spring:message code="label.password" /></td>
                <td><form:password path="password" /></td>
                <td><form:errors path="password" cssClass="error" /></td>
            </tr>


            <tr>
                <td><spring:message code="label.password" /></td>
                <td><form:password path="retypePassword" /></td>
                <td><form:errors path="retypePassword" cssClass="error" /></td>
            </tr>

            <tr>
                <td colspan="2"><input type="submit"
                    value="<spring:message code="register.label" />" /></td>
            </tr>
        </table>

    </form:form>
Run Code Online (Sandbox Code Playgroud)

这是我要保存的POJO:

@Entity
@Table(name = "user_table")
public class User {

    @Id
    @GeneratedValue(strategy = GenerationType.IDENTITY)
    @Column(name = "id")
    private Long id;

    @Column(name = "user_name", nullable = …
Run Code Online (Sandbox Code Playgroud)

passwords postgresql spring hibernate spring-mvc

3
推荐指数
1
解决办法
5078
查看次数