我正在构建用于检测欺诈ATM卡交易的实时处理.为了有效地检测欺诈,逻辑要求按卡分配最后交易日期,交易金额按天(或最后24小时)计算.
其中一个用例是,如果在该国家/地区之外的卡片交易超过该国家最后一次交易的30天,则会发送警报作为可能的欺诈行为
所以试着将Spark流视为一种解决方案.为了实现这一目标(可能我对功能编程缺乏了解),下面是我的psudo代码
stream=ssc.receiverStream() //input receiver
s1=stream.mapToPair() // creates key with card and transaction date as value
s2=stream.reduceByKey() // applies reduce operation for last transaction date
s2.checkpoint(new Duration(1000));
s2.persist();
Run Code Online (Sandbox Code Playgroud)
我这里面临两个问题
1)如何进一步使用这个最后的交易日期以便将来从同一张卡进行比较
2)如何保持数据所以即使重启驱动程序然后s2的旧值恢复回来3)updateStateByKey可以用来维持历史状态?
我想我错过了如何实现这种逻辑的火花流/函数编程的关键点.
是否有任何基于Spring的框架来向网页发送通知.我见过http://www.w3schools.com/html5/tryit.asp?filename=tryhtml5_sse我也在研究能够支持大多数浏览器的东西.Spring中是否有任何框架或附件用于服务器端代码的此功能?以及任何支持浏览器的jquery框架?
TIA.
要将文件读入内存,我使用:
val lines = sc.textFile("myLogFile*")
Run Code Online (Sandbox Code Playgroud)
其类型:
org.apache.spark.rdd.RDD[String] = MappedRDD[1] at textFile at <console>:12
Run Code Online (Sandbox Code Playgroud)
阅读Scala文档:http: //spark.apache.org/docs/0.9.1/scala-programming-guide.html#parallelized-collections"通过在现有Scala集合上调用SparkContext的parallelize方法来创建并行化集合(a Seq对象)."
这似乎不适用于RDD?可以在RDD上进行并行处理吗?我是否需要将RDD转换为Seq对象?
我想使用Spring MVC 3,Hibernate和PostgresQL注册用户.这是我想提交的表格:
<form:form name="registerForm" method="post"
action="registerNewUser.html" commandName="user">
<table>
<tr>
<td><spring:message code="label.userName" /></td>
<td><form:input path="userName" /></td>
<td><form:errors path="userName" cssClass="error" /></td>
</tr>
<tr>
<td><spring:message code="label.password" /></td>
<td><form:password path="password" /></td>
<td><form:errors path="password" cssClass="error" /></td>
</tr>
<tr>
<td><spring:message code="label.password" /></td>
<td><form:password path="retypePassword" /></td>
<td><form:errors path="retypePassword" cssClass="error" /></td>
</tr>
<tr>
<td colspan="2"><input type="submit"
value="<spring:message code="register.label" />" /></td>
</tr>
</table>
</form:form>
Run Code Online (Sandbox Code Playgroud)
这是我要保存的POJO:
@Entity
@Table(name = "user_table")
public class User {
@Id
@GeneratedValue(strategy = GenerationType.IDENTITY)
@Column(name = "id")
private Long id;
@Column(name = "user_name", nullable = …Run Code Online (Sandbox Code Playgroud) apache-spark ×2
scala ×2
spring ×2
hibernate ×1
java ×1
jquery ×1
passwords ×1
postgresql ×1
shark-sql ×1
spring-mvc ×1