小编Waq*_*med的帖子

为什么我们需要kafka将数据提供给apache spark

我正在阅读spark和它的real-time stream处理.我很困惑,如果spark本身可以读取来自Twitter文件等来源的流,那么为什么我们需要kafka提供数据spark?如果有人介绍我,我们得到了什么好处,如果我们使用这将是巨大的sparkkafka.谢谢.

streaming apache-kafka apache-spark spark-streaming

9
推荐指数
1
解决办法
1974
查看次数

遗失的执行者 Spark

我在Spark上有一个长时间运行的工作,在运行数小时后失败并出现以下错误。

18/10/09 03:22:15 ERROR YarnScheduler: Lost executor 547 on ip: Unable to create executor due to Unable to register with external shuffle server due to : java.util.concurrent.TimeoutException: Timeout waiting for task.
18/10/09 03:22:15 WARN TaskSetManager: Lost task 750.0 in stage 19.0 (TID 1565492, ip, executor 547): ExecutorLostFailure (executor 547 exited caused by one of the running tasks) Reason: Unable to create executor due to Unable to register with external shuffle server due to : java.util.concurrent.TimeoutException: Timeout waiting for …
Run Code Online (Sandbox Code Playgroud)

apache-spark

9
推荐指数
1
解决办法
6554
查看次数

在 DropDownFor 值更改时更改 EditorFor 的值

我正在尝试制作一个网上银行网站(用于学习 ASP.NET MVC)。我有一个类帐户

class Account
{
int account_id;
String account_number;
decimal balance;
}
Run Code Online (Sandbox Code Playgroud)

我有一个交易模型。

 public class MakeTransactionModel
    {
        [Required]
        public String AccountFrom { get; set; }
        [Required]
        public String AccountTo { get; set; }

        public Decimal OrignalBalance { get; set; }
        [Required]
        public Decimal Amount { get; set; }
        [Required]
        public String TransactionFor { get; set; }
    }
Run Code Online (Sandbox Code Playgroud)

然后在控制器中,我将帐户放在 ViewBag 中。

ViewBag.account_from = new SelectList(db.Accounts, "account_id", "account_number");
Run Code Online (Sandbox Code Playgroud)

在视图中,我创建了一个用于显示所有帐户的下拉列表

@Html.DropDownListFor(u => u.AccountFrom, (SelectList)ViewBag.account_from, htmlAttributes: new { @class = …
Run Code Online (Sandbox Code Playgroud)

c# linq asp.net-mvc jquery asp.net-mvc-4

3
推荐指数
1
解决办法
1848
查看次数

如何在lambda演算中编码

我在Haskell学习lambda演算,在那期间,我遇到了这个问题.

在此输入图像描述

这些问题的解决方案是这样的:

在此输入图像描述

但我无法理解他们如何得出答案.就像eq一样,我不明白他们是如何做到这一点的: ?ab.a b (b (?xy.y) (?xy.x)) 和nand一样.如果有人解释它并帮助我理解这个问题,那将是非常好的.

谢谢.

lambda haskell lambda-calculus semantics

2
推荐指数
1
解决办法
540
查看次数

日期时间解析错误

我在Java中解析日期时遇到问题.下面是代码.

 String dateString = "2017-12-13T16:49:20.730555904Z";
 List<String> formatStrings = Arrays.asList("yyyy-MM-dd'T'HH:mm:ss'Z'", "yyyy-MM-dd'T'HH:mm:ss.SSSSSSSSS'Z'");

    for (String formatString : formatStrings)
    {
        try
        {
            SimpleDateFormat formatter = new SimpleDateFormat(formatString);
            formatter.setTimeZone(TimeZone.getTimeZone("UTC"));
            Date d = formatter.parse(dateString);
            System.out.println("Format is:" + formatString);
            System.out.println("Orignal Date: " + d);
            System.out.println("Orignal MS: " + d.getTime());

            return d;
        }
        catch (ParseException e) {}
    }

    return null;
}
Run Code Online (Sandbox Code Playgroud)

当我运行这个程序时,我得到以下输出.

Format is:yyyy-MM-dd'T'HH:mm:ss.SSSSSSSSS'Z'
Orignal Date: Fri Dec 22 03:45:15 UTC 2017
Orignal MS: 1513914315904
Run Code Online (Sandbox Code Playgroud)

我不知道为什么它是给我12月22日当它应该是12月13日.但是,如果我将输入日期更改为此.

String dateString = "2017-12-13T16:49:20.7Z";
Run Code Online (Sandbox Code Playgroud)

即在Z之前只有一个字符.然后我得到正确的输出.

Format is:yyyy-MM-dd'T'HH:mm:ss.SSSSSSSSS'Z'
Orignal …
Run Code Online (Sandbox Code Playgroud)

java datetime android datetime-parsing

2
推荐指数
1
解决办法
469
查看次数

Spark dropDuplicates 源代码

我正在查看 Spark 源代码以了解dropDuplicates方法的工作原理。在方法定义中有一个方法Deduplicate调用。但我找不到它的定义或参考。如果有人能指出我正确的方向,那就太好了。链接在这里在此处输入图片说明

open-source apache-spark apache-spark-sql

1
推荐指数
1
解决办法
433
查看次数