小编Har*_*hit的帖子

Spark工作完成但应用程序需要时间才能完成

使用scala运行spark工作,正如预期的那样,所有工作都按时完成,但不知何故,一些INFO日志在作业停止前打印20-25分钟.

发布少量UI截图,可以帮助解决问题.

  1. 以下是4个阶段所需的时间:

时间分为4个阶段

  1. 以下是连续工作ID之间的时间 连续工作ID之间的时间

我不明白为什么两个工作ID之间花了这么多时间.

以下是我的代码段:

    val sc = new SparkContext(conf)
for (x <- 0 to 10) {
  val zz = getFilesList(lin);
  val links = zz._1
  val path = zz._2
  lin = zz._3
  val z = sc.textFile(links.mkString(",")).map(t => t.split('\t')).filter(t => t(4) == "xx" && t(6) == "x").map(t => titan2(t)).filter(t => t.length > 35).map(t => ((t(34)), (t(35), t(5), t(32), t(33))))
  val way_nodes = sc.textFile(way_source).map(t => t.split(";")).map(t => (t(0), t(1)));
  val t = z.join(way_nodes).map(t => (t._2._1._2, Array(Array(t._2._1._2, t._2._1._3, t._2._1._4, t._2._1._1, t._2._2)))).reduceByKey((t, y) …
Run Code Online (Sandbox Code Playgroud)

scala amazon-s3 apache-spark

12
推荐指数
2
解决办法
3174
查看次数

由于batch_size问题,有状态LSTM无法预测

我能够使用keras成功训练我的有状态LSTM.我的批量大小为60,我在网络中发送的每个输入都可以被batch_size整除.以下是我的代码段:

model = Sequential()
model.add(LSTM(80,input_shape = trainx.shape[1:],batch_input_shape=(60, 
trainx.shape[1], trainx.shape[2]),stateful=True,return_sequences=True))
model.add(Dropout(0.15))
model.add(LSTM(40,return_sequences=False))
model.add(Dense(40))
model.add(Dropout(0.3))
model.add(Dense(output_dim=1))
model.add(Activation("linear"))
keras.optimizers.RMSprop(lr=0.005, rho=0.9, epsilon=1e-08, decay=0.0)
model.compile(loss="mse", optimizer="rmsprop")
Run Code Online (Sandbox Code Playgroud)

我的训练线成功运行:

  model.fit(trainx[:3000,:],trainy[:3000],validation_split=0.1,shuffle=False,nb_epoch=9,batch_size=60)
Run Code Online (Sandbox Code Playgroud)

现在我尝试预测测试集再次被60整除,但是我得到了错误:

ValueError:在有状态网络中,您应该只传递带有多个样本的输入,这些样本可以除以批量大小.发现:240个样本.批量:32.

谁能告诉我上面有什么问题?我很困惑,尝试了很多东西,但没有任何帮助.

lstm keras tensorflow rnn

7
推荐指数
1
解决办法
1036
查看次数

Google Map APIv2实现,二进制XML文件行#6:错误膨胀类片段

android.view.InflateException: Binary XML file line #6: Error inflating class fragment
Run Code Online (Sandbox Code Playgroud)

我试图在各种教程之后的片段中实现Google Map apiv2,我遇到错误膨胀类片段,然后我在stackoverflow遇到了各种类似的问题,尝试了几乎所有问题,但问题仍然存在.我是android的新手,欢迎任何类型的提示,我想快速学习android开发,但我被卡住了.提前致谢.

编辑:当我从片段3转到片段2并且片段1在后台加载时,应用程序意外关闭.有什么想法可以解决这些问题?

我的android清单:

<?xml version="1.0" encoding="utf-8"?>
<manifest xmlns:android="http://schemas.android.com/apk/res/android"
    package="com.example.hspot2"
    android:versionCode="1"
    android:versionName="1.0" >

    <uses-sdk
        android:minSdkVersion="11"
        android:targetSdkVersion="18" />

    <permission
        android:name="com.example.hspot2.permission.MAPS_RECEIVE"
        android:protectionLevel="signature" />

    <uses-permission android:name="android.permission.ACCESS_NETWORK_STATE"/>
    <uses-permission android:name="android.permission.INTERNET"/>
    <uses-permission android:name="com.google.android.providers.gsf.permission.READ_GSERVICES" />
    <uses-permission android:name="android.permission.WRITE_EXTERNAL_STORAGE"/>
    <uses-permission android:name="android.permission.ACCESS_COARSE_LOCATION" />
    <uses-permission android:name="android.permission.ACCESS_FINE_LOCATION" />

      <!-- Required OpenGL ES 2.0. for Maps V2 -->
    <uses-feature
        android:glEsVersion="0x00020000"
        android:required="true" />

    <application
        android:allowBackup="true"
        android:icon="@drawable/ic_launcher"
        android:label="@string/app_name"
        android:theme="@style/AppTheme" >

        <activity
            android:name="com.example.hspot2.MainActivity"
            android:label="@string/app_name" >
            <intent-filter>
                <action android:name="android.intent.action.MAIN" />

                <category android:name="android.intent.category.LAUNCHER" />
            </intent-filter>
        </activity>

        <meta-data …
Run Code Online (Sandbox Code Playgroud)

android android-inflate android-fragments android-maps-v2

5
推荐指数
1
解决办法
2317
查看次数

当变量不为null时,自定义适配器的getview会抛出NullPointerException

我正在尝试设置自定义适配器以使用列表视图上的演示聊天应用程序向用户显示消息,但在我的自定义列表适配器的getView方法中接收错误.

  • 我仔细检查了我的步骤并进行了调试,以确定holder是否为null.但是你可以在我的调试器变量输出中看到holder不为null.

错误在线:

holder.message.setText("lol");
Run Code Online (Sandbox Code Playgroud)

我的自定义适配器的getView()可能出现什么错误?感谢任何提示和帮助提前.

我的定制适配器:

import java.util.ArrayList;

import android.content.Context;
import android.support.v4.view.ViewPager.LayoutParams;
import android.util.Log;
import android.view.Gravity;
import android.view.LayoutInflater;
import android.view.View;
import android.view.ViewGroup;
import android.widget.BaseAdapter;
import android.widget.TextView;

public class ChattingAdapter extends BaseAdapter{
    private Context mContext;
    private ArrayList<ChatMessage> mMessages;


    public ChattingAdapter(Context context, ArrayList<ChatMessage> messages) {
        super();
        this.mContext = context;
        this.mMessages = messages;
    }
    @Override
    public int getCount() {
        return mMessages.size();
    }
    @Override
    public Object getItem(int position) {       
        return mMessages.get(position);
    }
    @Override
    public View getView(int position, View convertView, ViewGroup parent) {
        ChatMessage message …
Run Code Online (Sandbox Code Playgroud)

android listadapter android-adapter custom-adapter

5
推荐指数
1
解决办法
3174
查看次数

如何在Spark MLlib中初始化K-means的集群中心?

有没有办法在Spark MLlib中运行K-Means时初始化集群中心?

我试过以下:

model = KMeans.train(
    sc.parallelize(data), 3, maxIterations=0,
    initialModel = KMeansModel([(-1000.0,-1000.0),(5.0,5.0),(1000.0,1000.0)]))
Run Code Online (Sandbox Code Playgroud)

initialModel并且setInitialModel不存在于spark-mllib_2.10中

apache-spark apache-spark-mllib

5
推荐指数
1
解决办法
2158
查看次数

正确的方法为v2.2.1安装cakephp脚本?

我正在使用ubuntu并按照说明使用'apt-get isntall cakephp-scripts'

我正在使用最新稳定版本的蛋糕v 2.2.1,但是当我运行蛋糕烘焙-app时,我总是得到v1.3.2的控制台

为什么我要在cakephp v 2.2.1上获得CakePHP v1.3.2控制台

cakephp cakephp-2.1 cakephp-bake

4
推荐指数
1
解决办法
2648
查看次数

python中(**)和(<<)之间的区别是什么?

a = 100000000
c = (2**(a-1))-1
b = (2<<(a-1))-1
m = 1000000007
print b%m
print c%m
Run Code Online (Sandbox Code Playgroud)

输出:

494499947
247249973
Run Code Online (Sandbox Code Playgroud)

我在python中使用**和<<运算符来查找非常大的2的幂.但是,类似的操作会产生不同 只是好奇为什么?

python bit-shift exponent

4
推荐指数
3
解决办法
5282
查看次数

Neo4j如何向节点的属性添加多个值

虽然我正在为其中一个问题创建节点,但我陷入困境,经过文档后我意识到我无法找到节点的多值属性赋值

例如:节点1有属性网站访问,因为它不能是一个网站,如何添加属性到节点1"网站",这样它可以采取两个值,如www.abc.com www.def.com

node1["websites"] = "www.abc.com" "www.def.com"
Run Code Online (Sandbox Code Playgroud)

这样,在访问节点的每个属性时,可以单独访问节点属性中的每个网站.

谢谢你的时间 !

neo4j nosql

3
推荐指数
2
解决办法
2989
查看次数

使用正则表达式来削减模式中的首字母

我试图使用正则表达式来指定模式,但是替换也会替换想要的字符.在这种情况下,指定边界没有帮助.

 String name = "Dr.Dre" ;  
     Pattern p = Pattern.compile("(Mr.|MR.|Dr.|mr.|DR.|dr.|ms.|Ms.|MS.|Miss.|Mrs.|mrs.|miss.|MR|mr|Mr|Dr|DR|dr|ms|Ms|MS|miss|Miss|Mrs|mrs)"+"\\b");
     Matcher m = p.matcher(name);
     StringBuffer sb = new StringBuffer();
     String namef = m.replaceAll("");    
     System.out.println(namef);
Run Code Online (Sandbox Code Playgroud)

输入:Dr.Dre或Dr. Dre或Dr. Dre

>输出(预期):Dre或Dre或Dre

编辑:

感谢您的帮助,但我面临的正则表达式问题很少:程序:

String name = "Dr. Dre" ;  
Pattern p = Pattern.compile("(Mr\\.|MR\\.|Dr\\.|mr\\.|DR\\.|dr\\.|ms\\.|Ms\\.|MS\\.|Miss\\.|Mrs\\.|mrs\\.|miss\\.|MR|mr|Mr|Dr|DR|dr|ms|Ms|MS|miss|Miss|Mrs|mrs)"+"\\b");
Matcher m = p.matcher(name);
String namef = m.replaceAll(""); 
System.out.println(namef);
Run Code Online (Sandbox Code Playgroud)

对于上述程序,我收到输出为:.Dre,而期望的输出是:Dre

java regex

1
推荐指数
1
解决办法
760
查看次数