使用scala运行spark工作,正如预期的那样,所有工作都按时完成,但不知何故,一些INFO日志在作业停止前打印20-25分钟.
发布少量UI截图,可以帮助解决问题.
我不明白为什么两个工作ID之间花了这么多时间.
以下是我的代码段:
val sc = new SparkContext(conf)
for (x <- 0 to 10) {
val zz = getFilesList(lin);
val links = zz._1
val path = zz._2
lin = zz._3
val z = sc.textFile(links.mkString(",")).map(t => t.split('\t')).filter(t => t(4) == "xx" && t(6) == "x").map(t => titan2(t)).filter(t => t.length > 35).map(t => ((t(34)), (t(35), t(5), t(32), t(33))))
val way_nodes = sc.textFile(way_source).map(t => t.split(";")).map(t => (t(0), t(1)));
val t = z.join(way_nodes).map(t => (t._2._1._2, Array(Array(t._2._1._2, t._2._1._3, t._2._1._4, t._2._1._1, t._2._2)))).reduceByKey((t, y) …Run Code Online (Sandbox Code Playgroud) 我能够使用keras成功训练我的有状态LSTM.我的批量大小为60,我在网络中发送的每个输入都可以被batch_size整除.以下是我的代码段:
model = Sequential()
model.add(LSTM(80,input_shape = trainx.shape[1:],batch_input_shape=(60,
trainx.shape[1], trainx.shape[2]),stateful=True,return_sequences=True))
model.add(Dropout(0.15))
model.add(LSTM(40,return_sequences=False))
model.add(Dense(40))
model.add(Dropout(0.3))
model.add(Dense(output_dim=1))
model.add(Activation("linear"))
keras.optimizers.RMSprop(lr=0.005, rho=0.9, epsilon=1e-08, decay=0.0)
model.compile(loss="mse", optimizer="rmsprop")
Run Code Online (Sandbox Code Playgroud)
我的训练线成功运行:
model.fit(trainx[:3000,:],trainy[:3000],validation_split=0.1,shuffle=False,nb_epoch=9,batch_size=60)
Run Code Online (Sandbox Code Playgroud)
现在我尝试预测测试集再次被60整除,但是我得到了错误:
ValueError:在有状态网络中,您应该只传递带有多个样本的输入,这些样本可以除以批量大小.发现:240个样本.批量:32.
谁能告诉我上面有什么问题?我很困惑,尝试了很多东西,但没有任何帮助.
android.view.InflateException: Binary XML file line #6: Error inflating class fragment
Run Code Online (Sandbox Code Playgroud)
我试图在各种教程之后的片段中实现Google Map apiv2,我遇到错误膨胀类片段,然后我在stackoverflow遇到了各种类似的问题,尝试了几乎所有问题,但问题仍然存在.我是android的新手,欢迎任何类型的提示,我想快速学习android开发,但我被卡住了.提前致谢.
编辑:当我从片段3转到片段2并且片段1在后台加载时,应用程序意外关闭.有什么想法可以解决这些问题?
我的android清单:
<?xml version="1.0" encoding="utf-8"?>
<manifest xmlns:android="http://schemas.android.com/apk/res/android"
package="com.example.hspot2"
android:versionCode="1"
android:versionName="1.0" >
<uses-sdk
android:minSdkVersion="11"
android:targetSdkVersion="18" />
<permission
android:name="com.example.hspot2.permission.MAPS_RECEIVE"
android:protectionLevel="signature" />
<uses-permission android:name="android.permission.ACCESS_NETWORK_STATE"/>
<uses-permission android:name="android.permission.INTERNET"/>
<uses-permission android:name="com.google.android.providers.gsf.permission.READ_GSERVICES" />
<uses-permission android:name="android.permission.WRITE_EXTERNAL_STORAGE"/>
<uses-permission android:name="android.permission.ACCESS_COARSE_LOCATION" />
<uses-permission android:name="android.permission.ACCESS_FINE_LOCATION" />
<!-- Required OpenGL ES 2.0. for Maps V2 -->
<uses-feature
android:glEsVersion="0x00020000"
android:required="true" />
<application
android:allowBackup="true"
android:icon="@drawable/ic_launcher"
android:label="@string/app_name"
android:theme="@style/AppTheme" >
<activity
android:name="com.example.hspot2.MainActivity"
android:label="@string/app_name" >
<intent-filter>
<action android:name="android.intent.action.MAIN" />
<category android:name="android.intent.category.LAUNCHER" />
</intent-filter>
</activity>
<meta-data …Run Code Online (Sandbox Code Playgroud) 我正在尝试设置自定义适配器以使用列表视图上的演示聊天应用程序向用户显示消息,但在我的自定义列表适配器的getView方法中接收错误.
错误在线:
holder.message.setText("lol");
Run Code Online (Sandbox Code Playgroud)
我的自定义适配器的getView()可能出现什么错误?感谢任何提示和帮助提前.
我的定制适配器:
import java.util.ArrayList;
import android.content.Context;
import android.support.v4.view.ViewPager.LayoutParams;
import android.util.Log;
import android.view.Gravity;
import android.view.LayoutInflater;
import android.view.View;
import android.view.ViewGroup;
import android.widget.BaseAdapter;
import android.widget.TextView;
public class ChattingAdapter extends BaseAdapter{
private Context mContext;
private ArrayList<ChatMessage> mMessages;
public ChattingAdapter(Context context, ArrayList<ChatMessage> messages) {
super();
this.mContext = context;
this.mMessages = messages;
}
@Override
public int getCount() {
return mMessages.size();
}
@Override
public Object getItem(int position) {
return mMessages.get(position);
}
@Override
public View getView(int position, View convertView, ViewGroup parent) {
ChatMessage message …Run Code Online (Sandbox Code Playgroud) 有没有办法在Spark MLlib中运行K-Means时初始化集群中心?
我试过以下:
model = KMeans.train(
sc.parallelize(data), 3, maxIterations=0,
initialModel = KMeansModel([(-1000.0,-1000.0),(5.0,5.0),(1000.0,1000.0)]))
Run Code Online (Sandbox Code Playgroud)
initialModel并且setInitialModel不存在于spark-mllib_2.10中
我正在使用ubuntu并按照说明使用'apt-get isntall cakephp-scripts'
我正在使用最新稳定版本的蛋糕v 2.2.1,但是当我运行蛋糕烘焙-app时,我总是得到v1.3.2的控制台
为什么我要在cakephp v 2.2.1上获得CakePHP v1.3.2控制台
a = 100000000
c = (2**(a-1))-1
b = (2<<(a-1))-1
m = 1000000007
print b%m
print c%m
Run Code Online (Sandbox Code Playgroud)
输出:
494499947
247249973
Run Code Online (Sandbox Code Playgroud)
我在python中使用**和<<运算符来查找非常大的2的幂.但是,类似的操作会产生不同 只是好奇为什么?
虽然我正在为其中一个问题创建节点,但我陷入困境,经过文档后我意识到我无法找到节点的多值属性赋值
例如:节点1有属性网站访问,因为它不能是一个网站,如何添加属性到节点1"网站",这样它可以采取两个值,如www.abc.com www.def.com
node1["websites"] = "www.abc.com" "www.def.com"
Run Code Online (Sandbox Code Playgroud)
这样,在访问节点的每个属性时,可以单独访问节点属性中的每个网站.
谢谢你的时间 !
我试图使用正则表达式来指定模式,但是替换也会替换想要的字符.在这种情况下,指定边界没有帮助.
String name = "Dr.Dre" ;
Pattern p = Pattern.compile("(Mr.|MR.|Dr.|mr.|DR.|dr.|ms.|Ms.|MS.|Miss.|Mrs.|mrs.|miss.|MR|mr|Mr|Dr|DR|dr|ms|Ms|MS|miss|Miss|Mrs|mrs)"+"\\b");
Matcher m = p.matcher(name);
StringBuffer sb = new StringBuffer();
String namef = m.replaceAll("");
System.out.println(namef);
Run Code Online (Sandbox Code Playgroud)
输入:Dr.Dre或Dr. Dre或Dr. Dre
编辑:
感谢您的帮助,但我面临的正则表达式问题很少:程序:
String name = "Dr. Dre" ;
Pattern p = Pattern.compile("(Mr\\.|MR\\.|Dr\\.|mr\\.|DR\\.|dr\\.|ms\\.|Ms\\.|MS\\.|Miss\\.|Mrs\\.|mrs\\.|miss\\.|MR|mr|Mr|Dr|DR|dr|ms|Ms|MS|miss|Miss|Mrs|mrs)"+"\\b");
Matcher m = p.matcher(name);
String namef = m.replaceAll("");
System.out.println(namef);
Run Code Online (Sandbox Code Playgroud)
对于上述程序,我收到输出为:.Dre,而期望的输出是:Dre
android ×2
apache-spark ×2
amazon-s3 ×1
bit-shift ×1
cakephp ×1
cakephp-2.1 ×1
cakephp-bake ×1
exponent ×1
java ×1
keras ×1
listadapter ×1
lstm ×1
neo4j ×1
nosql ×1
python ×1
regex ×1
rnn ×1
scala ×1
tensorflow ×1