我使用gcloud来配置kubernetes集群,并使用容器引擎来实现.
除了生产集群,我想创建短期集群,用于测试等.
我希望有一个测试集群,并且能够按需停止/启动,而不是重新创建集群.试图在计算引擎上列出的vm实例上点击"停止" 将使它们最终重启.
停止和启动测试集群的正确方法是什么?
短期测试集群的动机来自成本考虑.
我正在运行一个用Scala 2.10.4编写并在Spark 1.4.0集群上运行的spark作业(基于HDFS并使用YARN管理)并在Maven存储库上使用Jackson模块版本2.6.1
在我的IDE(IntelliJ IDEA v14)本地运行代码时,一切都在内存群集上运行,但在我的远程群集(AWS VPC上的EMR群集)上运行作业时,我遇到以下异常:
java.lang.AbstractMethodError: com.company.scala.framework.utils.JsonParser$$anon$1.com$fasterxml$jackson$module$scala$experimental$ScalaObjectMapper$_setter_$com$fasterxml$jackson$module$scala$experimental$ScalaObjectMapper$$typeCache_$eq(Lorg/spark-project/guava/cache/LoadingCache;)V
at com.fasterxml.jackson.module.scala.experimental.ScalaObjectMapper$class.$init$(ScalaObjectMapper.scala:50)
at com.company.scala.framework.utils.JsonParser$$anon$1.<init>(JsonParser.scala:14)
at com.company.scala.framework.utils.JsonParser$.<init>(JsonParser.scala:14)
at com.company.scala.framework.utils.JsonParser$.<clinit>(JsonParser.scala)
at com.company.migration.Migration$.printAllKeys(Migration.scala:21)
at com.company.migration.Main$$anonfun$main$1.apply(Main.scala:22)
at com.company.migration.Main$$anonfun$main$1.apply(Main.scala:22)
at scala.collection.Iterator$$anon$13.hasNext(Iterator.scala:371)
at scala.collection.Iterator$$anon$11.hasNext(Iterator.scala:327)
at org.apache.spark.util.collection.ExternalSorter.insertAll(ExternalSorter.scala:199)
at org.apache.spark.shuffle.sort.SortShuffleWriter.write(SortShuffleWriter.scala:56)
at org.apache.spark.scheduler.ShuffleMapTask.runTask(ShuffleMapTask.scala:70)
at org.apache.spark.scheduler.ShuffleMapTask.runTask(ShuffleMapTask.scala:41)
at org.apache.spark.scheduler.Task.run(Task.scala:70)
at org.apache.spark.executor.Executor$TaskRunner.run(Executor.scala:213)
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
at java.lang.Thread.run(Thread.java:745)
Run Code Online (Sandbox Code Playgroud)
我试图查看网页上的例外,没有运气.我也尝试在这里找一个类似的问题,发现只有一个线程没有可接受的答案,没有一个答案帮助我.
希望在这里找到帮助,
谢谢.
我期待每15分钟定期建一次.我在网上看了,我正在使用这个时间表:*/15 * * * *
Jenkins告诉我通过使用H/15 * * * *而不是使用而均匀地分散负载*/15 * * * *
有人可以告诉我使用H而不是*?
例如,如果我使用命令,docker run -it alpine /bin/sh
它将启动一个终端,之后我可以安装软件包和所有软件包。现在,当我使用exit命令时,它会返回到终端。(主要一)
那么如何再次访问同一容器?当我再次运行该命令时,我得到了一个新的高山。
请帮忙
所以我有一个问题,我该如何排序这个列表:
['Pera','mela','arancia','UVA']
像这样:
['arancia','mela','Pera','UVA']
在练习中,它说使用sorted()带有 cmp 参数的函数。
我写了一个python脚本:
#!/usr/bin/env python
from kafka import KafkaConsumer
consumer = KafkaConsumer('dimon_tcpdump',group_id='zhg_group',bootstrap_servers='192.168.100.9:9092')
for msg in consumer:
print msg
# process mes here
Run Code Online (Sandbox Code Playgroud)
msg的输出就像:
ConsumerRecord(topic=u'ditopic', partition=0, offset=6280, timestamp=None, timestamp_type=None, key=None, value='myvalue')
Run Code Online (Sandbox Code Playgroud)
我知道输出是namedtuple形式。
我的问题是:如何获得特定领域的ConsumerRecord?例如,我想将值字符串分配给变量。
我正在寻找一个已经回答过的问题,但找不到,所以如果我以某种方式错过了它,请原谅我。
我正在使用 Google Books API,我知道我可以按特定类别搜索一本书。
我的问题是,如何从 API 获取所有可用类别?我查看了 API 文档,但找不到任何提及。
我有一个类似的python字典
{'JUL':15,'MAR': 54,'DEC':65,'OCT':90}
Run Code Online (Sandbox Code Playgroud)
我希望它根据月份来说排序,例如MAR,JUL,OCT和DEC在python中.
我该怎么做?
在下面的代码中,lastwhile循环中有什么作用?如果$matrix[$i][$j]{pointer}变量等于"none"它调用,我得到它,last但它做了什么?
另外为什么$ matrix变量包括使用花括号的得分和指针?{score},我把它看作数组中的第三维,但这是别的吗?无法在谷歌上找到任何关于此的内容.谢谢!
my @matrix;
$matrix[0][0]{score} = 0;
$matrix[0][0]{pointer} = "none";
#populate $matrix with more stuff
while (1) {
last if $matrix[$i][$j]{pointer} eq "none"; #<-what is this "last" doing?
#do some more stuff here
}
Run Code Online (Sandbox Code Playgroud) 我对 Python 很陌生,刚刚开始使用字典。我有以下问题:
给定以下字典:
{'Berlin': {'Country': 'Germany', 'Population': 3.502},
'New York': {'Country': 'USA', 'Population': 8.406},
'Munich': {'Country': 'Germany', 'Population': 1.388}, ... }
Run Code Online (Sandbox Code Playgroud)
我如何总结各国的人口?谢谢!
我正在获取json数据:
[
{
"name": "A",
"count": "2"
},
{
"name": "B",
"count": "1"
},
{
"name": "A",
"count": "3"
},
{
"name": "C",
"count": "10"
},
{
"name": "B",
"count": "2"
}
]
Run Code Online (Sandbox Code Playgroud)
所以我使用for循环,正常的东西迭代数据.但我想最终得到arraylist这样的结论:
Ç - > 7
A - > 5
乙 - > 3
请注意,list从最高到最低排序.到目前为止我尝试的是:
//create my arraylists
//has both name and count
ArrayList<String>namesWithCountList = new ArrayList<>();
//has only names
ArrayList<String>namesList = new ArrayList<>();
//get json array..
//iterate using for …Run Code Online (Sandbox Code Playgroud) 我正在编写 shell,无论我在哪一天运行,我都需要上周的日期。我在下面尝试过,但这些都以某种方式失败了。你能帮忙吗。
date --date='last Monday'
date --date='last week + last Thursday'
date --date='last week + last Monday'
Run Code Online (Sandbox Code Playgroud)
谢谢
python ×5
java ×2
alpine-linux ×1
apache-kafka ×1
apache-spark ×1
api ×1
arraylist ×1
cmp ×1
dictionary ×1
docker ×1
gcloud ×1
google-api ×1
google-books ×1
jackson ×1
jenkins ×1
linux ×1
list ×1
namedtuple ×1
perl ×1
scala ×1
shell ×1
sorted ×1
sorting ×1