小编Und*_*ood的帖子

PySpark投掷错误方法__getnewargs __([])不存在

我有一组文件.文件的路径保存在文件中,例如"all_files.txt".使用apache spark,我需要对所有文件进行操作并对结果进行处理.

我想要做的步骤是:

  • 通过读取"all_files.txt"创建RDD
  • 对于"all_files.txt"中的每一行(每行是某个文件的路径),将每个文件的内容读入一个RDD
  • 然后做一个操作所有内容

这是我为此写的代码:

def return_contents_from_file (file_name):
    return spark.read.text(file_name).rdd.map(lambda  r: r[0])

def run_spark():
    file_name = 'path_to_file'

    spark = SparkSession \
        .builder \
        .appName("PythonWordCount") \
        .getOrCreate()

    counts = spark.read.text(file_name).rdd.map(lambda r: r[0]) \ # this line is supposed to return the paths to each file
        .flatMap(return_contents_from_file) \ # here i am expecting to club all the contents of all files
        .flatMap(do_operation_on_each_line_of_all_files) # here i am expecting do an operation on each line of all files
Run Code Online (Sandbox Code Playgroud)

这是抛出错误:

第323行,在get_return_value中py4j.protocol.Py4JError:调用o25时发生错误.getnewargs.跟踪:py4j.Py4JException:方法 …

python flatmap apache-spark pyspark

16
推荐指数
2
解决办法
1万
查看次数

由于权限被拒绝,“kubectl cp”到 pod 失败

当我尝试将一个小文件复制到 Kubernetes pod 时,它失败并显示以下错误:

:~ $kubectl cp /tmp/a default/resolver-proxy-69dc786fcf-5rplg:/usr/local/bin/ --no-preserve=true
    tar: a: Cannot open: Permission denied
    tar: Exiting with failure status due to previous errors
    command terminated with exit code 2
Run Code Online (Sandbox Code Playgroud)

有人可以帮我解决这个问题吗?我在 minikube 上运行 Kubernetes。

由于类似的错误,我还看到另一个 Postgres Pod 处于 Error 状态:

:~ $kubectl logs postgres-7676967946-7lp9g postgres
tar: /var/lib/postgresql/data: Cannot open: Permission denied
tar: Error is not recoverable: exiting now
Run Code Online (Sandbox Code Playgroud)

copy-paste kubernetes google-kubernetes-engine kubectl minikube

11
推荐指数
1
解决办法
9425
查看次数

在服务器中托管 XSB Prolog

我想在服务器中托管 XSB Prolog。有人可以告诉我程序是什么吗?以下 git 链接解释了如何在服务器上托管 SWIPL,但同样不适用于 XSB https://github.com/SWI-Prolog/swish

非常感谢您的帮助。

web-applications prolog xsb server

5
推荐指数
1
解决办法
93
查看次数

Angular 2*ng不工作

以下是我的组件:

import { Component } from 'angular2/core';

@Component({
  selector: 'test',
  template: 
     `
      <ul >
        <li *ngFor="let t of test">
         <span >{{t}}</span>
        </li>
      </ul>
     `
})

export class TestComponent implements OnInit{
  test: string[];
  constructor(){
    this.test = ["Saab", "Volvo", "BMW"];
  }
}
Run Code Online (Sandbox Code Playgroud)

我尝试加载组件时收到以下错误:

  EXCEPTION: Template parse errors:
    Can't bind to 'ngFor' since it isn't a known native property ("<ul >
        <li [ERROR ->]*ngFor="let t of test">
            <span >{{t}}</span>
        </li>
    "): 
Run Code Online (Sandbox Code Playgroud)

另外,我不确定在导入Component时是否应该使用'@ angular/core'或'angular2/core'.

javascript ngfor angular

1
推荐指数
3
解决办法
2万
查看次数

Angular2:在回调函数内调用其他函数

我正在构建一个Angular2应用程序.我有一个异步函数deleteObjectmyService.它返回一个Promise.我在Component中调用了另一个函数refresh,它刷新了页面.如何从Promise内部调用refresh.这是我试过的:

export class AppComponent{

    refresh(){
        // refresh page here
    }

    delete(){
        this.myService.deleteObject(params).then(
           function(data){
             //this.refresh() doesn't work here.
        });
    }
}    
Run Code Online (Sandbox Code Playgroud)

javascript asynchronous asynccallback angular

0
推荐指数
1
解决办法
4522
查看次数