小编sag*_*sag的帖子

获取矩阵的最后一个元素

考虑我有以下矩阵

M <- matrix(1:9, 3, 3)
M
#      [,1] [,2] [,3]
# [1,]    1    4    7
# [2,]    2    5    8
# [3,]    3    6    9
Run Code Online (Sandbox Code Playgroud)

我只是想找到最后一个元素即 M[3, 3]

由于此矩阵列和行大小是动态的,我们无法对其进行硬编码 M[3, 3]

如何获得最后一个元素的值?

目前我已经完成了以下代码

M[nrow(M), ncol(M)]
# [1] 9
Run Code Online (Sandbox Code Playgroud)

有没有更好的方法呢?

r matrix

7
推荐指数
1
解决办法
4055
查看次数

infer -chema in spark-csv包

当CSV作为spark中的数据帧读取时,所有列都将作为字符串读取.有没有办法获得实际的列类型?

我有以下csv文件

Name,Department,years_of_experience,DOB
Sam,Software,5,1990-10-10
Alex,Data Analytics,3,1992-10-10
Run Code Online (Sandbox Code Playgroud)

我已使用以下代码阅读了CSV

val df = sqlContext.
                  read.
                  format("com.databricks.spark.csv").
                  option("header", "true").
                  option("inferSchema", "true").
                  load(sampleAdDataS3Location)
df.schema
Run Code Online (Sandbox Code Playgroud)

所有列都读为字符串.我希望将years_of_experience列读作int和DOB作为日期读取

请注意,我已将选项inferSchema设置为true.

我使用的是spark-csv软件包的最新版本(1.0.3)

我在这里错过了什么吗?

scala apache-spark apache-spark-sql spark-csv

6
推荐指数
1
解决办法
2万
查看次数

获取队列而不提供其所有属性

我正在尝试为现有队列编写使用者.

RabbbitMQ在一个单独的实例中运行,名为"org-queue"的队列已经创建并绑定到交换机.org-queue是一个持久队列,它还有一些额外的属性.

现在我需要从这个队列接收消息.我使用下面的代码来获取队列的实例

conn = Bunny.new
conn.start
ch = conn.create_channel    
q = ch.queue("org-queue")
Run Code Online (Sandbox Code Playgroud)

它给我一个错误,说明不同的耐用性.默认情况下,Bunny使用的持久= false.所以我添加了持久的true作为参数.现在它说明了其他参数之间的区别.我是否需要指定所有参数才能连接到它?由于rabbitMQ由不同的环境维护,我很难获得所有属性.

有没有办法获取队列列表并在客户端中侦听所需的队列,而不是通过所有参数连接到队列.

ruby queue message-queue rabbitmq bunny

6
推荐指数
1
解决办法
174
查看次数

我如何获得Marketo中所有潜在客户的列表

我希望使用他们的Rest Apis获得Marketo的所有潜在客户.有没有办法做到这一点?我已经尝试过getLeadChanges api,但是只返回带有更改字段的潜在客户.

rest marketo

5
推荐指数
1
解决办法
2701
查看次数

如何在将JSON解析为映射时忽略特定字段

我想将下面的JSON解析为POJO.我用杰克逊来解析json.

{
  "totalSize": 4,
  "done": true,
  "records": [
    {
      "attributes": {
        "type": "oppor",
        "url": "/service/oppor/456"
      },
      "AccountId": "123",
      "Id": "456",
      "ProposalID": "103"
    }
  ]
}
Run Code Online (Sandbox Code Playgroud)

在上面的JSON中,字段"totalSize","done","records"和"attributes"是已知字段.鉴于"AccountId","Id"和"ProposalID"是未知字段.在上面的JSON中,我不需要"属性"成为我的bean对象的一部分.

这里是我的JSON的等效bean类

public class Result {
    private int totalSize;
    private boolean done;
    private List<Map<String, String>> records;

    public int getTotalSize() {
        return totalSize;
    }

    public void setTotalSize(int totalSize) {
        this.totalSize = totalSize;
    }

    public boolean isDone() {
        return done;
    }

    public void setDone(boolean done) {
        this.done = done;
    }

    public List<Map<String,String>> getRecords() {
        return records;
    } …
Run Code Online (Sandbox Code Playgroud)

java json jackson

5
推荐指数
1
解决办法
2万
查看次数

在本地测试使用IAM角色的应用程序

我有一个Java应用程序,可以在S3中添加文件。该应用程序正在EC2实例中运行。

我们正在使用IAM角色。因此,我们已将所需的IAM角色附加到此EC2实例。

一切都在那里完美。

但是我们也想在我的笔记本电脑上本地测试该应用程序。每当我需要测试时,都很难每次都将应用程序上载到EC2。

我们如何在不更改代码的情况下进行动态切换,以便可以在笔记本电脑(带有accesskey和secretKey)上对其进行测试,以及在EC2中使用IAM角色?

amazon-ec2 amazon-web-services amazon-iam

5
推荐指数
1
解决办法
2039
查看次数

如何在Google HTTP Client中增加ReadTimeout

我的应用程序在GAE中运行。此应用程序对我的CloudML进行REST调用。

这是该代码

GoogleCredential credential = GoogleCredential.getApplicationDefault()
        .createScoped(Collections.singleton(CLOUDML_SCOPE));
HttpTransport httpTransport = GoogleNetHttpTransport.newTrustedTransport();
HttpRequestFactory requestFactory = httpTransport.createRequestFactory(
        credential);
GenericUrl url = new GenericUrl(cloudMLRestUrl);

JacksonFactory jacksonFactory = new JacksonFactory();
JsonHttpContent jsonHttpContent = new JsonHttpContent(jacksonFactory, getPayLoad());

ByteArrayOutputStream baos = new ByteArrayOutputStream();

jsonHttpContent.setWrapperKey("instances");
jsonHttpContent.writeTo(baos);
LOG.info("Executing request... " + baos.toString());
HttpRequest request = requestFactory.buildPostRequest(url, jsonHttpContent);

HttpResponse response = request.execute();  
Run Code Online (Sandbox Code Playgroud)

上面的代码通常会导致ReadTimeout异常。

java.net.SocketTimeoutException: Read timed out at 
java.net.SocketInputStream.socketRead0(Native Method) ~[na:1.8.0_121] at 
java.net.SocketInputStream.socketRead(SocketInputStream.java:116) 
~[na:1.8.0_121] at 
java.net.SocketInputStream.read(SocketInputStream.java:171) ~[na:1.8.0_121] 
at 
Run Code Online (Sandbox Code Playgroud)

似乎我们可以添加具有自定义超时的HttpRequestInitializer,但是在创建HttpRequestFactory时我们需要传递GoogleCredential HttpRequestFactory requestFactory = httpTransport.createRequestFactory(GoogleCredential);

因此,我不能使用自定义HTTPRequestInitializer。如何增加使用GoogleCredential HTTPRequestInitializer创建的HttpRequestFactory的readTimeout?

java google-app-engine google-authentication google-http-client

5
推荐指数
1
解决办法
1023
查看次数

Spark支持融化和dcast

我们使用melt和dcast来转换宽 - >长 - 长 - >宽格式的数据.有关详细信息,请参阅http://seananderson.ca/2013/10/19/reshape.html.

scala或SparkR都可以.

我已经浏览了这个博客和scala函数以及R API.我没有看到做类似工作的功能.

Spark中有任何等效功能吗?如果没有,在Spark中有没有其他方法可以做到这一点?

scala r melt apache-spark spark-dataframe

4
推荐指数
1
解决办法
2504
查看次数

在没有 gcloud 的情况下克隆 Google 源代码库

我目前正在使用以下命令克隆 Google Cloud Source 存储库中存在的 git 存储库

gcloud source repos clone sample_repo --project=sample_project
Run Code Online (Sandbox Code Playgroud)

我可以在不使用 gcloud 的情况下克隆 Google Cloud Source Repository 中存在的 git 存储库吗?喜欢,

git clone https://source.developers.google.com/p/sample_project/r/sample_repo
Run Code Online (Sandbox Code Playgroud)

git gcloud google-cloud-source-repos

4
推荐指数
1
解决办法
1199
查看次数

在 Google Cloud Composer 中使用 json 文件导入变量

如何使用命令行将 json 文件导入 Google Cloud Composer?

我试过下面的命令

gcloud composer environments run comp-env --location=us-central1 variables -- --import composer_variables.json
Run Code Online (Sandbox Code Playgroud)

我收到以下错误

[2019-01-17 13:34:54,003] {configuration.py:389} INFO - Reading the config from /etc/airflow/airflow.cfg
[2019-01-17 13:34:54,117] {app.py:44} WARNING - Using default Composer Environment Variables. Overrides have not been applied.
Missing variables file.
Run Code Online (Sandbox Code Playgroud)

但是当我使用以下命令设置单个变量时,它工作正常。

gcloud composer environments run comp-env --location=us-central1 variables -- --set variable_name variable_value
Run Code Online (Sandbox Code Playgroud)

由于我要导入的变量超过 75 个,因此我们需要使用 json 文件导入它。请帮我解决这个问题

google-cloud-platform airflow google-cloud-composer

3
推荐指数
1
解决办法
2750
查看次数