小编Max*_*Max的帖子

您好我已经创建了一个spark数据帧,我正在尝试删除重复项:

df.drop_duplicates(subset='id')

我收到以下错误:

Py4JError: An error occurred while calling z:org.apache.spark.api.python.PythonUtils.toSeq. Trace:
py4j.Py4JException: Method toSeq([class java.lang.String]) does not exist
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:335)
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:360)
    at py4j.Gateway.invoke(Gateway.java:254)
    at py4j.commands.AbstractCommand.invokeMethod(AbstractCommand.java:133)
    at py4j.commands.CallCommand.execute(CallCommand.java:79)
    at py4j.GatewayConnection.run(GatewayConnection.java:209)
    at java.lang.Thread.run(Thread.java:745)

使用osx 10.11.4,火花1.6.1

我跑了这样一个jupyter笔记本

PYSPARK_DRIVER_PYTHON=jupyter PYSPARK_DRIVER_PYTHON_OPTS='notebook' pyspark

是否有其他一些我可能错过或出错的配置？

有没有一个函数可以让我们在 R 中生成所需包的列表？类似于“pip freeze”的东西，所以我们可以快速复制环境？

嗨文本挖掘冠军,

我在Windows 10上使用带有NLTK v3.2的Anaconda.(客户端的环境)

当我尝试POS标记时,我不断收到URLLIB2错误:

URLError: <urlopen error unknown url type: c>

看来urllib2无法识别Windows路径？我该如何解决这个问题？

该命令很简单:

nltk.pos_tag(nltk.word_tokenize("Hello World"))

编辑:有一个重复的问题,但我认为manan和alvas在这里得到的答案是一个更好的解决方案.