使用 Scopus API 从 Scopus 获取作者的文章 (AUTHENTICATION_ERROR)

Bri*_*own 5 python web-crawler scopus

我已在http://www.developers.elsevier.com/action/devprojects注册。我创建了一个项目并获得了我的 scopus 密钥:

在此输入图像描述

现在,使用这个生成的密钥,我想找到firstnamelastname和的作者subjectarea。我从我的大学网络发出请求,该网络允许访问 Scopus(我可以完全手动访问 Scopus 搜索,从 Firefox 使用它没有问题)。然而,我想通过编写一个简单的脚本来自动化我的 Scopus 挖掘。我想通过提供作者的 、 和 来查找该作者firstnamelastname出版物subjectarea

这是我的代码:

# !/usr/bin/env python
# -*- coding: utf-8 -*-

import requests
import json
from scopus import SCOPUS_API_KEY


scopus_author_search_url = 'http://api.elsevier.com/content/search/author?'
headers = {'Accept':'application/json', 'X-ELS-APIKey': SCOPUS_API_KEY}
search_query = 'query=AUTHFIRST(%) AND AUTHLASTNAME(%s) AND SUBJAREA(%s)' % ('John', 'Kitchin', 'COMP')

# api_resource = "http://api.elsevier.com/content/search/author?apiKey=%s&" % (SCOPUS_API_KEY)

# request with first searching page
page_request = requests.get(scopus_author_search_url + search_query, headers=headers)
print page_request.url

# response to json
page = json.loads(page_request.content.decode("utf-8"))
print page
Run Code Online (Sandbox Code Playgroud)

看起来SCOPUS_API_KEY就像这样:SCOPUS_API_KEY="xxxxxxxx"

尽管我可以从大学网络完全访问 scopus,但我得到了这样的回应:

{u'service-error': {u'status': {u'statusText': u'请求者配置设置不足以访问此资源。', u'statusCode': u'AUTHENTICATION_ERROR'}}}

生成的链接如下所示:http://api.elsevier.com/content/search/author?query=AUTHFIRST(John)%20AND%20AUTHLASTNAME(Kitchin)%20AND%20SUBJAREA(COMP)当我单击它时,它显示一个 XML 文件:

<service-error><status>
  <statusCode>AUTHORIZATION_ERROR</statusCode>
  <statusText>No APIKey provided for request</statusText>
</status></service-error>
Run Code Online (Sandbox Code Playgroud)

或者,当我将 更改scopus_author_search_url为时"http://api.elsevier.com/content/search/author?apiKey=%s&" % (SCOPUS_API_KEY),我得到:

{u'service-error': {u'status': {u'statusText': u'Requestor configuration settings insufficient for access to this resource.', u'statusCode': u'AUTHENTICATION_ERROR'}}}和 XML 文件:

<service-error>
<status>
<statusCode>AUTHENTICATION_ERROR</statusCode>
<statusText>Requestor configuration settings insufficient for access to this resource.</statusText>
</status>
</service-error>
Run Code Online (Sandbox Code Playgroud)

导致此问题的原因是什么以及如何解决?

J R*_*ape 4

我刚刚注册了一个 API 密钥并首先使用以下 URL 进行了测试:

http://api.elsevier.com/content/search/author?apikey=4xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx43&query=AUTHFIRST%28John%29+AND+AUTHLASTNAME%28Kitchin%29+AND+SUBJAREA%28COMP%29

这在我的大学网络中运行良好。我还测试了第二个 API 密钥,因此已通过我的大学域上的注册网站验证了一个,另一个通过注册网站http://apitest.example.com验证,排除了用于注册的域名作为问题根源的可能性。

我测试了这个

  1. 在浏览器中,
  2. 将 python 代码与标头中的 api key 一起使用。我对您的代码所做的唯一更改是删除

    from scopus import SCOPUS_API_KEY
    
    Run Code Online (Sandbox Code Playgroud)

    并添加

    SCOPUS_API_KEY ='4xxxxxxxxxxxxxxxxxxxxxxxxxxxxx43'
    
    Run Code Online (Sandbox Code Playgroud)
  3. 使用适合将 apikey 放入 URL 而不是标头中的 Python 代码。

在所有情况下,查询都会返回两位作者,一位来自卡内基梅隆大学,一位来自帕洛阿尔托。

我无法复制您的错误消息。如果我尝试使用未在 elsevier 注册的 IP 地址(例如我的家用计算机)中的 API 密钥,我会看到不同的错误:

<service-error>
  <status>
    <statusCode>AUTHENTICATION_ERROR</statusCode>
    <statusText>Client IP Address: xxx.yyy.aaa.bbb does not resolve to an account</statusText>
   </status>
</service-error>
Run Code Online (Sandbox Code Playgroud)

如果我使用来自大学网络的随机(错误)API 密钥,我会看到

<service-error>
    <status>
        <statusCode>AUTHORIZATION_ERROR</statusCode>
        <statusText>APIKey <mad3upa1phanum3r1ck3y> with IP address <my.uni.IP.add> is unrecognized or has insufficient privileges for access to this resource</statusText>
    </status>
</service-error>
Run Code Online (Sandbox Code Playgroud)

调试步骤

由于我无法复制您的问题 - 以下是您可以用来解决问题的一些诊断步骤:

  1. 使用 uni 的浏览器实际提交 api 查询,并在 URL 中输入您的密钥(即复制上面的 URL,将其粘贴到地址栏中,替换您的密钥,然后查看是否返回 XML)

  2. 如果 1 返回您期望的 XML,请继续通过 Python 提交请求 - 首先,将确切的 URL 直接复制到 Python 中(不通过 进行变量替换%s,标头中没有 apikey),然后简单地.get()对其执行 a 操作。

  3. 如果 2 正确返回,请确保您SCOPUS_API_KEY持有准确的键值,不多也不少。即print 'SCOPUS_API_KEY'应该返回你的 apikey:4xxxxxxxxxxxxxxxxxxxxxxxxxxxxx43

  4. 如果 1 返回错误,则您的大学(无论出于何种原因)似乎无法访问作者查询 API。鉴于您可以执行手动搜索,这没有多大意义,但这就是我能得出的结论

文档

作为参考,认证算法文档在这里,但它并不是很容易理解。您正在遵循身份验证选项 1,并且您的方法应该可以正常工作。

注意 API每周仅限5000 个作者检索。如果您在循环中运行了很多查询,即使它们失败了,您也可能超出了这个范围......