GAE/NDB的响应时间是多少？

Question

我们目前正在构建一个小而简单的中央HTTP服务,将"外部身份"(如facebook id)映射到"内部(uu)id",这是我们所有服务中唯一的,以帮助进行分析.

"我们的堆栈"(flask + postgresql)中的第一个原型在一天内完成.但由于我们希望服务(几乎)永远不会失败并自动扩展,我们决定使用Google App Engine.

经过一周的阅读和尝试和基准测试后,这个问题出现了:

App Engine(使用NDB)的响应时间被视为"正常"？

我们的响应时间平均一直高于500毫秒,远远高于90%的1秒.

我在下面附上了我们代码的精简版,希望有人可以指出明显的缺陷.我们非常喜欢自动缩放和分布式存储,但我们无法想象500ms在我们的情况下确实是预期的性能.基于sql的原型响应速度更快(一致),使用免费的无缓存postgresql(即使使用ORM)托管在一个Heroku dyno上.

我们尝试了下面代码的同步和异步变体,并查看了appstats配置文件.它总是RPC调用(memcache和数据存储区)需要很长时间(50ms-100ms),因为总是存在多个调用(例如.mc.get()+ ds.get()+ ds.set( )写一个).我们还尝试尽可能地推迟到任务队列,没有明显的收益.

import json
import uuid

from google.appengine.ext import ndb

import webapp2
from webapp2_extras.routes import RedirectRoute


def _parse_request(request):
    if request.content_type == 'application/json':
        try:
            body_json = json.loads(request.body)
            provider_name = body_json.get('provider_name', None)
            provider_user_id = body_json.get('provider_user_id', None)
        except ValueError:
            return webapp2.abort(400, detail='invalid json')
    else:
        provider_name = request.params.get('provider_name', None)
        provider_user_id = request.params.get('provider_user_id', None)

    return provider_name, provider_user_id


class Provider(ndb.Model):
    name = ndb.StringProperty(required=True)


class Identity(ndb.Model):
    user = ndb.KeyProperty(kind='GlobalUser')


class GlobalUser(ndb.Model):
    uuid = ndb.StringProperty(required=True)

    @property
    def identities(self):
        return Identity.query(Identity.user==self.key).fetch()


class ResolveHandler(webapp2.RequestHandler):
    @ndb.toplevel
    def post(self):
        provider_name, provider_user_id = _parse_request(self.request)

        if not provider_name or not provider_user_id:
            return self.abort(400, detail='missing provider_name and/or provider_user_id')

        identity = ndb.Key(Provider, provider_name, Identity, provider_user_id).get()

        if identity:
            user_uuid = identity.user.id()
        else:
            user_uuid = uuid.uuid4().hex

            GlobalUser(
                id=user_uuid,
                uuid=user_uuid
            ).put_async()

            Identity(
                parent=ndb.Key(Provider, provider_name),
                id=provider_user_id,
                user=ndb.Key(GlobalUser, user_uuid)
            ).put_async()

        return webapp2.Response(
            status='200 OK',
            content_type='application/json',
            body = json.dumps({
                'provider_name' : provider_name,
                'provider_user_id' : provider_user_id,
                'uuid' : user_uuid
            })
        )

app = webapp2.WSGIApplication([
      RedirectRoute('/v1/resolve', ResolveHandler, 'resolve', strict_slash=True)
], debug=False)

为了完整起见(几乎默认)app.yaml

application: GAE_APP_IDENTIFIER
version: 1
runtime: python27
api_version: 1
threadsafe: yes

handlers:
- url: .*
  script: main.app

libraries:
- name: webapp2
  version: 2.5.2
- name: webob
  version: 1.2.3

inbound_services:
- warmup

Answer 1

根据我的经验，对于数据存储获取，RPC 性能会按数量级波动，在 5 毫秒到 100 毫秒之间。我怀疑这与 GAE 数据中心负载有关。有时情况会变得更好，有时会变得更糟。

你的操作看起来很简单。我预计如果有 3 个请求，大约需要 20 毫秒，但也可能长达 300 毫秒。不过，持续平均 500 毫秒听起来非常高。

ndb 在通过 ID 获取对象时会进行本地缓存。如果您访问相同的用户，那么这应该会启动，并且这些请求应该会快得多。

我假设您正在生产环境而不是 dev_appserver 上进行性能测试。dev_appserver 性能不具有代表性。

不确定您测试了多少次迭代，但您可能想尝试更大的数字，看看 500 毫秒是否真的是您的平均值。

当您在简单的 RPC 调用上受阻时，您无法进行太多优化。