FastAPI 中间件查看响应

Question

我尝试为 FastAPI 编写一个简单的中间件来查看响应主体。

在这个例子中，我只记录正文内容：

app = FastAPI()

@app.middleware("http")
async def log_request(request, call_next):
    logger.info(f'{request.method} {request.url}')
    response = await call_next(request)
    logger.info(f'Status code: {response.status_code}')
    async for line in response.body_iterator:
        logger.info(f'    {line}')
    return response

但是看起来我以这种方式“消耗”了身体，导致了这个异常：

  ...
  File ".../python3.7/site-packages/starlette/middleware/base.py", line 26, in __call__
    await response(scope, receive, send)
  File ".../python3.7/site-packages/starlette/responses.py", line 201, in __call__
    await send({"type": "http.response.body", "body": b"", "more_body": False})
  File ".../python3.7/site-packages/starlette/middleware/errors.py", line 156, in _send
    await send(message)
  File ".../python3.7/site-packages/uvicorn/protocols/http/httptools_impl.py", line 515, in send
    raise RuntimeError("Response content shorter than Content-Length")
RuntimeError: Response content shorter than Content-Length

尝试查看响应对象时，我看不到任何其他方式来读取其内容。正确的做法是什么？

Answer 1

我对 FastAPI 中间件也有类似的需求，虽然不理想，但我们最终得到的结果是：

app = FastAPI()

@app.middleware("http")
async def log_request(request, call_next):
    logger.info(f'{request.method} {request.url}')
    response = await call_next(request)
    logger.info(f'Status code: {response.status_code}')
    body = b""
    async for chunk in response.body_iterator:
        body += chunk
    # do something with body ...
    return Response(
        content=body,
        status_code=response.status_code,
        headers=dict(response.headers),
        media_type=response.media_type
    )

请注意，这样的实现在响应流式传输不适合您的服务器 RAM 的主体时存在问题（想象一下 100GB 的响应）。

根据您的应用程序的功能，您将决定它是否有问题。

在某些端点产生大量响应的情况下，您可能希望避免使用中间件，而是实现自定义 ApiRoute。这个自定义的 ApiRoute 在使用 body 时会有同样的问题，但你可以将它的使用限制在特定的端点上。

在https://fastapi.tiangolo.com/advanced/custom-request-and-route/了解更多信息

Answer 2

我知道这是一个相对较旧的帖子，但我最近遇到了这个问题并想出了一个解决方案：

中间件代码

from starlette.middleware.base import BaseHTTPMiddleware
from starlette.requests import Request
import json
from .async_iterator_wrapper import async_iterator_wrapper as aiwrap

class some_middleware(BaseHTTPMiddleware):
   async def dispatch(self, request:Request, call_next:RequestResponseEndpoint):
      # --------------------------
      # DO WHATEVER YOU TO DO HERE
      #---------------------------
      
      response = await call_next(request)

      # Consuming FastAPI response and grabbing body here
      resp_body = [section async for section in response.__dict__['body_iterator']]
      # Repairing FastAPI response
      response.__setattr__('body_iterator', aiwrap(resp_body)

      # Formatting response body for logging
      try:
         resp_body = json.loads(resp_body[0].decode())
      except:
         resp_body = str(resp_body)

async_iterator_wrapper代码 从 类型错误在Python 3异步for循环

class async_iterator_wrapper:
    def __init__(self, obj):
        self._it = iter(obj)
    def __aiter__(self):
        return self
    async def __anext__(self):
        try:
            value = next(self._it)
        except StopIteration:
            raise StopAsyncIteration
        return value

我真的希望这可以帮助某人！我发现这对记录非常有帮助。

非常感谢@Eddified 的 aiwrap 课程

Answer 3

这可以通过BackgroundTasks轻松完成（https://fastapi.tiangolo.com/tutorial/background-tasks/）

非阻塞，代码在响应发送到客户端后执行，非常容易添加。

只需获取该request对象并将其传递给后台任务即可。另外，在返回响应字典（或任何数据）之前，将其传递给后台任务。缺点是丢失了一部分response，只有返回的数据会传递给BT。

此外，另一个缺点是：必须将这些后台任务添加到每个端点。

例如

from fastapi import BackgroundTasks, FastAPI
from starlette.requests import Request

app = FastAPI()

async def log_request(request, response):
    logger.info(f'{request.method} {request.url}')
    logger.info(f"{response['message']}")


@app.post("/dummy-endpoint/")
async def send_notification(request: Request, background_tasks: BackgroundTasks):
    my_response = {"message": "Notification sent in the background"}
    background_tasks.add_task(log_request, request=request, response=my_response)
    return my_response