使用 Prometheus 监控短暂的 python 批处理作业进程

Question

如何使用 Prometheus 监控我的 python 进程（比如由 Cron 守护进程定期触发的一些脚本）？

请注意，这不是一个 Web 应用程序，而是一个由 Cron 守护程序定期启动的短暂进程。该脚本出现，完成其工作，然后终止。cron 守护进程每天多次启动相同的 python 脚本（大约 100k 次）。我想从该脚本的各种运行中捕获多个统计信息（例如，运行特定函数所需的时间、消耗的 CPU 和内存等）

Answer 1

您可能想看看Prometheus 的 Pushgateway：每当您的脚本完成时，它都可以推送它收集的指标（例如，函数调用花费的时间、总 CPU 利用率、峰值内存利用率等的直方图）。

您似乎是在说您的脚本大约每秒运行一次。我希望这意味着“每 300 个租户每 5 分钟一次”。在这种情况下，您可以使用tenant_id标签之类的东西推送指标，并且能够查看每个租户或聚合指标。

如果您的脚本使用相同的参数/配置每秒运行一次，那么您可能会丢失一些指标，因为多个脚本可能会在同一秒内终止，所有脚本都会推送其指标，并且只有最后一个脚本会被 Prometheus 收集（因为我相信你不能在 Prometheus 中设置低于 1 秒的收集间隔）。