我们正在尝试诊断 MySQL 瓶颈,特别是数据写入。基本上,我们有一个进程从文件夹中选取文件并使用LOAD DATA CONCURRENT INFILE
. 目前看来,我们生成的文件比 MySQL 可以使用的要多。具体来说,我们每分钟生成大约一百万行(所有文件加起来),我们的摄取率为每秒 15,000 行(900,000 次写入)(基于Show Engine INNODB Status
)。
表 X 有 31 列,其中 17 列是整数,12 个浮点数和 1 个字符 (10),相当简单。它还有一个自动增量整数列和时间戳(纪元)和自动增量的主键。柱子。
MySQL 实例信息(物理主机): 40 核,256 GB RAM,8 个 SSD 作为单个逻辑驱动器 (RAID 0) 我们同时使用 InnoDb 和 MYIASM,但我们试图优化写入的表驻留在 Innodb 中。
当前资源利用率: 10% CPU、50% 系统内存(已分配)、低磁盘利用率
MySQL Config: table_cache = 1000
thread_cache = 60
max_heap_table_size = 8192M
join_buffer_size = 256K
sort_buffer_size = 256K
query_cache_size = 512M
query_cache_limit = 512M
key_buffer_size = 8000M
bulk_insert_buffer_size = 2000M …
Run Code Online (Sandbox Code Playgroud)