是否可以 mysqldump 重现查询所需的数据库子集?

Dav*_*uer 39 mysql mysqldump join backup select

背景

我想提供重现select查询所需的数据库子集。我的目标是使我的计算工作流程可重复(如可重复研究)。

有没有办法可以将这个 select 语句合并到一个脚本中,该脚本将查询的数据转储到一个新数据库中,这样数据库就可以安装在新的 mysql 服务器上,并且该语句可以与新数据库一起使用。除了查询中已使用的记录外,新数据库不应包含其他记录。

更新: 为了澄清起见,我对查询结果的 csv 转储不感兴趣。我需要能够做的是转储数据库子集,以便它可以安装在另一台机器上,然后查询本身可以重现(并且可以针对相同的数据集进行修改)。

例子

例如,我的分析可能会查询需要来自多个(在本例中为 3 个)表中的记录的数据子集:

select table1.id, table1.level, table2.name, table2.level 
       from table1 join table2 on table1.id = table2.table1_id 
       join table3 on table3.id = table2.table3_id
       where table3.name in ('fee', 'fi', 'fo', 'fum'); 
Run Code Online (Sandbox Code Playgroud)

Rol*_*DBA 57

mysqldump--where选项来为给定的表执行 WHERE 子句。

尽管 mysqldump 连接查询是不可能的,但您可以从每个表中导出特定的行,以便从每个表中提取的每一行都将参与稍后的连接。

对于给定的查询,您需要 mysqldump 三次:

首先,mysqldump 所有 table3 行中名称为 ('fee','fi','fo','fum'):

mysqldump -u... -p... --where="name in ('fee','fi','fo','fum')" mydb table3 > table3.sql
Run Code Online (Sandbox Code Playgroud)

接下来,从第一个 mysqldump 中 mysqldump 具有匹配 table3_id 值的所有 table2 行:

mysqldump -u... -p... --lock-all-tables --where="table3_id in (select id from table3 where name in ('fee','fi','fo','fum'))" mydb table2 > table2.sql
Run Code Online (Sandbox Code Playgroud)

然后,从第二个 mysqldump 中 mysqldump 具有匹配 table1_id 值的所有 table1 行:

mysqldump -u... -p... --lock-all-tables --where="id in (select table1_id from table2 where table3_id in (select id from table3 where name in ('fee','fi','fo','fum')))" mydb table1 > table1.sql
Run Code Online (Sandbox Code Playgroud)

注意:由于第二个和第三个 mysqldump 需要使用多个表,因此必须使用 --lock-all-tables

创建新数据库:

mysqladmin -u... -p... mysqladmin create newdb
Run Code Online (Sandbox Code Playgroud)

最后,将三个 mysqldump 加载到另一个数据库中并尝试在新数据库中连接。

mysql -u... -p... -D newdb < table1.sql
mysql -u... -p... -D newdb < table2.sql
mysql -u... -p... -D newdb < table3.sql
Run Code Online (Sandbox Code Playgroud)

在 mysql 客户端中,运行您的加入查询

mysql> use newdb
mysql> select table1.id, table1.level, table2.name, table2.level 
       from table1 join table2 on table1.id = table2.table1_id 
       join table3 on table3.id = table2.table3_id
       where table3.name in ('fee', 'fi', 'fo', 'fum'); 
Run Code Online (Sandbox Code Playgroud)

试一试 !!!

警告:如果索引不正确,第二个和第三个 mysqldumps 可能需要永远!!!

以防万一,索引以下列:

ALTER TABLE table2 ADD INDEX (table1_id);
ALTER TABLE table2 ADD INDEX (table3_id);
ALTER TABLE table3 ADD INDEX (name,id);
Run Code Online (Sandbox Code Playgroud)

我假设 id 是 table3 的主键。


ran*_*omx 7

我会考虑使用 'outfile'作为 SELECT 的一部分而不是 mysqldump 来解决这个问题。您可以生成您想要的任何 SELECT 语句,然后在末尾附加“INTO OUTFILE '/path/to/outfile.csv' ...”,并为 CSV 样式输出提供适当的配置。然后您可以简单地使用类似“ LOAD DATA INFILE ...”的语法将数据加载到您的新模式位置。

例如,使用您的 SQL:

select table1.id, table1.level, table2.name, table2.level 
       from table1 join table2 on table1.id = table2.table1_id 
       join table3 on table3.id = table2.table3_id
       where table3.name in ('fee', 'fi', 'fo', 'fum')
INTO OUTFILE '/tmp/fee-fi-fo-fum.csv'
FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'
LINES TERMINATED BY '\n'
; 
Run Code Online (Sandbox Code Playgroud)

请记住,目标磁盘分区上需要足够的可用存储空间。


Ric*_*ard 6

mysqldump实用程序有一个--tables 选项,可让您指定要转储的表。它允许您指定表列表。

我不知道有什么更简单(自动化)的方法。