machbarmacher/gdpr-dump

mysqldump 的替代品,可选择性对数据库字段进行清理以更好地符合 GDPR 规范。

dev-master 2019-08-04 08:06 UTC

This package is auto-updated.

Last update: 2024-09-10 01:38:11 UTC


README

mysqldump 的替代品,可选择性对数据库字段进行清理以更好地符合 GDPR 规范。

该项目基于 ifsnop/mysqldump-php 库,原则上可以导出 PDO 支持的任何数据库。

如何使用

目前有两种方式来处理数据,第一种是通过修改在服务器上实际运行的 SQL 查询(通过 gdpr-expressions 路径提供),第二种是在生成导出之前替换列输出(通过 gdpr-replacements 选项提供)。

$ ../vendor/bin/mysqldump drupal --host=mariadb --user=drupal --password=xxxxxxxx users_field_data --gdpr-expressions='{"users_field_data":{"name":"uid","mail":"uid","pass":"\"\""}}' --debug-sql
...
--
-- Dumping data for table `users_field_data`
--

/* SELECT `uid`,`langcode`,`preferred_langcode`,`preferred_admin_langcode`,uid as name,"" as pass,uid as mail,`timezone`,`status`,`created`,`changed`,`access`,`login`,uid as init,`default_langcode` FROM `users_field_data` */

INSERT INTO `users_field_data` VALUES (0,'en','en',NULL,'0','','0','',0,1523397207,1523397207,0,0,'0',1);
INSERT INTO `users_field_data` VALUES (1,'en','en',NULL,'1','','1','UTC',1,1523397207,1523397207,0,0,'1',1);

要混淆的字段通过 --gdpr-expressions 参数传递。请注意,我们使用 uid 表达式来满足唯一键。

不进行混淆的同一样式

$ ../vendor/bin/mysqldump drupal --host=mariadb --user=drupal --password=xxxxxxxx users_field_data --debug-sql
...
--
-- Dumping data for table `users_field_data`
--

/* SELECT `uid`,`langcode`,`preferred_langcode`,`preferred_admin_langcode`,`name`,`pass`,`mail`,`timezone`,`status`,`created`,`changed`,`access`,`login`,`init`,`default_langcode` FROM `users_field_data` */

INSERT INTO `users_field_data` VALUES (0,'en','en',NULL,'',NULL,NULL,'',0,1523397207,1523397207,0,0,NULL,1);
INSERT INTO `users_field_data` VALUES (1,'en','en',NULL,'admin','$S$Eb6kZl.9OFjoa69Z05pzUhaZJ6vpKaGZVpnjAxxLJ7ip0zOwanEV','admin@example.com','UTC',1,1523397207,1523397207,0,0,'admin@example.com',1);

使用 gdpr-replacements

这使用了 Faker 来进行大多数列清理。

目前,工具搜索 "gdpr-replacements" 选项,要么作为命令行参数传递,要么作为 MySql 选项文件 的一部分。

"gdpr-replacements" 选项期望一个以下格式的 JSON 字符串

{"tableName" : {"columnName1": {"formatter": "formatterType", ...}, {"columnName2": {"formatter": "formatterType"}, ...}, ...}

其中 formatterType 是以下之一

  • name - 生成一个名称
  • phoneNumber - 生成一个电话号码
  • username - 生成一个随机用户名
  • password - 生成一个随机密码
  • email - 生成一个随机电子邮件地址
  • date - 生成一个日期
  • longText - 生成一个句子
  • number - 生成一个数字
  • randomText - 生成一个句子
  • text - 生成一个段落
  • uri - 生成一个 URI
  • clear - 生成一个空字符串

这将用 Faker 输出替换指定列的值。

您还可以将替换映射保存到 JSON 文件中,并使用 --gdpr-replacements-file 选项使用它。

与 drush 一起使用

由于它与 mysqldump 类似,因此可以与 drush、backup_migrate 和任何使用 mysqldump 的工具一起使用。Drush 示例

$ export PATH=/var/www/html/vendor/bin:$PATH
$ which mysqldump
/var/www/html/vendor/bin/mysqldump
$ drush sql-dump --tables-list=users_field_data --extra-dump=$'--gdpr-expressions=\'{"users_field_data":{"name":"uid","mail":"uid","init":"uid","pass":"\\"\\""}}\' --debug-sql'

MySqlOptions 文件

您可以将 gdpr-expressions/replacement 选项设置在 mysql 选项文件中。它应该出现在 [mysqldump] 部分。

例如,您可能有 /etc/my.cnf,其内容如下

[mysqldump]
gdpr-replacements='{"fakertest":{"name": {"formatter":"name"}, "telephone": {"formatter":"phoneNumber"}}}'

状态和进一步开发

目前这是一个概念验证,旨在激发社区进程。特别是 --gdpr-expressions 选项既不便于人类编写,也不适合扩展。我们可能需要更好的选项。

贡献者说明

  • 请注意,该项目遵循 PSR-2 进行格式化。