网站建设资讯

NEWS

网站建设资讯

MySQL数据全量导入PG的方法-创新互联

下面会用到一个perl脚本来做数据格式的转换: https://github.com/ahammond/mysql2pgsql

让客户满意是我们工作的目标,不断超越客户的期望值来自于我们对这个行业的热爱。我们立志把好的技术通过有效、简单的方式提供给客户,将通过不懈努力成为客户在信息化领域值得信任、有价值的长期合作伙伴,公司提供的服务项目有:国际域名空间、虚拟主机、营销软件、网站建设、平顺网站维护、网站推广。

1 导出mysql的数据

# 导出结构
mysqldump bx_cmdb_37 --master-data=2  --skip-opt --default-character-set=utf8 --no-data --compact --skip-dump-date --set-gtid-purged=OFF > /tmp/struct.sql

# 导出数据
mysqldump bx_cmdb_37 --master-data=2  --skip-opt --default-character-set=utf8 --no-create-info  --compact --skip-dump-date --set-gtid-purged=OFF > /tmp/data.sql

2 使用perl脚本,将上一步骤中的2个sql转为pg格式的,命令类似如下

下载 到 /root/目录下
chmod +x /root/mysql2pgsql.perl

cd /tmp/

/root/mysql2pgsql.perl struct.sql struct_pg.sql
/root/mysql2pgsql.perl data.sql data_pg.sql

sed -i.bak 's# int # bigint #g' struct_pg.sql
sed -i.bak 's# smallint # int #g' struct_pg.sql
sed -i.bak 's# datetime(6) # timestamp #g' struct_pg.sql

做上面的几个sed替换操作的原因是: 这里我遇到几个问题(我下面的操作处理的不够优雅):
1 部分int unsigned的数据,perl脚本给转成了int signed,导致范围缩小了,后续插入数据可能溢出,因此我这里将全部建表语句中的int 替换为bigint
2 注意 datetime的列,在PG里面我们需要人工改成 timestamp 类型的,不然会报错
3 smallint 都改成 int类型,防止到PG中插入溢出

3 将文件导入到PG库中(注意可能有些不兼容的报错)

chown postgres.postgres /tmp/bbb.sql
psql --port 5434 -d testdb -f /tmp/bbb.sql   即可导入到PG的testdb库中

4 后续的增量数据同步,可以使用 go-mysql-postgresql来进行(下一篇blog介绍用法)

我们 导出data.sql 的时候, 已经带上 master-data了,很容易就知道最后复制的binlog位置。

## 参考  http://zhansq.cn/article/18-08-09/43.html

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


当前文章:MySQL数据全量导入PG的方法-创新互联
文章分享:http://njwzjz.com/article/ddgogg.html