关于 MongoDB 与 SQL Server 通过本身自带工具实现数据快速迁移 及 注意事项 的探究

背景介绍

随着业务的发展、需求的变化，促使我们追求使用不同类型的数据库，充分发挥其各自特性。如果决定采用新类型的数据库，就需要将既有的数据迁移到新的数据库中。在这类需求中，将sql server中的数据导入到mongodb 中显得尤为突出。

面对这种需求，大家优先想到的就是百度查找第三方工具，可惜截止目前，还没有一款公认比较满意的数据迁移工具。百度不到，大家可能就要回头自己开发了。如此，更是花费不少人力物力和宝贵的精力。甚至，由于没有理想的迁移工具，导致项目优化一再延迟。

其实，你原本不必如此！因为，还有一个工具，并且性能还傲视群雄。

那就是充分挖掘数据库自身的导出导入功能。

 

原理

 

mongodb数据库 可以通过mongoexport/mongoimport命令进行数据的导出导入，并且支持文件csv格式；

sql server 数据库 一样可以进行导出导入【“任务”—>导出数据/导入数据】，其数据一样可以保存到csv文件中。

 

那么，我们是不是可以借助 csv文件，在这两种数据库间进行数据迁移呢？

答案是肯定的！答案是肯定的！答案是肯定的！

此外，数据直接导出导入，性要比其它工具快一个数量级。

即：通过sql server 和 mongodb 本身自带的 导入导出功能 ，可以实现数据的快速迁移。

 

 将sql server中的数据导入到mongodb中

 

step 1 选择指定数据库，进行【导出数据】

step 2  选择导出的数据源信息

因在sql server 服务器上执行，服务器名称可选择本地（. 即可），身份认证可以使用window身份验证（如sql server 禁用了此window登入方式，那么就要使用sql server 身份验证），然后，选择数据库。

 

step 3 选择导出目标（此为关键步骤）

目标一定要选择 【平面文件目标】

 

为 导出文件命名 选择 【浏览】，在打开的 界面上 选择导出文件类型【csv 文件（*.csv）】

例如，文件命名为sqltomongodb01

 

点击 【下一步】

step 4  指定表复制 或 查询

可以指定从数据源复制一个或多个表和视图，还是通过 t_sql 语句从数据源中复制查询结（可以指定选择列 或对列二次加工后的数据）。

step 5  配置平面文件目标

在这一步选择要导出的表或视图

如果想对 field 字段 进行修改，可以选择 【编辑映射】

对想要修改的列命进行重命名，例如 将sql server 中的 areacode 命名 而在mongodb中命名为 areacodemongodb

然后 点击 【下一步】

step 6 保存并运行包

直接点击 【下一步】

 

step 7 完成该向导

直接点击 【完成】

 

数据导出成功

导出数据773838 笔数据。

 

step 8 将产生的文件copy至 mongodb 服务器上

 

step 9 在mongodb 服务器上 执行 mongoimport 命令， 将从 sql server 导出的csv 数据导入到mongodb中。

执行命令 为

/data/mongodb/mongobin344/bin/mongoimport --file /data/mongodb_back/sqltomongodb01.csv  -h 172.x.x.xxx --port 端口  --type csv --headerline -u 用户名 -p '密码' -d testdba0906 --authenticationdatabase 认证数据库 -c sqltomongodb01

执行成功，导入数据 773838 个文档。并且可以看到很快，不到15s。

 此部分 测试验证ok！

 

将 mongodb中的数据导入的sql server 中

 

step 1 使用 mongoexport 将mongodb数据库中的数据导出

执行命令

/data/mongodb/mongobin344/bin/mongoexport   -h 172.x.x.x --port 端口  --type csv  -u 用户名 -p '密码' -d testdba0906 --authenticationdatabase 认证数据库  -c sqltomongodb01  -f 字段1,字段2,字段3,字段4,字段5 -o  /data/mongodb_back/mongodbtosql.csv 

 

step 2  将从mongodb中导出的csv 文件上传到 sql server 服务器上。

 

step 3 将csv 文件导入到sql server中

（此过程，不是本文章的重点，所以不再详细说明，只指出关键步骤。）

选择数据源，请选择【平面文件源】

选择源表和源视图 【可以通过编辑映射，修改列名，修改字段类型，修改字段长度】

 

step 4  数据导出成功

检查数据量和源表数据一致。

此部分 测试验证ok！

 

注意事项

 

注意1： 因为 mongoimport 导入的文件默认是json 格式，所以csv 文件，一定要在命令中指明 --type csv

否则，就无法识别文件中的数据。报错信息：

failed: error processing document #1: invalid character 'x' looking for beginning of value

（x代表文件中的第一个字符）

注意 2 ：  mongoimport 导入的csv文件，一定要执行 –headerline 参数，指明不导入第一行。csv格式的文件第一行为列名。

否则 ，提示一定要指明字段属性，报错信息：

error validating settings: must specify --fields, --fieldfile or --headerline to import this file type

注意 3 ：csv 文件的列数据中不可以包含“” （中文双引号）。

否则，当导入此行数据时，提示错误信息

failed: read error on entry #xxxx: line xxxx, column 110: bare " in non-quoted-field

注意 4： 如果数据中含有中文，需检查导入后是否变成了乱码。

为防止乱码，需要将csv文档改成utf-8的编码方式即可。例如使用edit with notepad ++ 编辑器打开文件，另存为utf-8就可以了。

注意 5：mongodb导出csv格式一定要通过 –f 参数 指明字段名，负责报错：

failed: csv mode requires a field list。

注意 6：mongodb db 数据模式*，并且文档可以内嵌，所以将mongodb中的数据导入到sql server 比较困难，特别是含有中文语句时。

注意 7 : sql server 导出数据时，字段数据中不可以包含nchar(9)、nchar(32)、nchar(160) 等特殊字符，否则，在导出数据生成csv文件时报错。

 

本文版权归作者所有，未经作者同意不得转载,谢谢配合！！！