欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Oracle sql loader使用速成

程序员文章站 2022-05-06 14:31:43
...

Oracle SQL LOADER是Oracle的数据加载工具,用来将固定格式的文本文件中数据加载到Oracle数据库中。它提供了最快捷的加载途径(direct / parallel),是大数据快速加载的完美工具。在数据仓库应用中用得较多。我们介绍一下它的速成使用方法,快速掌握它。

 

(miki西游 @mikxiyou 原文链接: http://mikixiyou.iteye.com/blog/1738885 )

一、确定加载文件内容格式和文件的字符集编码


导入的文本文件有以txt或csv为后缀名的,它的编码方式通常有gb2312和utf8两种。
例如,csv文件的内容格式如下所示:

"admin","55de42146747ea457c2bab5064b7019c","webmastor@yourdomain.com","d0d8e1"
"huangomeng","2bdca6d6a6cb20f1f2483d0a9d13e621","huangomeng@163.com","145288"
"乐友","ee39f6b01424c1408d17d027da0b85a1","zhnaeu@yahoo.cn","a2fb84"
"贝龙","894a14224560a9792f0a21673642e2cc","50187908@163.com","583815"

 
每个字段是双引号括上,字段之间以逗号分隔开。基本上csv的格式都是这样。
另外,还注意不同的编码字符集,gb2312和utf8等字符集之间的区别要记住。在写sqlldr控制文件时需要用到。

二、编写正确的数据加载控制文件

加载字符集ZHS16GBK的文本文件的控制文件bb_11g.ctl的内容如下:

LOAD DATA
CHARACTERSET ZHS16GBK
INFILE 'D:\uc_members_20121130.csv'
BADFILE 'D:\uc_members_20121130.bad'
DISCARDFILE 'D:\uc_members_20121130.dsc'
truncate
into table T_USER_INFO
(USERNAME CHAR terminated by ',' OPTIONALLY ENCLOSED BY '"' ,
 PASSWD CHAR terminated by ',' OPTIONALLY ENCLOSED BY '"',
 EMAIL CHAR terminated by ',' OPTIONALLY ENCLOSED BY '"' ,
 SALT char terminated  by  whitespace OPTIONALLY ENCLOSED BY '"')

 
这里的字符集名称和数据库的字符集名称一致。如果字符集不匹配,在加载数据进入数据库后,你会发现中文或其他文件的都会是乱码。
如果数据库字符集是ALT32UTF8,那么需要将"CHARACTERSET ZHS16GBK"修改为"CHARACTERSET UTF8"。


字段分隔符说明:
terminated   by   x'09'       ,指字段以X'09' -- 制表符(TAB)分隔   
terminated   by  ','          ,指用逗号分隔 
terminated   by   whitespace ,指结尾以空白分隔   


三、使用sqlldr程序根据控制文件导入文本文件到数据库

在windows的cmd下执行sqlldr,实现数据快速加载。

sqlldr scott/tiger@elvdb_11g control=d:\bb_11g.ctl log=d:\dd_11g.log

 
在执行结束后,记住去检查log文件。日志文件会显示加载的详细信息。

SQL*Loader: Release 10.2.0.1.0 - Production on 星期五 11月 30 10:17:44 2012

Copyright (c) 1982, 2005, Oracle.  All rights reserved.

控制文件:      D:/bb_11g.ctl
为全部输入指定了字符集 ZHS16GBK。

数据文件:      D:\uc_members_20121130.csv
  错误文件:    D:\uc_members_20121130.bad
  废弃文件:    D:\uc_members_20121130.dsc
(可废弃所有记录)

要加载的数: ALL
要跳过的数: 0
允许的错误: 50
绑定数组: 64 行, 最大 256000 字节
继续:    未作指定
所用路径:       常规

表 T_USER_INFO,已加载从每个逻辑记录
插入选项对此表 TRUNCATE 生效

   列名                        位置      长度  中止 包装数据类型
------------------------------ ---------- ----- ---- ---- ---------------------
USERNAME                            FIRST     *   ,  O (") CHARACTER           
PASSWD                               NEXT     *   ,  O (") CHARACTER           
EMAIL                                NEXT     *   ,  O (") CHARACTER           
SALT                                 NEXT     *  WHT O (") CHARACTER           


表 T_USER_INFO:
  1132907 行 加载成功。
  由于数据错误, 0 行 没有加载。
  由于所有 WHEN 子句失败, 0 行 没有加载。
  由于所有字段都为空的, 0 行 没有加载。


为绑定数组分配的空间:                 66048 字节 (64 行)
读取   缓冲区字节数: 1048576

跳过的逻辑记录总数:          0
读取的逻辑记录总数:       1132907
拒绝的逻辑记录总数:          0
废弃的逻辑记录总数:        0

从 星期五 11月 30 10:17:44 2012 开始运行
在 星期五 11月 30 10:18:23 2012 处运行结束

经过时间为: 00: 00: 39.22
CPU 时间为: 00: 00: 06.16

 

从日志文件中可以看到,加载110万条记录,只要39秒。如果有错误或废弃的记录,可以到对应的文件中去查看一下。


四、注意事项
1、导入的文本文件有时候会很大,使用文本编辑工具可能很难打开。可以尝试一下vi。
2、导入的目标表上最好没有主键,没有索引,没有约束,使用nologging设置尽量减少日志生成量。
3、导入的文本文件最好所有的格式都是字符串或数字。如果是时间,需要将它和NSL_DATE_FORMAT保持一致。
4、对于LOB字段,sqlldr爱莫能助。

 

相关标签: oracle sql loader