shell脚本连接、读写、操作mysql数据库实例

本文介绍了如何在shell中读写mysql数据库。主要介绍了如何在shell 中连接mysql数据库，如何在shell中创建数据库，创建表，插入csv文件，读取mysql数据库，导出mysql数据库为xml或html文件， 并分析了核心语句。本文介绍的方法适用于postgresql ，相对mysql而言，shell 中读写postgresql会更简单些。

1. 连接mysql 数据库

shell中连接数据库的方法很简单，只需要指定用户名，密码，连接的数据库名称，然后通过重定向，输入mysql的语句，如下所示：

mysql -u username -p password databasename <<eof 2>/dev/null
    show databases;
eof

但这并不是一个好办法，任何使用该脚本的用户都能看到该数据库用户的账号和密码，要解决这个问题，可以用mysql 数据库的一个特殊配置文件。mysql 数据库使用$home/.my.cnf 文件来读取特殊的启动命令和设置。其中一项设置是由该用户账户发起的mysql 会话的默认密码。要在这个文件中设置默认密码，可以加入下面的内容：

[client]
password = 123456
然后，别忘了修改权限：
chmod 400  .my.cnf
这样就可以通过脚本访问mysql数据库了，如下所示：
#!/bin/bash
mysql=`which mysql`
$mysql test -u root << eof
show databases;
show tables;
select * from employees where salary > 4000;
eof

2. 创建数据库

通过上面的方法连接数据库，再通过重定向输入mysql语句，shell中读写mysql基本就介绍完了。只要把sql语句写对了，通过重定向执行即可，下面来看一个实例：

#!/bin/bash
##############################
# @file create_db_mysql.sh
# @brief create database and tables in mysql
# @author mingxing lai
# @version 0.1
# @date 2013-01-20
##############################
user="root"
database="students"
table="students"
######################
#crate database
mysql -u $user << eof 2>/dev/null
create database $database
eof
[ $? -eq 0 ] && echo "created db" || echo db already exists
######################
#create table
mysql -u $user $database << eof 2>/dev/null
create table $table(
id int,
name varchar(100),
mark int,
dept varchar(4)
);
eof
[ $? -eq 0 ] && echo "created table students" || echo "table students already exist"
######################
#delete data
mysql -u $user $database << eof 2>/dev/null
delete from $table;
eof

这个脚本比较简单，就是几条sql语句，没什么好解释的，下面来看一下，如何读入csv 文件，然后插入到mysql数据库中。

3. 插入csv 文件

上面创建了一个学生表，表中有学生的学号，姓名，成绩，系别，假设有一个csv文件，内容如下：

$cat data
1,navin m,98,cs
2,kavya n,70,cs
3,nawaz o,80,cs
4,hari s,80,ec
5,alex m,50,ec
6,neenu j,70,ec
7,bob a,30,ec
8,anu m,90,ae
9,sruthi,89,ae
10,andrew,89,ae

为了将csv 文件插入到数据库，我们需要逐行读入，然后给字符串加上双引号，最后生成语句如下：

insert into students values(1, "navin m", 98, "cs");

要解析csv 文件，最好的工具莫过于awk了，将域的分隔符指定为逗号-f,，awk就自动将各个域拆分出来了，然后在需要双引号的地方打印输出一个双引号，就能够轻松得到下面这样的数据：

1, "navin m", 98, "cs" awk 代码如下：
query=`echo $line | awk -f, '{ printf("%s,\"%s\",%s,\"%s\"", $1, $2, $3, $4)}'`
statement=`echo "insert into $table values($query);"`
echo $statement

当然了，你也可以用其他办法，不过，几乎没有比awk更简单的了，第2种方法如下：

oldifs=$ifs
ifs=,
values=($line)

values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""
values[3]="\"`echo ${values[3]}`\""

query=`echo ${values[@]} | tr ' #' ', '`
ifs=$oldifs

statement=`echo "insert into $table values($query);"`
echo "$statement"

首先通过指定域分隔符，将csv文件解析成一个数组，然后将空格替换成一个特殊的符号"#"（因为后面的替换中，会一次性输出数组，而数组是用空格分隔各字段,我们要将分隔数组的空格替换成逗号，所以这里将数据中的空格替换成"#"） ，给字符串加上双引号，最后再把空格替换成逗号，把"#"替换为空格。这种方法真是让人抓狂，我第一次就没有看明白，尤其是为什么要将空格替换成"#"。

完整的插入数据的程序如下：

#!/bin/bash
#
# @file write_to_db_mysql.sh
# @brief wirte data to database in mysql
# @author mingxing lai
# @version 0.1
# @date 2013-01-20
#

user="root"
database="students"
table="students"
if [ $# -ne 1 ]; then
    echo $0 datafile
    echo
    exit 2
fi
data=$1
while  read line;
do
#   query=`echo $line | awk -f, '{ printf("%s,\"%s\",%s,\"%s\"", $1, $2, $3, $4)}'`
    oldifs=$ifs
    ifs=,
    values=($line)
    values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""
    values[3]="\"`echo ${values[3]}`\""
    query=`echo ${values[@]} | tr ' #' ', '`
    ifs=$oldifs
    statement=`echo "insert into $table values($query);"`
#   echo $statement

mysql -u $user $database << eof
    insert into $table values($query);
eof
done < $data
if [[ $? -eq 0 ]]; then
    echo "wrote data into db"
fi

4. 读取数据

知道怎么在shell 中连接mysql ，也知道了怎么在shell中批量执行sql 语句，读取数据，就没有任何难度了。

#!/bin/bash
#
# @file read_db_mysql.sh
# @brief read data from mysql
# @author mingxing lai
# @version 0.1
# @date 2013-01-20
#

user="root"
database="students"
table="students"

#用tail 去掉表头
depts=`mysql -u $user $database <<eof | tail -n +2
select distinct dept from $table;
eof`

for d in $depts; do
    echo department: $d
    result="`mysql -u $user $database << eof
    set @i:=0;
    select @i:=@i+1 as rank, name, mark from students where dept="$d" order by mark desc;
eof`"

echo "$result"
echo
done

我们还可以在mysql语句中，使用选项来控制数据的输出格式

    -h 输出为html
    -x 输出为xml

如下所示：

#!/bin/bash
user="root"
database="students"
table="students"

mysql -u $user $database -h << eof
select * from $table
eof

html 格式的可读性比较差，输出效果如下：

<table border=1><tr><th>id</th><th>name</th><th>mark</th><th>dept</th></tr><tr><td>1</td><td>navin m</td><td>98</td><td>cs</td></tr><tr><td>2</td><td> kavya n</td><td>70</td><td>cs</td></tr><tr><td>3</td><td> nawaz o</td><td>80</td><td>cs</td></tr><tr><td>4</td><td>hari s</td><td>80</td><td>ec</td></tr><tr><td>5</td><td>alex m</td><td>50</td><td>ec</td></tr><tr><td>6</td><td>neenu j</td><td>70</td><td>ec</td></tr><tr><td>7</td><td>bob a</td><td>30</td><td>ec</td></tr><tr><td>8</td><td>anu m</td><td>90</td><td>ae</td></tr><tr><td>9</td><td>sruthi</td><td>89</td><td>ae</td></tr><tr><td>10</td><td>andrew</td><td>89</td><td>ae</td></tr></table>

可读性差也可以理解，因为人家觉得，你没必要修改么，直接以html形式展示数据就可以了。

id    name    mark    dept
1    navin m    98    cs
2    kavya n    70    cs
3    nawaz o    80    cs
4    hari s    80    ec
5    alex m    50    ec
6    neenu j    70    ec
7    bob a    30    ec
8    anu m    90    ae
9    sruthi    89    ae
10    andrew    89    ae

xml形式的数据显示就比较正常了，直接将上面的-h 换成-x,输出如下：

<?xml version="1.0"?>
<resultset statement="select * from students" xmlns:xsi="http://www.w3.org/2001/xmlschema-instance">
  <row>
    <field name="id">1</field>
    <field name="name">navin m</field>
    <field name="mark">98</field>
    <field name="dept">cs</field>
  </row>
  <row>
    <field name="id">2</field>
    <field name="name"> kavya n</field>
    <field name="mark">70</field>
    <field name="dept">cs</field>
  </row>
</resultset>

完。