Clickhouse表引擎之MySQL
程序员文章站
2022-03-30 09:29:26
MySQL表引擎可以与MySQL数据库中的数据表简历映射,并通过SQL向其发起远程查询。MySQL表引擎可以与物化视图结合,来同步更新MySQL数据库中的数据。语法:CREATE TABLE [IF NOT EXISTS] [db.]table_name [ON CLUSTER cluster]( name1 [type1] [DEFAULT|MATERIALIZED|ALIAS expr1] [TTL expr1], name2 [type2] [DEFAULT|MATERI...
MySQL表引擎可以与MySQL数据库中的数据表简历映射,并通过SQL向其发起远程查询。
MySQL表引擎可以与物化视图结合,来同步更新MySQL数据库中的数据。
语法:
CREATE TABLE [IF NOT EXISTS] [db.]table_name [ON CLUSTER cluster]
(
name1 [type1] [DEFAULT|MATERIALIZED|ALIAS expr1] [TTL expr1],
name2 [type2] [DEFAULT|MATERIALIZED|ALIAS expr2] [TTL expr2],
...
) ENGINE = MySQL('host:port', 'database', 'table', 'user', 'password'[, replace_query, 'on_duplicate_clause']);
解释:
host:port MySQL服务器的地址和端口
database MySQL中的数据库名
table 表示需要映射的MySQL表名称
user mysql的用户名
password mysql的用户名对应的密码
replace_query 默认为0,对应于MySQL的REPLACE INTO 语法;若为1则会用replace into 代替insert into
on_duplicate_clause 默认为0 对应MySQL的 ON DUPLICATE KEY语法,若需要使用该设置则必须将replace——query 设置为0.
示例:
-- 1. 在MySQL中创建表定义和加入数据:
mysql> select version();
+-----------+
| version() |
+-----------+
| 8.0.20 |
+-----------+
1 row in set (0.01 sec)
mysql> show create table t_org\G
*************************** 1. row ***************************
Table: t_org
Create Table: CREATE TABLE `t_org` (
`ID` int NOT NULL AUTO_INCREMENT,
`org_code` varchar(8) DEFAULT NULL,
`org_name` varchar(32) DEFAULT NULL,
`lastmodifytime` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
PRIMARY KEY (`ID`)
) ENGINE=InnoDB AUTO_INCREMENT=6 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
1 row in set (0.00 sec)
插入数据:
insert into t_org(org_code,org_name)values('A01','研发部'),('A02','产品部'),('A03','测试部'),('A04','数据部'),('A05','运维部');
2.在clickhouse中对MySQL表引擎建立映射:
Clickhouse> create table t_org(ID UInt32,org_code String,org_name String,LASTMODIFYTIME Datetime)ENGINE=MySQL('192.168.8.110:3306','datasets','t_org','root','oracle');
CREATE TABLE t_org
(
`ID` UInt32,
`org_code` String,
`org_name` String,
`LASTMODIFYTIME` Datetime
)
ENGINE = MySQL('192.168.8.110:3306', 'datasets', 't_org', 'root', 'oracle')
Ok.
0 rows in set. Elapsed: 0.002 sec.
注意:
1.MySQL 中的Decimal(p,s) 类型在Clickhouse中的定义的差异
2.clickhouse的数据库引擎 ENGINE = MySQL 这里的MySQL必须要是MySQL
否则报错信息:
Received exception from server (version 20.4.5):
Code: 56. DB::Exception: Received from localhost:9000. DB::Exception: Unknown table engine Mysql. Maybe you meant: ['MySQL'].
查看表的定义:
Clickhouse> desc t_org;
DESCRIBE TABLE t_org
┌─name───────────┬─type─────┬─default_type─┬─default_expression─┬─comment─┬─codec_expression─┬─ttl_expression─┐
│ ID │ UInt32 │ │ │ │ │ │
│ org_code │ String │ │ │ │ │ │
│ org_name │ String │ │ │ │ │ │
│ LASTMODIFYTIME │ DateTime │ │ │ │ │ │
└────────────────┴──────────┴──────────────┴────────────────────┴─────────┴──────────────────┴────────────────┘
4 rows in set. Elapsed: 0.002 sec.
-- 查询clickhouse的定义:
Clickhouse> select * from t_org;
SELECT *
FROM t_org
┌─ID─┬─org_code─┬─org_name─┬──────LASTMODIFYTIME─┐
│ 1 │ A01 │ 研发部 │ 2020-07-06 15:13:46 │
│ 2 │ A02 │ 产品部 │ 2020-07-06 15:13:46 │
│ 3 │ A03 │ 测试部 │ 2020-07-06 15:13:46 │
│ 4 │ A04 │ 数据部 │ 2020-07-06 15:13:46 │
│ 5 │ A05 │ 运维部 │ 2020-07-06 15:13:46 │
└────┴──────────┴──────────┴─────────────────────┘
5 rows in set. Elapsed: 0.007 sec.
在MySQL 中插入新的数据:
insert into t_org(org_code,org_name)values('A06','销售部'),('A07','人力部');
在clickhouse中查询:
Clickhouse> select * from t_org;
SELECT *
FROM t_org
┌─ID─┬─org_code─┬─org_name─┬──────LASTMODIFYTIME─┐
│ 1 │ A01 │ 研发部 │ 2020-07-06 15:13:46 │
│ 2 │ A02 │ 产品部 │ 2020-07-06 15:13:46 │
│ 3 │ A03 │ 测试部 │ 2020-07-06 15:13:46 │
│ 4 │ A04 │ 数据部 │ 2020-07-06 15:13:46 │
│ 5 │ A05 │ 运维部 │ 2020-07-06 15:13:46 │
│ 6 │ A06 │ 销售部 │ 2020-07-06 15:22:28 │
│ 7 │ A07 │ 人力部 │ 2020-07-06 15:22:28 │
└────┴──────────┴──────────┴─────────────────────┘
7 rows in set. Elapsed: 0.005 sec.
数据已经和MySQL中的数据一样。
在MySQL中更新数据:
mysql> update t_org set org_name='财务部' where org_code='A07';
Query OK, 1 row affected (0.00 sec)
Rows matched: 1 Changed: 1 Warnings: 0
mysql> select * from t_org;
+----+----------+-----------+---------------------+
| ID | org_code | org_name | lastmodifytime |
+----+----------+-----------+---------------------+
| 1 | A01 | 研发部 | 2020-07-06 15:13:46 |
| 2 | A02 | 产品部 | 2020-07-06 15:13:46 |
| 3 | A03 | 测试部 | 2020-07-06 15:13:46 |
| 4 | A04 | 数据部 | 2020-07-06 15:13:46 |
| 5 | A05 | 运维部 | 2020-07-06 15:13:46 |
| 6 | A06 | 销售部 | 2020-07-06 15:22:28 |
| 7 | A07 | 财务部 | 2020-07-06 15:24:10 |
+----+----------+-----------+---------------------+
7 rows in set (0.00 sec)
在Clickhouse中查询:
Clickhouse> select * from t_org;
SELECT *
FROM t_org
┌─ID─┬─org_code─┬─org_name─┬──────LASTMODIFYTIME─┐
│ 1 │ A01 │ 研发部 │ 2020-07-06 15:13:46 │
│ 2 │ A02 │ 产品部 │ 2020-07-06 15:13:46 │
│ 3 │ A03 │ 测试部 │ 2020-07-06 15:13:46 │
│ 4 │ A04 │ 数据部 │ 2020-07-06 15:13:46 │
│ 5 │ A05 │ 运维部 │ 2020-07-06 15:13:46 │
│ 6 │ A06 │ 销售部 │ 2020-07-06 15:22:28 │
│ 7 │ A07 │ 财务部 │ 2020-07-06 15:24:10 │
└────┴──────────┴──────────┴─────────────────────┘
7 rows in set. Elapsed: 0.003 sec.
通过clickhouse查询远程的数据 可以看到数据一样发生了变化。
---delete 操作:
mysql> delete from t_org where org_code='A07';
Query OK, 1 row affected (0.00 sec)
mysql> select * from t_org where org_code='A07';
Empty set (0.00 sec)
Clickhouse> select * from t_org;
SELECT *
FROM t_org
┌─ID─┬─org_code─┬─org_name─┬──────LASTMODIFYTIME─┐
│ 1 │ A01 │ 研发部 │ 2020-07-06 15:13:46 │
│ 2 │ A02 │ 产品部 │ 2020-07-06 15:13:46 │
│ 3 │ A03 │ 测试部 │ 2020-07-06 15:13:46 │
│ 4 │ A04 │ 数据部 │ 2020-07-06 15:13:46 │
│ 5 │ A05 │ 运维部 │ 2020-07-06 15:13:46 │
│ 6 │ A06 │ 销售部 │ 2020-07-06 15:22:28 │
└────┴──────────┴──────────┴─────────────────────┘
6 rows in set. Elapsed: 0.004 sec.
--- 使用雾化视图:
Clickhouse> create materialized view mv_t_org engine=MergeTree() order by ID as select * from t_org;
CREATE MATERIALIZED VIEW mv_t_org
ENGINE = MergeTree()
ORDER BY ID AS
SELECT *
FROM t_org
Ok.
0 rows in set. Elapsed: 0.004 sec.
结论:
截止20.4.4.+ 版本已经支持MySQL表引擎的INSERT,UPDATE,DELETE操作。
MySQL函数:
可以使用MySQL 表函数:
Clickhouse> create table t_org_new (ID UInt32,org_code String,org_name String,LASTMODIFYTIME Datetime)ENGINE=MySQL('192.168.8.110:3306','datasets','t_org','root','oracle');
CREATE TABLE t_org_new
(
`ID` UInt32,
`org_code` String,
`org_name` String,
`LASTMODIFYTIME` Datetime
)
ENGINE = MySQL('192.168.8.110:3306', 'datasets', 't_org', 'root', 'oracle')
Ok.
0 rows in set. Elapsed: 0.003 sec.
DESCRIBE TABLE t_org_new
┌─name───────────┬─type─────┬─default_type─┬─default_expression─┬─comment─┬─codec_expression─┬─ttl_expression─┐
│ ID │ UInt32 │ │ │ │ │ │
│ org_code │ String │ │ │ │ │ │
│ org_name │ String │ │ │ │ │ │
│ LASTMODIFYTIME │ DateTime │ │ │ │ │ │
└────────────────┴──────────┴──────────────┴────────────────────┴─────────┴──────────────────┴────────────────┘
4 rows in set. Elapsed: 0.002 sec.
Clickhouse> select * from t_org_new;
SELECT *
FROM t_org_new
┌─ID─┬─org_code─┬─org_name─┬──────LASTMODIFYTIME─┐
│ 1 │ A01 │ 研发部 │ 2020-07-06 15:13:46 │
│ 2 │ A02 │ 产品部 │ 2020-07-06 15:13:46 │
│ 3 │ A03 │ 测试部 │ 2020-07-06 15:13:46 │
│ 4 │ A04 │ 数据部 │ 2020-07-06 15:13:46 │
│ 5 │ A05 │ 运维部 │ 2020-07-06 15:13:46 │
│ 6 │ A06 │ 销售部 │ 2020-07-06 15:22:28 │
│ 8 │ A10 │ 法务部 │ 2020-07-06 15:34:09 │
│ 9 │ A11 │ 设计部 │ 2020-07-06 15:34:09 │
└────┴──────────┴──────────┴─────────────────────┘
8 rows in set. Elapsed: 0.008 sec.
这种表函数的方式只能获取截止当个时刻的表数据。不能获得update和delete和新insert的数据。
参考:
https://clickhouse.tech/docs/en/engines/table-engines/integrations/mysql/
本文地址:https://blog.csdn.net/vkingnew/article/details/107150260