对MongoDB的认识及操作
程序员文章站
2022-03-24 14:29:13
...
mongodb教程栏目介绍对MongoDB的认识及操作。
推荐:mongodb教程
一. 简介
MongoDB是一款强大、灵活、且易于扩展的通用型数据库。
1、易用性
MongoDB是一个面向文档(document-oriented)的数据库,而不是关系型数据库。 不采用关系型主要是为了获得更好得扩展性。当然还有一些其他好处,与关系数据库相比,面向文档的数据库不再有“行“(row)的概念取而代之的是更为灵活的“文档”(document)模型。 通过在文档中嵌入文档和数组,面向文档的方法能够仅使用一条记录来表现复杂的层级关系,这与现代的面向对象语言的开发者对数据的看法一致。 另外,不再有预定义模式(predefined schema):文档的键(key)和值(value)不再是固定的类型和大小。由于没有固定的模式,根据需要添加或删除字段变得更容易了。通常由于开发者能够进行快速迭代,所以开发进程得以加快。而且,实验更容易进行。开发者能尝试大量的数据模型,从中选一个最好的。
2、易扩展性
应用程序数据集的大小正在以不可思议的速度增长。随着可用带宽的增长和存储器价格的下降,即使是一个小规模的应用程序,需要存储的数据量也可能大的惊人,甚至超出 了很多数据库的处理能力。过去非常罕见的T级数据,现在已经是司空见惯了。 由于需要存储的数据量不断增长,开发者面临一个问题:应该如何扩展数据库,分为纵向扩展和横向扩展,纵向扩展是最省力的做法,但缺点是大型机一般都非常贵,而且 当数据量达到机器的物理极限时,花再多的钱也买不到更强的机器了,此时选择横向扩展更为合适,但横向扩展带来的另外一个问题就是需要管理的机器太多。 MongoDB的设计采用横向扩展。面向文档的数据模型使它能很容易地在多台服务器之间进行数据分割。MongoDB能够自动处理跨集群的数据和负载,自动重新分配文档,以及将 用户的请求路由到正确的机器上。这样,开发者能够集中精力编写应用程序,而不需要考虑如何扩展的问题。如果一个集群需要更大的容量,只需要向集群添加新服务器,MongoDB就会自动将现有的数据向新服务器传送
3、丰富的功能
MongoDB作为一款通用型数据库,除了能够创建、读取、更新和删除数据之外,还提供了一系列不断扩展的独特功能 #1、索引 支持通用二级索引,允许多种快速查询,且提供唯一索引、复合索引、地理空间索引、全文索引 #2、聚合 支持聚合管道,用户能通过简单的片段创建复杂的集合,并通过数据库自动优化 #3、特殊的集合类型 支持存在时间有限的集合,适用于那些将在某个时刻过期的数据,如会话session。类似地,MongoDB也支持固定大小的集合,用于保存近期数据,如日志 #4、文件存储 支持一种非常易用的协议,用于存储大文件和文件元数据。MongoDB并不具备一些在关系型数据库中很普遍的功能,如链接join和复杂的多行事务。省略 这些的功能是处于架构上的考虑,或者说为了得到更好的扩展性,因为在分布式系统中这两个功能难以高效地实现
4、卓越的性能
MongoDB的一个主要目标是提供卓越的性能,这很大程度上决定了MongoDB的设计。MongoDB把尽可能多的内存用作缓存cache,视图为每次查询自动选择正确的索引。 总之各方面的设计都旨在保持它的高性能 虽然MongoDB非常强大并试图保留关系型数据库的很多特性,但它并不追求具备关系型数据库的所有功能。只要有可能,数据库服务器就会将处理逻辑交给客户端。这种精简方式的设计是MongoDB能够实现如此高性能的原因之一
二. MangoDB基础知识
1、文档是MongoDB的核心概念。文档就是键值对的一个有序集{‘msg’:‘hello’,‘foo’:3}。类似于python中的有序字典。
需要注意的是: #1、文档中的键/值对是有序的。 #2、文档中的值不仅可以是在双引号里面的字符串,还可以是其他几种数据类型(甚至可以是整个嵌入的文档)。 #3、MongoDB区分类型和大小写。 #4、MongoDB的文档不能有重复的键。 #5、文档中的值可以是多种不同的数据类型,也可以是一个完整的内嵌文档。文档的键是字符串。除了少数例外情况,键可以使用任意UTF-8字符。 文档键命名规范: #1、键不能含有\0 (空字符)。这个字符用来表示键的结尾。 #2、.和$有特别的意义,只有在特定环境下才能使用。 #3、以下划线"_"开头的键是保留的(不是严格要求的)。
2、集合就是一组文档。如果将MongoDB中的一个文档比喻为关系型数据的一行,那么一个集合就是相当于一张表
#1、集合存在于数据库中,通常情况下为了方便管理,不同格式和类型的数据应该插入到不同的集合,但其实集合没有固定的结构,这意味着我们完全可以把不同格式和类型的数据统统插入一个集合中。 #2、组织子集合的方式就是使用“.”,分隔不同命名空间的子集合。 比如一个具有博客功能的应用可能包含两个集合,分别是blog.posts和blog.authors,这是为了使组织结构更清晰,这里的blog集合(这个集合甚至不需要存在)跟它的两个子集合没有任何关系。 在MongoDB中,使用子集合来组织数据非常高效,值得推荐 #3、当第一个文档插入时,集合就会被创建。合法的集合名: 集合名不能是空字符串""。 集合名不能含有\0字符(空字符),这个字符表示集合名的结尾。 集合名不能以"system."开头,这是为系统集合保留的前缀。 用户创建的集合名字不能含有保留字符。有些驱动程序的确支持在集合名里面包含,这是因为某些系统生成的集合中包含该字符。除非你要访问这种系统创建的集合,否则千万不要在名字里出现$。
3、数据库:在MongoDB中,多个文档组成集合,多个集合可以组成数据库
数据库也通过名字来标识。数据库名可以是满足以下条件的任意UTF-8字符串: #1、不能是空字符串("")。 #2、不得含有' '(空格)、.、$、/、\和\0 (空字符)。 #3、应全部小写。 #4、最多64字节。 有一些数据库名是保留的,可以直接访问这些有特殊作用的数据库。 #1、admin: 从身份认证的角度讲,这是“root”数据库,如果将一个用户添加到admin数据库,这个用户将自动获得所有数据库的权限。再者,一些特定的服务器端命令也只能从admin数据库运行,如列出所有数据库或关闭服务器 #2、local: 这个数据库永远都不可以复制,且一台服务器上的所有本地集合都可以存储在这个数据库中 #3、config: MongoDB用于分片设置时,分片信息会存储在config数据库中
4、强调:把数据库名添加到集合名前,得到集合的完全限定名,即命名空间
例如: 如果要使用cms数据库中的blog.posts集合,这个集合的命名空间就是 cmd.blog.posts。命名空间的长度不得超过121个字节,且在实际使用中应该小于100个字节
三. 安装
1.安装
#1、安装路径为D:\MongoDB,将D:\MongoDB\bin目录加入环境变量#2、新建目录与文件D:\MongoDB\data\db D:\MongoDB\log\mongod.log#3、新建配置文件mongod.cfg,参考:https://docs.mongodb.com/manual/reference/configuration-options/systemLog: destination: file path: "D:\MongoDB\log\mongod.log" logAppend: true storage: journal: enabled: true dbPath: "D:\MongoDB\data\db"net: bindIp: 0.0.0.0 port: 27017setParameter: enableLocalhostAuthBypass: false #4、制作系统服务mongod --config "D:\MongoDB\mongod.cfg" --bind_ip 0.0.0.0 --install 或者直接在命令行指定配置 mongod --bind_ip 0.0.0.0 --port 27017 --logpath D:\MongoDB\log\mongod.log --logappend --dbpath D:\MongoDB\data\db --serviceName "MongoDB" --serviceDisplayName "MongoDB" --install 先停掉服务:net stop MongoDB 然后移除服务:mongo --remove 再重新制作服务,需要加上--auth,表示加载认证功能 mongod --bind_ip 0.0.0.0 --port 27017 --logpath D:\MongoDB\log\mongod.log --logappend --dbpath D:\MongoDB\data\db --serviceName "MongoDB" --serviceDisplayName "MongoDB" --install --auth #5、启动\关闭net start MongoDB net stop MongoDB#6、登录mongo 链接:http://www.runoob.com/mongodb/mongodb-window-install.html
2. 账号管理
#1、创建账号use admin db.createUser( { user: "root", pwd: "123", roles: [ { role: "root", db: "admin" } ] })use test db.createUser( { user: "tom", pwd: "123", roles: [ { role: "readWrite", db: "test" }, { role: "read", db: "db1" } ] })#2、重启数据库mongod --remove mongod --config "C:\mongodb\mongod.cfg" --bind_ip 0.0.0.0 --install --auth#3、登录:注意使用双引号而非单引号mongo --port 27017 -u "root" -p "123" --authenticationDatabase "admin"也可以在登录之后用db.auth("账号","密码")登录 mongo use admin db.auth("root","123")#推荐博客:https://www.cnblogs.com/zhoujinyi/p/4610050.html
3. 命令行shell
#1、mongo 127.0.0.1:27017/config #连接到任何数据库config #2、mongo --nodb #不连接到任何数据库 #3、启动之后,在需要时运行new Mongo(hostname)命令就可以连接到想要的mongod了: > conn=new Mongo('127.0.0.1:27017') connection to 127.0.0.1:27017 > db=conn.getDB('admin') admin #4、help查看帮助 #5、mongo时一个简化的JavaScript shell,是可以执行JavaScript脚本的
4."_id"与ObjectId
MongoDB中存储的文档必须有一个"_id"键。这个键的值可以是任意类型,默认是个ObjectId对象。 在一个集合里,每个文档都有唯一的“_id”,确保集合里每个文档都能被唯一标识。 不同集合"_id"的值可以重复,但同一集合内"_id"的值必须唯一 #1、ObjectId ObjectId是"_id"的默认类型。因为设计MongoDb的初衷就是用作分布式数据库,所以能够在分片环境中生成 唯一的标识符非常重要,而常规的做法:在多个服务器上同步自动增加主键既费时又费力,这就是MongoDB采用 ObjectId的原因。 ObjectId采用12字节的存储空间,是一个由24个十六进制数字组成的字符串 0|1|2|3| 4|5|6| 7|8 9|10|11 时间戳 机器 PID 计数器 如果快速创建多个ObjectId,会发现每次只有最后几位有变化。另外,中间的几位数字也会变化(要是在创建过程中停顿几秒)。 这是ObjectId的创建方式导致的,如上图 时间戳单位为秒,与随后5个字节组合起来,提供了秒级的唯一性。这个4个字节隐藏了文档的创建时间,绝大多数驱动程序都会提供 一个方法,用于从ObjectId中获取这些信息。 因为使用的是当前时间,很多用户担心要对服务器进行时钟同步。其实没必要,因为时间戳的实际值并不重要,只要它总是不停增加就好。 接下来3个字节是所在主机的唯一标识符。通常是机器主机名的散列值。这样就可以保证不同主机生成不同的ObjectId,不产生冲突 接下来连个字节确保了在同一台机器上并发的多个进程产生的ObjectId是唯一的 前9个字节确保了同一秒钟不同机器不同进程产生的ObjectId是唯一的。最后3个字节是一个自动增加的 计数器。确保相同进程的同一秒产生的 ObjectId也是不一样的。 #2、自动生成_id 如果插入文档时没有"_id"键,系统会自帮你创建 一个。可以由MongoDb服务器来做这件事。 但通常会在客户端由驱动程序完成。这一做法非常好地体现了MongoDb的哲学:能交给客户端驱动程序来做的事情就不要交给服务器来做。 这种理念背后的原因是:即便是像MongoDB这样扩展性非常好的数据库,扩展应用层也要比扩展数据库层容易的多。将工作交给客户端做就 减轻了数据库扩展的负担。
5.MangoDB基本数据类型
#1、null:用于表示空或不存在的字段d={'x':null}#2、布尔型:true和falsed={'x':true,'y':false}#3、数值d={'x':3,'y':3.1415926}#4、字符串d={'x':'tom'}#5、日期d={'x':new Date()}d.x.getHours()#6、正则表达式d={'pattern':/^egon.*?nb$/i}正则写在//内,后面的i代表:i 忽略大小写 m 多行匹配模式 x 忽略非转义的空白字符 s 单行匹配模式#7、数组d={'x':[1,'a','v']}#8、内嵌文档user={'name':'tom','addr':{'country':'China','city':'YT'}}user.addr.country#9、对象id:是一个12字节的ID,是文档的唯一标识,不可变d={'x':ObjectId()}
四. CRUD操作
1、数据库操作
#1、增use db1 #如果数据库不存在,则创建数据库,否则切换到指定数据库。#2、查show dbs #查看所有可以看到,我们刚创建的数据库db1并不在数据库的列表中, 要显示它,我们需要向db1数据库插入一些数据。 db.table1.insert({'a':1})#3、删use db1 #先切换到要删的库下db.dropDatabase() #删除当前库
2、集合操作
#1、增当第一个文档插入时,集合就会被创建> use database1 switched to db database1> db.table1.insert({'a':1})WriteResult({ "nInserted" : 1 })> db.table2.insert({'b':2})WriteResult({ "nInserted" : 1 })db.user db.user.info 表名是user.info,跟user表没有任何关系 db.user.auth#2、查> show tables table1 table2#3、删> db.table1.drop()true> show tables table2
3、文档操作
增
#1、没有指定_id则默认ObjectId,_id不能重复,且在插入后不可变#2、插入单条user0={ "name":"tom", "age":10, 'hobbies':['music','read','dancing'], 'addr':{ 'country':'China', 'city':'BJ' }}db.test.insert(user0)db.test.find()#3、插入多条user1={ "_id":1, "name":"zhang3", "age":10, 'hobbies':['music','read','dancing'], 'addr':{ 'country':'China', 'city':'weifang' }}user2={ "_id":2, "name":"li4", "age":20, 'hobbies':['music','read','run'], 'addr':{ 'country':'China', 'city':'hebei' }}user3={ "_id":3, "name":"wang5", "age":30, 'hobbies':['music','drink'], 'addr':{ 'country':'China', 'city':'heibei' }}user4={ "_id":4, "name":"zhao6", "age":40, 'hobbies':['music','read','dancing','tea'], 'addr':{ 'country':'China', 'city':'BJ' }}user5={ "_id":5, "name":"sun7", "age":50, 'hobbies':['music','read',], 'addr':{ 'country':'China', 'city':'henan' }}db.user.insertMany([user1,user2,user3,user4,user5])db.t1.insert({"_id":1,"a":"1","b":"2","c":"3"})db.t1.save({"_id":1,"z":"6"}) 有就用新的记录覆盖掉原来的记录,无就新增
查
- 比较运算
# SQL:=,!=,>,<,>=,<=# MongoDB:{key:value}代表什么等于什么"$ne"====>不等于"$gt"====>大于"$lt"====>小于"gte"====>大于等于"lte"====>小于等于 其中"$ne"能用于所有数据类型#1、select * from db1.user where name = "alex";db.user.find({'name':'alex'})#2、select * from db1.user where name != "alex";db.user.find({'name':{"$ne":'alex'}})#3、select * from db1.user where id > 2;db.user.find({'_id':{'$gt':2}})#4、select * from db1.user where id < 3;db.user.find({'_id':{'$lt':3}})#5、select * from db1.user where id >= 2;db.user.find({"_id":{"$gte":2,}})#6、select * from db1.user where id <= 2;db.user.find({"_id":{"$lte":2}})
- 逻辑运算
# SQL:and,or,not# MongoDB:字典中逗号分隔的多个条件是and关系,"$or"的条件放到[]内,"$not"#1、select * from db1.user where id >= 2 and id < 4;db.user.find({'_id':{"$gte":2,"$lt":4}})#2、select * from db1.user where id >= 2 and age < 40;db.user.find({"_id":{"$gte":2},"age":{"$lt":40}})#3、select * from db1.user where id >= 5 or name = "alex";db.user.find({ "$or":[ {'_id':{"$gte":5}}, {"name":"alex"} ]})#4、select * from db1.user where id % 2=1;db.user.find({'_id':{"$mod":[2,1]}})#5、上题,取反db.user.find({'_id':{"$not":{"$mod":[2,1]}}})
- 成员运算
# SQL:in,not in# MongoDB:"$in","$nin"#1、select * from db1.user where age in (20,30,31);db.user.find({"age":{"$in":[20,30,31]}})#2、select * from db1.user where name not in ('alex','yuanhao');db.user.find({"name":{"$nin":['alex','yuanhao']}})
- 正则匹配
# SQL: regexp 正则# MongoDB: /正则表达/i#1、select * from db1.user where name regexp '^j.*?(g|n)$';db.user.find({'name':/^j.*?(g|n)$/i})
- 去指定的字段
#1、select name,age from db1.user where id=3;db.user.find({'_id':3},{'_id':0,'name':1,'age':1})1:代表要,类似True0:代表不要,类似Flase,默认是0
- 查询数组
#1、查看有dancing爱好的人db.user.find({'hobbies':'dancing'})#2、查看既有dancing爱好又有tea爱好的人db.user.find({ 'hobbies':{ "$all":['dancing','tea'] }})#3、查看第4个爱好为tea的人:".方法"db.user.find({"hobbies.3":'tea'})#4、查看所有人最后两个爱好:"$slice"db.user.find({},{'hobbies':{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0})#5、查看所有人的第2个到第3个爱好db.user.find({},{'hobbies':{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0})> db.blog.find().pretty(){ "_id" : 1, "name" : "sun7公司破产的真相", "comments" : [ { "name" : "zhang3", "content" : "sun7是谁???", "thumb" : 200 }, { "name" : "li4", "content" : "我去,真的假的", "thumb" : 300 }, { "name" : "wang5", "content" : "吃喝嫖赌抽,欠下两个亿", "thumb" : 40 }, { "name" : "zhao6", "content" : "丐帮欢迎你", "thumb" : 0 } ]}db.blog.find({},{'comments':{"$slice":-2}}).pretty() #查询最后两个db.blog.find({},{'comments':{"$slice":[1,2]}}).pretty() #查询1到2
- 排序
# 排序:1代表升序,-1代表降序db.user.find().sort({"name":1})db.user.find().sort({"age":-1,'_id':1})
- 分页
# 分页:limit代表取多少个document,skip代表跳过前多少个document。 db.user.find().sort({'age':1}).limit(1).skip(2)
- 获取数量
# 获取数量db.user.count({'age':{"$gt":30}}) --或者 db.user.find({'age':{"$gt":30}}).count()
- 其他
#1、{'key':null} 匹配key的值为null或者没有这个keydb.t2.insert({'a':10,'b':111})db.t2.insert({'a':20})db.t2.insert({'b':null})> db.t2.find({"b":null}){ "_id" : ObjectId("5a5cc2a7c1b4645aad959e5a"), "a" : 20 }{ "_id" : ObjectId("5a5cc2a8c1b4645aad959e5b"), "b" : null }#2、查找所有db.user.find() #等同于db.user.find({})db.user.find().pretty()#3、查找一个,与find用法一致,只是只取匹配成功的第一个db.user.findOne({"_id":{"$gt":3}})#4、去重db.user.find().distinct()
改
- update语法介绍
update() 方法用于更新已存在的文档。语法格式如下: db.collection.update( <query>, <update>, { upsert: <boolean>, multi: <boolean>, writeConcern: <document> })参数说明:对比update db1.t1 set name='zhangsan',sex='Male' where name='zhang3' and age=18;query : 相当于where条件。 update : update的对象和一些更新的操作符(如$,$inc...等,相当于set后面的 upsert : 可选,默认为false,代表如果不存在update的记录不更新也不插入,设置为true代表插入。 multi : 可选,默认为false,代表只更新找到的第一条记录,设为true,代表更新找到的全部记录。 writeConcern :可选,抛出异常的级别。 更新操作是不可分割的:若两个更新同时发送,先到达服务器的先执行,然后执行另外一个,不会破坏文档。
- 覆盖式
#注意:除非是删除,否则_id是始终不会变的#1、覆盖式:db.user.update({'age':20},{"name":"wang5","hobbies_count":3})是用{"_id":2,"name":"wang5","hobbies_count":3}覆盖原来的记录#2、一种最简单的更新就是用一个新的文档完全替换匹配的文档。这适用于大规模式迁移的情况。例如var obj=db.user.findOne({"_id":2})obj.username=obj.name+'SB'obj.hobbies_count++delete obj.age db.user.update({"_id":2},obj)
- 设置:$set
#设置:$set通常文档只会有一部分需要更新。可以使用原子性的更新修改器,指定对文档中的某些字段进行更新。 更新修改器是种特殊的键,用来指定复杂的更新操作,比如修改、增加后者删除#1、update db1.user set name="wang5" where id = 2db.user.update({'_id':2},{"$set":{"name":"wang5",}})#2、没有匹配成功则新增一条{"upsert":true}db.user.update({'_id':6},{"$set":{"name":"wang5","age":18}},{"upsert":true})#3、默认只改匹配成功的第一条,{"multi":改多条}db.user.update({'_id':{"$gt":4}},{"$set":{"age":28}})db.user.update({'_id':{"$gt":4}},{"$set":{"age":38}},{"multi":true})#4、修改内嵌文档,把名字为wang5的人所在的地址国家改成Japandb.user.update({'name':"wang5"},{"$set":{"addr.country":"Japan"}})#5、把名字为wang5的人的地2个爱好改成piaodb.user.update({'name':"wang5"},{"$set":{"hobbies.1":"piao"}})#6、删除wang5的爱好,$unsetdb.user.update({'name':"wang5"},{"$unset":{"hobbies":""}})
- 增加和减少:$inc
#增加和减少:$inc#1、所有人年龄增加一岁db.user.update({}, { "$inc":{"age":1} }, { "multi":true } )#2、所有人年龄减少5岁db.user.update({}, { "$inc":{"age":-5} }, { "multi":true } )
- 添加删除数组内元素: p u s h , push, push,pop,$pull
#添加删除数组内元素 往数组内添加元素:$push#1、为名字为wang5的人添加一个爱好readdb.user.update({"name":"wang5"},{"$push":{"hobbies":"read"}})#2、为名字为wang5的人一次添加多个爱好tea,dancingdb.user.update({"name":"wang5"},{"$push":{ "hobbies":{"$each":["tea","dancing"]}}})按照位置且只能从开头或结尾删除元素:$pop#3、{"$pop":{"key":1}} 从数组末尾删除一个元素db.user.update({"name":"wang5"},{"$pop":{ "hobbies":1}})#4、{"$pop":{"key":-1}} 从头部删除db.user.update({"name":"wang5"},{"$pop":{ "hobbies":-1}})#5、按照条件删除元素,:"$pull" 把符合条件的统统删掉,而$pop只能从两端删db.user.update({'addr.country':"China"},{"$pull":{ "hobbies":"read"}},{ "multi":true})
- 避免添加重复:"$addToSet"
#避免添加重复:"$addToSet"db.urls.insert({"_id":1,"urls":[]})db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})db.urls.update({"_id":1},{ "$addToSet":{ "urls":{ "$each":[ 'http://www.baidu.com', 'http://www.baidu.com', 'http://www.xxxx.com' ] } } })
- 其他
#1、了解:限制大小"$slice",只留最后n个db.user.update({"_id":5},{ "$push":{"hobbies":{ "$each":["read",'music','dancing'], "$slice":-2 } }})#2、了解:排序The $sort element value must be either 1 or -1"db.user.update({"_id":5},{ "$push":{"hobbies":{ "$each":["read",'music','dancing'], "$slice":-1, "$sort":-1 } }})#注意:不能只将"$slice"或者"$sort"与"$push"配合使用,且必须使用"$eah"
删
#1、删除多个中的第一个db.user.deleteOne({ 'age': 8 })#2、删除国家为China的全部db.user.deleteMany( {'addr.country': 'China'} ) #3、删除全部db.user.deleteMany({})
聚合
如果你有数据存储在MongoDB中,你想做的可能就不仅仅是将数据提取出来那么简单了;你可能希望对数据进行分析并加以利用。MongoDB提供了以下聚合工具:#1、聚合框架#2、MapReduce(详见MongoDB权威指南)#3、几个简单聚合命令:count、distinct和group。(详见MongoDB权威指南)#聚合框架:可以使用多个构件创建一个管道,上一个构件的结果传给下一个构件。 这些构件包括(括号内为构件对应的操作符):筛选($match)、投射($project)、分组($group)、排序($sort)、限制($limit)、跳过($skip)不同的管道操作符可以任意组合,重复使用
- 准备数据
from pymongo import MongoClientimport datetime client=MongoClient('mongodb://root:123@localhost:27017')table=client['db1']['emp']# table.drop()l=[('tom','male',18,'20170301','校长',73000.33,401,1), #以下是教学部('bob','male',78,'20150302','teacher',10000.31,401,1),('sam','male',81,'20130305','teacher',8300,401,1),('zhang3','male',73,'20140701','teacher',3500,401,1),('li4','male',28,'20121101','teacher',2100,401,1),('may','female',18,'20110211','teacher',9000,401,1),('wang5','male',18,'19000301','teacher',30000,401,1),('成龙','male',48,'20101111','teacher',10000,401,1),('歪歪','female',48,'20150311','sale',3000.13,402,2),#以下是销售部门('丫丫','female',38,'20101101','sale',2000.35,402,2),('丁丁','female',18,'20110312','sale',1000.37,402,2),('星星','female',18,'20160513','sale',3000.29,402,2),('格格','female',28,'20170127','sale',4000.33,402,2),('张野','male',28,'20160311','operation',10000.13,403,3), #以下是运营部门('程咬金','male',18,'19970312','operation',20000,403,3),('程咬银','female',18,'20130311','operation',19000,403,3),('程咬铜','male',18,'20150411','operation',18000,403,3),('程咬铁','female',18,'20140512','operation',17000,403,3)]for n,item in enumerate(l): d={ "_id":n, 'name':item[0], 'sex':item[1], 'age':item[2], 'hire_date':datetime.datetime.strptime(item[3],'%Y%m%d'), 'post':item[4], 'salary':item[5] } table.save(d)
- 筛选:$match
{"$match":{"字段":"条件"}},可以使用任何常用查询操作符$gt,$lt,$in等#例1、select * from db1.emp where post='teacher';db.emp.aggregate({"$match":{"post":"teacher"}})#例2、select * from db1.emp where id > 3 group by post; db.emp.aggregate( {"$match":{"_id":{"$gt":3}}}, {"$group":{"_id":"$post",'avg_salary':{"$avg":"$salary"}}})#例3、select * from db1.emp where id > 3 group by post having avg(salary) > 10000; db.emp.aggregate( {"$match":{"_id":{"$gt":3}}}, {"$group":{"_id":"$post",'avg_salary':{"$avg":"$salary"}}}, {"$match":{"avg_salary":{"$gt":10000}}})
- 投射:$project
{"$project":{"要保留的字段名":1,"要去掉的字段名":0,"新增的字段名":"表达式"}}#1、select name,post,(age+1) as new_age from db1.emp;db.emp.aggregate( {"$project":{ "name":1, "post":1, "new_age":{"$add":["$age",1]} }})#2、表达式之数学表达式{"$add":[expr1,expr2,...,exprN]} #相加{"$subtract":[expr1,expr2]} #第一个减第二个{"$multiply":[expr1,expr2,...,exprN]} #相乘{"$pide":[expr1,expr2]} #第一个表达式除以第二个表达式的商作为结果{"$mod":[expr1,expr2]} #第一个表达式除以第二个表达式得到的余数作为结果#3、表达式之日期表达式:$year,$month,$week,$dayOfMonth,$dayOfWeek,$dayOfYear,$hour,$minute,$second#例如:select name,date_format("%Y") as hire_year from db1.empdb.emp.aggregate( {"$project":{"name":1,"hire_year":{"$year":"$hire_date"}}})#例如查看每个员工的工作多长时间db.emp.aggregate( {"$project":{"name":1,"hire_period":{ "$subtract":[ {"$year":new Date()}, {"$year":"$hire_date"} ] }}})#4、字符串表达式{"$substr":[字符串/$值为字符串的字段名,起始位置,截取几个字节]}{"$concat":[expr1,expr2,...,exprN]} #指定的表达式或字符串连接在一起返回,只支持字符串拼接{"$toLower":expr}{"$toUpper":expr}db.emp.aggregate( {"$project":{"NAME":{"$toUpper":"$name"}}})#5、逻辑表达式$and$or$not其他见Mongodb权威指南
- 分组:$group
{"$group":{"_id":分组字段,"新的字段名":聚合操作符}}#1、将分组字段传给$group函数的_id字段即可{"$group":{"_id":"$sex"}} #按照性别分组{"$group":{"_id":"$post"}} #按照职位分组{"$group":{"_id":{"state":"$state","city":"$city"}}} #按照多个字段分组,比如按照州市分组#2、分组后聚合得结果,类似于sql中聚合函数的聚合操作符:$sum、$avg、$max、$min、$first、$last#例1:select post,max(salary) from db1.emp group by post; db.emp.aggregate({"$group":{"_id":"$post","max_salary":{"$max":"$salary"}}})#例2:去每个部门最大薪资与最低薪资db.emp.aggregate({"$group":{"_id":"$post","max_salary":{"$max":"$salary"},"min_salary":{"$min":"$salary"}}})#例3:如果字段是排序后的,那么$first,$last会很有用,比用$max和$min效率高db.emp.aggregate({"$group":{"_id":"$post","first_id":{"$first":"$_id"}}})#例4:求每个部门的总工资db.emp.aggregate({"$group":{"_id":"$post","count":{"$sum":"$salary"}}})#例5:求每个部门的人数db.emp.aggregate({"$group":{"_id":"$post","count":{"$sum":1}}})#3、数组操作符{"$addToSet":expr}:不重复{"$push":expr}:重复#例:查询岗位名以及各岗位内的员工姓名:select post,group_concat(name) from db1.emp group by post;db.emp.aggregate({"$group":{"_id":"$post","names":{"$push":"$name"}}})db.emp.aggregate({"$group":{"_id":"$post","names":{"$addToSet":"$name"}}})
- 排序: s o r t 、 限 制 : sort、限制: sort、限制:limit、跳过:$skip
{"$sort":{"字段名":1,"字段名":-1}} #1升序,-1降序{"$limit":n} {"$skip":n} #跳过多少个文档#例1、取平均工资最高的前两个部门db.emp.aggregate({ "$group":{"_id":"$post","平均工资":{"$avg":"$salary"}}},{ "$sort":{"平均工资":-1}},{ "$limit":2})#例2、db.emp.aggregate({ "$group":{"_id":"$post","平均工资":{"$avg":"$salary"}}},{ "$sort":{"平均工资":-1}},{ "$limit":2},{ "$skip":1})
- 随机选取n个:$sample
#集合users包含的文档如下{ "_id" : 1, "name" : "dave123", "q1" : true, "q2" : true }{ "_id" : 2, "name" : "dave2", "q1" : false, "q2" : false }{ "_id" : 3, "name" : "ahn", "q1" : true, "q2" : true }{ "_id" : 4, "name" : "li", "q1" : true, "q2" : false }{ "_id" : 5, "name" : "annT", "q1" : false, "q2" : true }{ "_id" : 6, "name" : "li", "q1" : true, "q2" : true }{ "_id" : 7, "name" : "ty", "q1" : false, "q2" : true }#下述操作时从users集合中随机选取3个文档db.users.aggregate( [ { $sample: { size: 3 } } ])
MongoDB
一. 简介
MongoDB是一款强大、灵活、且易于扩展的通用型数据库。
1、易用性
MongoDB是一个面向文档(document-oriented)的数据库,而不是关系型数据库。 不采用关系型主要是为了获得更好得扩展性。当然还有一些其他好处,与关系数据库相比,面向文档的数据库不再有“行“(row)的概念取而代之的是更为灵活的“文档”(document)模型。 通过在文档中嵌入文档和数组,面向文档的方法能够仅使用一条记录来表现复杂的层级关系,这与现代的面向对象语言的开发者对数据的看法一致。 另外,不再有预定义模式(predefined schema):文档的键(key)和值(value)不再是固定的类型和大小。由于没有固定的模式,根据需要添加或删除字段变得更容易了。通常由于开发者能够进行快速迭代,所以开发进程得以加快。而且,实验更容易进行。开发者能尝试大量的数据模型,从中选一个最好的。
2、易扩展性
应用程序数据集的大小正在以不可思议的速度增长。随着可用带宽的增长和存储器价格的下降,即使是一个小规模的应用程序,需要存储的数据量也可能大的惊人,甚至超出 了很多数据库的处理能力。过去非常罕见的T级数据,现在已经是司空见惯了。 由于需要存储的数据量不断增长,开发者面临一个问题:应该如何扩展数据库,分为纵向扩展和横向扩展,纵向扩展是最省力的做法,但缺点是大型机一般都非常贵,而且 当数据量达到机器的物理极限时,花再多的钱也买不到更强的机器了,此时选择横向扩展更为合适,但横向扩展带来的另外一个问题就是需要管理的机器太多。 MongoDB的设计采用横向扩展。面向文档的数据模型使它能很容易地在多台服务器之间进行数据分割。MongoDB能够自动处理跨集群的数据和负载,自动重新分配文档,以及将 用户的请求路由到正确的机器上。这样,开发者能够集中精力编写应用程序,而不需要考虑如何扩展的问题。如果一个集群需要更大的容量,只需要向集群添加新服务器,MongoDB就会自动将现有的数据向新服务器传送
3、丰富的功能
MongoDB作为一款通用型数据库,除了能够创建、读取、更新和删除数据之外,还提供了一系列不断扩展的独特功能 #1、索引 支持通用二级索引,允许多种快速查询,且提供唯一索引、复合索引、地理空间索引、全文索引 #2、聚合 支持聚合管道,用户能通过简单的片段创建复杂的集合,并通过数据库自动优化 #3、特殊的集合类型 支持存在时间有限的集合,适用于那些将在某个时刻过期的数据,如会话session。类似地,MongoDB也支持固定大小的集合,用于保存近期数据,如日志 #4、文件存储 支持一种非常易用的协议,用于存储大文件和文件元数据。MongoDB并不具备一些在关系型数据库中很普遍的功能,如链接join和复杂的多行事务。省略 这些的功能是处于架构上的考虑,或者说为了得到更好的扩展性,因为在分布式系统中这两个功能难以高效地实现
4、卓越的性能
MongoDB的一个主要目标是提供卓越的性能,这很大程度上决定了MongoDB的设计。MongoDB把尽可能多的内存用作缓存cache,视图为每次查询自动选择正确的索引。 总之各方面的设计都旨在保持它的高性能 虽然MongoDB非常强大并试图保留关系型数据库的很多特性,但它并不追求具备关系型数据库的所有功能。只要有可能,数据库服务器就会将处理逻辑交给客户端。这种精简方式的设计是MongoDB能够实现如此高性能的原因之一
二. MangoDB基础知识
1、文档是MongoDB的核心概念。文档就是键值对的一个有序集{‘msg’:‘hello’,‘foo’:3}。类似于python中的有序字典。
需要注意的是: #1、文档中的键/值对是有序的。 #2、文档中的值不仅可以是在双引号里面的字符串,还可以是其他几种数据类型(甚至可以是整个嵌入的文档)。 #3、MongoDB区分类型和大小写。 #4、MongoDB的文档不能有重复的键。 #5、文档中的值可以是多种不同的数据类型,也可以是一个完整的内嵌文档。文档的键是字符串。除了少数例外情况,键可以使用任意UTF-8字符。 文档键命名规范: #1、键不能含有\0 (空字符)。这个字符用来表示键的结尾。 #2、.和$有特别的意义,只有在特定环境下才能使用。 #3、以下划线"_"开头的键是保留的(不是严格要求的)。
2、集合就是一组文档。如果将MongoDB中的一个文档比喻为关系型数据的一行,那么一个集合就是相当于一张表
#1、集合存在于数据库中,通常情况下为了方便管理,不同格式和类型的数据应该插入到不同的集合,但其实集合没有固定的结构,这意味着我们完全可以把不同格式和类型的数据统统插入一个集合中。 #2、组织子集合的方式就是使用“.”,分隔不同命名空间的子集合。 比如一个具有博客功能的应用可能包含两个集合,分别是blog.posts和blog.authors,这是为了使组织结构更清晰,这里的blog集合(这个集合甚至不需要存在)跟它的两个子集合没有任何关系。 在MongoDB中,使用子集合来组织数据非常高效,值得推荐 #3、当第一个文档插入时,集合就会被创建。合法的集合名: 集合名不能是空字符串""。 集合名不能含有\0字符(空字符),这个字符表示集合名的结尾。 集合名不能以"system."开头,这是为系统集合保留的前缀。 用户创建的集合名字不能含有保留字符。有些驱动程序的确支持在集合名里面包含,这是因为某些系统生成的集合中包含该字符。除非你要访问这种系统创建的集合,否则千万不要在名字里出现$。
3、数据库:在MongoDB中,多个文档组成集合,多个集合可以组成数据库
数据库也通过名字来标识。数据库名可以是满足以下条件的任意UTF-8字符串: #1、不能是空字符串("")。 #2、不得含有' '(空格)、.、$、/、\和\0 (空字符)。 #3、应全部小写。 #4、最多64字节。 有一些数据库名是保留的,可以直接访问这些有特殊作用的数据库。 #1、admin: 从身份认证的角度讲,这是“root”数据库,如果将一个用户添加到admin数据库,这个用户将自动获得所有数据库的权限。再者,一些特定的服务器端命令也只能从admin数据库运行,如列出所有数据库或关闭服务器 #2、local: 这个数据库永远都不可以复制,且一台服务器上的所有本地集合都可以存储在这个数据库中 #3、config: MongoDB用于分片设置时,分片信息会存储在config数据库中
4、强调:把数据库名添加到集合名前,得到集合的完全限定名,即命名空间
例如: 如果要使用cms数据库中的blog.posts集合,这个集合的命名空间就是 cmd.blog.posts。命名空间的长度不得超过121个字节,且在实际使用中应该小于100个字节
三. 安装
1.安装
#1、安装路径为D:\MongoDB,将D:\MongoDB\bin目录加入环境变量#2、新建目录与文件D:\MongoDB\data\db D:\MongoDB\log\mongod.log#3、新建配置文件mongod.cfg,参考:https://docs.mongodb.com/manual/reference/configuration-options/systemLog: destination: file path: "D:\MongoDB\log\mongod.log" logAppend: true storage: journal: enabled: true dbPath: "D:\MongoDB\data\db"net: bindIp: 0.0.0.0 port: 27017setParameter: enableLocalhostAuthBypass: false #4、制作系统服务mongod --config "D:\MongoDB\mongod.cfg" --bind_ip 0.0.0.0 --install 或者直接在命令行指定配置 mongod --bind_ip 0.0.0.0 --port 27017 --logpath D:\MongoDB\log\mongod.log --logappend --dbpath D:\MongoDB\data\db --serviceName "MongoDB" --serviceDisplayName "MongoDB" --install 先停掉服务:net stop MongoDB 然后移除服务:mongo --remove 再重新制作服务,需要加上--auth,表示加载认证功能 mongod --bind_ip 0.0.0.0 --port 27017 --logpath D:\MongoDB\log\mongod.log --logappend --dbpath D:\MongoDB\data\db --serviceName "MongoDB" --serviceDisplayName "MongoDB" --install --auth #5、启动\关闭net start MongoDB net stop MongoDB#6、登录mongo 链接:http://www.runoob.com/mongodb/mongodb-window-install.html
2. 账号管理
#1、创建账号use admin db.createUser( { user: "root", pwd: "123", roles: [ { role: "root", db: "admin" } ] })use test db.createUser( { user: "tom", pwd: "123", roles: [ { role: "readWrite", db: "test" }, { role: "read", db: "db1" } ] })#2、重启数据库mongod --remove mongod --config "C:\mongodb\mongod.cfg" --bind_ip 0.0.0.0 --install --auth#3、登录:注意使用双引号而非单引号mongo --port 27017 -u "root" -p "123" --authenticationDatabase "admin"也可以在登录之后用db.auth("账号","密码")登录 mongo use admin db.auth("root","123")#推荐博客:https://www.cnblogs.com/zhoujinyi/p/4610050.html
3. 命令行shell
#1、mongo 127.0.0.1:27017/config #连接到任何数据库config #2、mongo --nodb #不连接到任何数据库 #3、启动之后,在需要时运行new Mongo(hostname)命令就可以连接到想要的mongod了: > conn=new Mongo('127.0.0.1:27017') connection to 127.0.0.1:27017 > db=conn.getDB('admin') admin #4、help查看帮助 #5、mongo时一个简化的JavaScript shell,是可以执行JavaScript脚本的
4."_id"与ObjectId
MongoDB中存储的文档必须有一个"_id"键。这个键的值可以是任意类型,默认是个ObjectId对象。 在一个集合里,每个文档都有唯一的“_id”,确保集合里每个文档都能被唯一标识。 不同集合"_id"的值可以重复,但同一集合内"_id"的值必须唯一 #1、ObjectId ObjectId是"_id"的默认类型。因为设计MongoDb的初衷就是用作分布式数据库,所以能够在分片环境中生成 唯一的标识符非常重要,而常规的做法:在多个服务器上同步自动增加主键既费时又费力,这就是MongoDB采用 ObjectId的原因。 ObjectId采用12字节的存储空间,是一个由24个十六进制数字组成的字符串 0|1|2|3| 4|5|6| 7|8 9|10|11 时间戳 机器 PID 计数器 如果快速创建多个ObjectId,会发现每次只有最后几位有变化。另外,中间的几位数字也会变化(要是在创建过程中停顿几秒)。 这是ObjectId的创建方式导致的,如上图 时间戳单位为秒,与随后5个字节组合起来,提供了秒级的唯一性。这个4个字节隐藏了文档的创建时间,绝大多数驱动程序都会提供 一个方法,用于从ObjectId中获取这些信息。 因为使用的是当前时间,很多用户担心要对服务器进行时钟同步。其实没必要,因为时间戳的实际值并不重要,只要它总是不停增加就好。 接下来3个字节是所在主机的唯一标识符。通常是机器主机名的散列值。这样就可以保证不同主机生成不同的ObjectId,不产生冲突 接下来连个字节确保了在同一台机器上并发的多个进程产生的ObjectId是唯一的 前9个字节确保了同一秒钟不同机器不同进程产生的ObjectId是唯一的。最后3个字节是一个自动增加的 计数器。确保相同进程的同一秒产生的 ObjectId也是不一样的。 #2、自动生成_id 如果插入文档时没有"_id"键,系统会自帮你创建 一个。可以由MongoDb服务器来做这件事。 但通常会在客户端由驱动程序完成。这一做法非常好地体现了MongoDb的哲学:能交给客户端驱动程序来做的事情就不要交给服务器来做。 这种理念背后的原因是:即便是像MongoDB这样扩展性非常好的数据库,扩展应用层也要比扩展数据库层容易的多。将工作交给客户端做就 减轻了数据库扩展的负担。
5.MangoDB基本数据类型
#1、null:用于表示空或不存在的字段d={'x':null}#2、布尔型:true和falsed={'x':true,'y':false}#3、数值d={'x':3,'y':3.1415926}#4、字符串d={'x':'tom'}#5、日期d={'x':new Date()}d.x.getHours()#6、正则表达式d={'pattern':/^egon.*?nb$/i}正则写在//内,后面的i代表:i 忽略大小写 m 多行匹配模式 x 忽略非转义的空白字符 s 单行匹配模式#7、数组d={'x':[1,'a','v']}#8、内嵌文档user={'name':'tom','addr':{'country':'China','city':'YT'}}user.addr.country#9、对象id:是一个12字节的ID,是文档的唯一标识,不可变d={'x':ObjectId()}
四. CRUD操作
1、数据库操作
#1、增use db1 #如果数据库不存在,则创建数据库,否则切换到指定数据库。#2、查show dbs #查看所有可以看到,我们刚创建的数据库db1并不在数据库的列表中, 要显示它,我们需要向db1数据库插入一些数据。 db.table1.insert({'a':1})#3、删use db1 #先切换到要删的库下db.dropDatabase() #删除当前库
2、集合操作
#1、增当第一个文档插入时,集合就会被创建> use database1 switched to db database1> db.table1.insert({'a':1})WriteResult({ "nInserted" : 1 })> db.table2.insert({'b':2})WriteResult({ "nInserted" : 1 })db.user db.user.info 表名是user.info,跟user表没有任何关系 db.user.auth#2、查> show tables table1 table2#3、删> db.table1.drop()true> show tables table2
3、文档操作
增
#1、没有指定_id则默认ObjectId,_id不能重复,且在插入后不可变#2、插入单条user0={ "name":"tom", "age":10, 'hobbies':['music','read','dancing'], 'addr':{ 'country':'China', 'city':'BJ' }}db.test.insert(user0)db.test.find()#3、插入多条user1={ "_id":1, "name":"zhang3", "age":10, 'hobbies':['music','read','dancing'], 'addr':{ 'country':'China', 'city':'weifang' }}user2={ "_id":2, "name":"li4", "age":20, 'hobbies':['music','read','run'], 'addr':{ 'country':'China', 'city':'hebei' }}user3={ "_id":3, "name":"wang5", "age":30, 'hobbies':['music','drink'], 'addr':{ 'country':'China', 'city':'heibei' }}user4={ "_id":4, "name":"zhao6", "age":40, 'hobbies':['music','read','dancing','tea'], 'addr':{ 'country':'China', 'city':'BJ' }}user5={ "_id":5, "name":"sun7", "age":50, 'hobbies':['music','read',], 'addr':{ 'country':'China', 'city':'henan' }}db.user.insertMany([user1,user2,user3,user4,user5])db.t1.insert({"_id":1,"a":"1","b":"2","c":"3"})db.t1.save({"_id":1,"z":"6"}) 有就用新的记录覆盖掉原来的记录,无就新增
查
- 比较运算
# SQL:=,!=,>,<,>=,<=# MongoDB:{key:value}代表什么等于什么"$ne"====>不等于"$gt"====>大于"$lt"====>小于"gte"====>大于等于"lte"====>小于等于 其中"$ne"能用于所有数据类型#1、select * from db1.user where name = "alex";db.user.find({'name':'alex'})#2、select * from db1.user where name != "alex";db.user.find({'name':{"$ne":'alex'}})#3、select * from db1.user where id > 2;db.user.find({'_id':{'$gt':2}})#4、select * from db1.user where id < 3;db.user.find({'_id':{'$lt':3}})#5、select * from db1.user where id >= 2;db.user.find({"_id":{"$gte":2,}})#6、select * from db1.user where id <= 2;db.user.find({"_id":{"$lte":2}})
- 逻辑运算
# SQL:and,or,not# MongoDB:字典中逗号分隔的多个条件是and关系,"$or"的条件放到[]内,"$not"#1、select * from db1.user where id >= 2 and id < 4;db.user.find({'_id':{"$gte":2,"$lt":4}})#2、select * from db1.user where id >= 2 and age < 40;db.user.find({"_id":{"$gte":2},"age":{"$lt":40}})#3、select * from db1.user where id >= 5 or name = "alex";db.user.find({ "$or":[ {'_id':{"$gte":5}}, {"name":"alex"} ]})#4、select * from db1.user where id % 2=1;db.user.find({'_id':{"$mod":[2,1]}})#5、上题,取反db.user.find({'_id':{"$not":{"$mod":[2,1]}}})
- 成员运算
# SQL:in,not in# MongoDB:"$in","$nin"#1、select * from db1.user where age in (20,30,31);db.user.find({"age":{"$in":[20,30,31]}})#2、select * from db1.user where name not in ('alex','yuanhao');db.user.find({"name":{"$nin":['alex','yuanhao']}})
- 正则匹配
# SQL: regexp 正则# MongoDB: /正则表达/i#1、select * from db1.user where name regexp '^j.*?(g|n)$';db.user.find({'name':/^j.*?(g|n)$/i})
- 去指定的字段
#1、select name,age from db1.user where id=3;db.user.find({'_id':3},{'_id':0,'name':1,'age':1})1:代表要,类似True0:代表不要,类似Flase,默认是0
- 查询数组
#1、查看有dancing爱好的人db.user.find({'hobbies':'dancing'})#2、查看既有dancing爱好又有tea爱好的人db.user.find({ 'hobbies':{ "$all":['dancing','tea'] }})#3、查看第4个爱好为tea的人:".方法"db.user.find({"hobbies.3":'tea'})#4、查看所有人最后两个爱好:"$slice"db.user.find({},{'hobbies':{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0})#5、查看所有人的第2个到第3个爱好db.user.find({},{'hobbies':{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0})> db.blog.find().pretty(){ "_id" : 1, "name" : "sun7公司破产的真相", "comments" : [ { "name" : "zhang3", "content" : "sun7是谁???", "thumb" : 200 }, { "name" : "li4", "content" : "我去,真的假的", "thumb" : 300 }, { "name" : "wang5", "content" : "吃喝嫖赌抽,欠下两个亿", "thumb" : 40 }, { "name" : "zhao6", "content" : "丐帮欢迎你", "thumb" : 0 } ]}db.blog.find({},{'comments':{"$slice":-2}}).pretty() #查询最后两个db.blog.find({},{'comments':{"$slice":[1,2]}}).pretty() #查询1到2
- 排序
# 排序:1代表升序,-1代表降序db.user.find().sort({"name":1})db.user.find().sort({"age":-1,'_id':1})
- 分页
# 分页:limit代表取多少个document,skip代表跳过前多少个document。 db.user.find().sort({'age':1}).limit(1).skip(2)
- 获取数量
# 获取数量db.user.count({'age':{"$gt":30}}) --或者 db.user.find({'age':{"$gt":30}}).count()
- 其他
#1、{'key':null} 匹配key的值为null或者没有这个keydb.t2.insert({'a':10,'b':111})db.t2.insert({'a':20})db.t2.insert({'b':null})> db.t2.find({"b":null}){ "_id" : ObjectId("5a5cc2a7c1b4645aad959e5a"), "a" : 20 }{ "_id" : ObjectId("5a5cc2a8c1b4645aad959e5b"), "b" : null }#2、查找所有db.user.find() #等同于db.user.find({})db.user.find().pretty()#3、查找一个,与find用法一致,只是只取匹配成功的第一个db.user.findOne({"_id":{"$gt":3}})#4、去重db.user.find().distinct()
改
- update语法介绍
update() 方法用于更新已存在的文档。语法格式如下: db.collection.update( <query>, <update>, { upsert: <boolean>, multi: <boolean>, writeConcern: <document> })参数说明:对比update db1.t1 set name='zhangsan',sex='Male' where name='zhang3' and age=18;query : 相当于where条件。 update : update的对象和一些更新的操作符(如$,$inc...等,相当于set后面的 upsert : 可选,默认为false,代表如果不存在update的记录不更新也不插入,设置为true代表插入。 multi : 可选,默认为false,代表只更新找到的第一条记录,设为true,代表更新找到的全部记录。 writeConcern :可选,抛出异常的级别。 更新操作是不可分割的:若两个更新同时发送,先到达服务器的先执行,然后执行另外一个,不会破坏文档。
- 覆盖式
#注意:除非是删除,否则_id是始终不会变的#1、覆盖式:db.user.update({'age':20},{"name":"wang5","hobbies_count":3})是用{"_id":2,"name":"wang5","hobbies_count":3}覆盖原来的记录#2、一种最简单的更新就是用一个新的文档完全替换匹配的文档。这适用于大规模式迁移的情况。例如var obj=db.user.findOne({"_id":2})obj.username=obj.name+'SB'obj.hobbies_count++delete obj.age db.user.update({"_id":2},obj)
- 设置:$set
#设置:$set通常文档只会有一部分需要更新。可以使用原子性的更新修改器,指定对文档中的某些字段进行更新。 更新修改器是种特殊的键,用来指定复杂的更新操作,比如修改、增加后者删除#1、update db1.user set name="wang5" where id = 2db.user.update({'_id':2},{"$set":{"name":"wang5",}})#2、没有匹配成功则新增一条{"upsert":true}db.user.update({'_id':6},{"$set":{"name":"wang5","age":18}},{"upsert":true})#3、默认只改匹配成功的第一条,{"multi":改多条}db.user.update({'_id':{"$gt":4}},{"$set":{"age":28}})db.user.update({'_id':{"$gt":4}},{"$set":{"age":38}},{"multi":true})#4、修改内嵌文档,把名字为wang5的人所在的地址国家改成Japandb.user.update({'name':"wang5"},{"$set":{"addr.country":"Japan"}})#5、把名字为wang5的人的地2个爱好改成piaodb.user.update({'name':"wang5"},{"$set":{"hobbies.1":"piao"}})#6、删除wang5的爱好,$unsetdb.user.update({'name':"wang5"},{"$unset":{"hobbies":""}})
- 增加和减少:$inc
#增加和减少:$inc#1、所有人年龄增加一岁db.user.update({}, { "$inc":{"age":1} }, { "multi":true } )#2、所有人年龄减少5岁db.user.update({}, { "$inc":{"age":-5} }, { "multi":true } )
- 添加删除数组内元素: p u s h , push, push,pop,$pull
#添加删除数组内元素 往数组内添加元素:$push#1、为名字为wang5的人添加一个爱好readdb.user.update({"name":"wang5"},{"$push":{"hobbies":"read"}})#2、为名字为wang5的人一次添加多个爱好tea,dancingdb.user.update({"name":"wang5"},{"$push":{ "hobbies":{"$each":["tea","dancing"]}}})按照位置且只能从开头或结尾删除元素:$pop#3、{"$pop":{"key":1}} 从数组末尾删除一个元素db.user.update({"name":"wang5"},{"$pop":{ "hobbies":1}})#4、{"$pop":{"key":-1}} 从头部删除db.user.update({"name":"wang5"},{"$pop":{ "hobbies":-1}})#5、按照条件删除元素,:"$pull" 把符合条件的统统删掉,而$pop只能从两端删db.user.update({'addr.country':"China"},{"$pull":{ "hobbies":"read"}},{ "multi":true})
- 避免添加重复:"$addToSet"
#避免添加重复:"$addToSet"db.urls.insert({"_id":1,"urls":[]})db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})db.urls.update({"_id":1},{ "$addToSet":{ "urls":{ "$each":[ 'http://www.baidu.com', 'http://www.baidu.com', 'http://www.xxxx.com' ] } } })
- 其他
#1、了解:限制大小"$slice",只留最后n个db.user.update({"_id":5},{ "$push":{"hobbies":{ "$each":["read",'music','dancing'], "$slice":-2 } }})#2、了解:排序The $sort element value must be either 1 or -1"db.user.update({"_id":5},{ "$push":{"hobbies":{ "$each":["read",'music','dancing'], "$slice":-1, "$sort":-1 } }})#注意:不能只将"$slice"或者"$sort"与"$push"配合使用,且必须使用"$eah"
删
#1、删除多个中的第一个db.user.deleteOne({ 'age': 8 })#2、删除国家为China的全部db.user.deleteMany( {'addr.country': 'China'} ) #3、删除全部db.user.deleteMany({})
聚合
如果你有数据存储在MongoDB中,你想做的可能就不仅仅是将数据提取出来那么简单了;你可能希望对数据进行分析并加以利用。MongoDB提供了以下聚合工具:#1、聚合框架#2、MapReduce(详见MongoDB权威指南)#3、几个简单聚合命令:count、distinct和group。(详见MongoDB权威指南)#聚合框架:可以使用多个构件创建一个管道,上一个构件的结果传给下一个构件。 这些构件包括(括号内为构件对应的操作符):筛选($match)、投射($project)、分组($group)、排序($sort)、限制($limit)、跳过($skip)不同的管道操作符可以任意组合,重复使用
- 准备数据
from pymongo import MongoClientimport datetime client=MongoClient('mongodb://root:123@localhost:27017')table=client['db1']['emp']# table.drop()l=[('tom','male',18,'20170301','校长',73000.33,401,1), #以下是教学部('bob','male',78,'20150302','teacher',10000.31,401,1),('sam','male',81,'20130305','teacher',8300,401,1),('zhang3','male',73,'20140701','teacher',3500,401,1),('li4','male',28,'20121101','teacher',2100,401,1),('may','female',18,'20110211','teacher',9000,401,1),('wang5','male',18,'19000301','teacher',30000,401,1),('成龙','male',48,'20101111','teacher',10000,401,1),('歪歪','female',48,'20150311','sale',3000.13,402,2),#以下是销售部门('丫丫','female',38,'20101101','sale',2000.35,402,2),('丁丁','female',18,'20110312','sale',1000.37,402,2),('星星','female',18,'20160513','sale',3000.29,402,2),('格格','female',28,'20170127','sale',4000.33,402,2),('张野','male',28,'20160311','operation',10000.13,403,3), #以下是运营部门('程咬金','male',18,'19970312','operation',20000,403,3),('程咬银','female',18,'20130311','operation',19000,403,3),('程咬铜','male',18,'20150411','operation',18000,403,3),('程咬铁','female',18,'20140512','operation',17000,403,3)]for n,item in enumerate(l): d={ "_id":n, 'name':item[0], 'sex':item[1], 'age':item[2], 'hire_date':datetime.datetime.strptime(item[3],'%Y%m%d'), 'post':item[4], 'salary':item[5] } table.save(d)
- 筛选:$match
{"$match":{"字段":"条件"}},可以使用任何常用查询操作符$gt,$lt,$in等#例1、select * from db1.emp where post='teacher';db.emp.aggregate({"$match":{"post":"teacher"}})#例2、select * from db1.emp where id > 3 group by post; db.emp.aggregate( {"$match":{"_id":{"$gt":3}}}, {"$group":{"_id":"$post",'avg_salary':{"$avg":"$salary"}}})#例3、select * from db1.emp where id > 3 group by post having avg(salary) > 10000; db.emp.aggregate( {"$match":{"_id":{"$gt":3}}}, {"$group":{"_id":"$post",'avg_salary':{"$avg":"$salary"}}}, {"$match":{"avg_salary":{"$gt":10000}}})
- 投射:$project
{"$project":{"要保留的字段名":1,"要去掉的字段名":0,"新增的字段名":"表达式"}}#1、select name,post,(age+1) as new_age from db1.emp;db.emp.aggregate( {"$project":{ "name":1, "post":1, "new_age":{"$add":["$age",1]} }})#2、表达式之数学表达式{"$add":[expr1,expr2,...,exprN]} #相加{"$subtract":[expr1,expr2]} #第一个减第二个{"$multiply":[expr1,expr2,...,exprN]} #相乘{"$pide":[expr1,expr2]} #第一个表达式除以第二个表达式的商作为结果{"$mod":[expr1,expr2]} #第一个表达式除以第二个表达式得到的余数作为结果#3、表达式之日期表达式:$year,$month,$week,$dayOfMonth,$dayOfWeek,$dayOfYear,$hour,$minute,$second#例如:select name,date_format("%Y") as hire_year from db1.empdb.emp.aggregate( {"$project":{"name":1,"hire_year":{"$year":"$hire_date"}}})#例如查看每个员工的工作多长时间db.emp.aggregate( {"$project":{"name":1,"hire_period":{ "$subtract":[ {"$year":new Date()}, {"$year":"$hire_date"} ] }}})#4、字符串表达式{"$substr":[字符串/$值为字符串的字段名,起始位置,截取几个字节]}{"$concat":[expr1,expr2,...,exprN]} #指定的表达式或字符串连接在一起返回,只支持字符串拼接{"$toLower":expr}{"$toUpper":expr}db.emp.aggregate( {"$project":{"NAME":{"$toUpper":"$name"}}})#5、逻辑表达式$and$or$not其他见Mongodb权威指南
- 分组:$group
{"$group":{"_id":分组字段,"新的字段名":聚合操作符}}#1、将分组字段传给$group函数的_id字段即可{"$group":{"_id":"$sex"}} #按照性别分组{"$group":{"_id":"$post"}} #按照职位分组{"$group":{"_id":{"state":"$state","city":"$city"}}} #按照多个字段分组,比如按照州市分组#2、分组后聚合得结果,类似于sql中聚合函数的聚合操作符:$sum、$avg、$max、$min、$first、$last#例1:select post,max(salary) from db1.emp group by post; db.emp.aggregate({"$group":{"_id":"$post","max_salary":{"$max":"$salary"}}})#例2:去每个部门最大薪资与最低薪资db.emp.aggregate({"$group":{"_id":"$post","max_salary":{"$max":"$salary"},"min_salary":{"$min":"$salary"}}})#例3:如果字段是排序后的,那么$first,$last会很有用,比用$max和$min效率高db.emp.aggregate({"$group":{"_id":"$post","first_id":{"$first":"$_id"}}})#例4:求每个部门的总工资db.emp.aggregate({"$group":{"_id":"$post","count":{"$sum":"$salary"}}})#例5:求每个部门的人数db.emp.aggregate({"$group":{"_id":"$post","count":{"$sum":1}}})#3、数组操作符{"$addToSet":expr}:不重复{"$push":expr}:重复#例:查询岗位名以及各岗位内的员工姓名:select post,group_concat(name) from db1.emp group by post;db.emp.aggregate({"$group":{"_id":"$post","names":{"$push":"$name"}}})db.emp.aggregate({"$group":{"_id":"$post","names":{"$addToSet":"$name"}}})
- 排序: s o r t 、 限 制 : sort、限制: sort、限制:limit、跳过:$skip
{"$sort":{"字段名":1,"字段名":-1}} #1升序,-1降序{"$limit":n} {"$skip":n} #跳过多少个文档#例1、取平均工资最高的前两个部门db.emp.aggregate({ "$group":{"_id":"$post","平均工资":{"$avg":"$salary"}}},{ "$sort":{"平均工资":-1}},{ "$limit":2})#例2、db.emp.aggregate({ "$group":{"_id":"$post","平均工资":{"$avg":"$salary"}}},{ "$sort":{"平均工资":-1}},{ "$limit":2},{ "$skip":1})
- 随机选取n个:$sample
#集合users包含的文档如下{ "_id" : 1, "name" : "dave123", "q1" : true, "q2" : true }{ "_id" : 2, "name" : "dave2", "q1" : false, "q2" : false }{ "_id" : 3, "name" : "ahn", "q1" : true, "q2" : true }{ "_id" : 4, "name" : "li", "q1" : true, "q2" : false }{ "_id" : 5, "name" : "annT", "q1" : false, "q2" : true }{ "_id" : 6, "name" : "li", "q1" : true, "q2" : true }{ "_id" : 7, "name" : "ty", "q1" : false, "q2" : true }#下述操作时从users集合中随机选取3个文档db.users.aggregate( [ { $sample: { size: 3 } } ])
以上就是对MongoDB的认识及操作的详细内容,更多请关注其它相关文章!
上一篇: php生命周期介绍
下一篇: php如何快速导入大量数据