mongodb与Python交互

小灰灰 2022-06-01 03:56 228阅读 0赞

# 简介 #

*  MongoDB 是一个基于分布式 文件存储的NoSQL数据库
 *  由C++语言编写，运行稳定，性能高
 *  旨在为 WEB 应用提供可扩展的高性能数据存储解决方案
 *  查看[官方网站][Link 1]

#### MongoDB特点 ####

*  模式自由 :可以把不同结构的文档存储在同一个数据库里
 *  面向集合的存储：适合存储 JSON风格文件的形式
 *  完整的索引支持：对任何属性可索引
 *  复制和高可用性：支持服务器之间的数据复制，支持主-从模式及服务器之间的相互复制。复制的主要目的是提供冗余及自动故障转移
 *  自动分片：支持云级别的伸缩性：自动分片功能支持水平的数据库集群，可动态添加额外的机器
 *  丰富的查询：支持丰富的查询表达方式，查询指令使用JSON形式的标记，可轻易查询文档中的内嵌的对象及数组
 *  快速就地更新：查询优化器会分析查询表达式，并生成一个高效的查询计划

*  高效的传统存储方式：支持二进制数据及大型对象（如照片或图片）

# 基本操作 #

*  MongoDB将数据存储为一个文档，数据结构由键值(key=>value)对组成
 *  MongoDB文档类似于JSON对象，字段值可以包含其他文档、数组、文档数组
 *  安装管理mongodb环境
 *  完成数据库、集合的管理
 *  数据的增加、修改、删除、查询

#### 名词 ####

<table style="color: rgb(0, 0, 0); font-family: Simsun;"> 
 <tbody> 
  <tr> 
   <th>SQL术语/概念</th> 
   <th>MongoDB术语/概念</th> 
   <th>解释/说明</th> 
  </tr> 
  <tr> 
   <td>database</td> 
   <td>database</td> 
   <td>数据库</td> 
  </tr> 
  <tr> 
   <td>table</td> 
   <td>collection</td> 
   <td>数据库表/集合</td> 
  </tr> 
  <tr> 
   <td>row</td> 
   <td>document</td> 
   <td>数据记录行/文档</td> 
  </tr> 
  <tr> 
   <td>column</td> 
   <td>field</td> 
   <td>数据字段/域</td> 
  </tr> 
  <tr> 
   <td>index</td> 
   <td>index</td> 
   <td>索引</td> 
  </tr> 
  <tr> 
   <td>table joins</td> 
   <td>&nbsp;</td> 
   <td>表连接,MongoDB不支持</td> 
  </tr> 
  <tr> 
   <td>primary key</td> 
   <td>primary key</td> 
   <td>主键,MongoDB自动将_id字段设置为主键</td> 
  </tr> 
 </tbody> 
</table>

*  三元素：数据库，集合，文档
    
     *  集合就是关系数据库中的表
     *  文档对应着关系数据库中的行
 *  文档，就是一个对象，由键值对构成，是json的扩展Bson形式

{'name':'guojing','gender':'男'}

*  集合：类似于关系数据库中的表，储存多个文档，结构不固定，如可以存储如下文档在一个集合中

{'name':'guojing','gender':'男'}
    {'name':'huangrong','age':18}
    {'book':'shuihuzhuan','heros':'108'}

*  数据库：是一个集合的物理容器，一个数据库中可以包含多个文档
 *  一个服务器通常有多个数据库

# 安装 #

*  下载mongodb的版本，两点注意
    
     *  根据业界规则，偶数为稳定版，如1.6.X，奇数为开发版，如1.7.X
     *  32bit的mongodb最大只能存放2G的数据，64bit就没有限制
 *  到官网，选择合适的版本下载
 *  解压

tar -zxvf mongodb-linux-x86_64-ubuntu1604-3.4.0.tgz

*  移动到/usr/local/目录下

sudo mv -r mongodb-linux-x86_64-ubuntu1604-3.4.0/ /usr/local/mongodb

*  将可执行文件添加到PATH路径中

export PATH=/usr/local/mongodb/bin:$PATH

# 管理mongo #

*  配置文件在/etc/mongod.conf
 *  默认端口27017
 *  启动

sudo service mongod start

*  停止

sudo service mongod stop

*  使用终端连接
 *  这个shell就是mongodb的客户端，同时也是一个js的编译器

mongo

*  命令

db查看当前数据库名称
    db.stats()查看当前数据库信息

*  终端退出连接

exit
    或ctrl+c

*  GUI：robomongo，解压后在bin目录下找到运行程序

# 数据库切换 #

*  查看当前数据库名称

*  查看所有数据库名称
 *  列出所有在物理上存在的数据库

show dbs

*  切换数据库
 *  如果数据库不存在，则指向数据库，但不创建，直到插入数据或创建集合时数据库才被创建

use 数据库名称

*  默认的数据库为test，如果你没有创建新的数据库，集合将存放在test数据库中

# 数据库删除 #

*  删除当前指向的数据库
 *  如果数据库不存在，则什么也不做

db.dropDatabase()

# 集合创建 #

*  语法

db.createCollection(name, options)

*  name是要创建的集合的名称
 *  options是一个文档，用于指定集合的配置
 *  选项参数是可选的，所以只需要到指定的集合名称。以下是可以使用的选项列表：
 *  例1：不限制集合大小

db.createCollection("stu")

*  例2：限制集合大小，后面学会插入语句后可以查看效果
 *  参数capped：默认值为false表示不设置上限，值为true表示设置上限
 *  参数size：当capped值为true时，需要指定此参数，表示上限大小，当文档达到上限时，会将之前的数据覆盖，单位为字节

db.createCollection("sub", { capped : true, size : 10 } )

# 查看当前数据库的集合 #

*  语法

show collections

# 删除 #

*  语法

db.集合名称.drop()

# 数据类型 #

*  下表为MongoDB中常用的几种数据类型：
 *  Object ID：文档ID
 *  String：字符串，最常用，必须是有效的UTF-8
 *  Boolean：存储一个布尔值，true或false
 *  Integer：整数可以是32位或64位，这取决于服务器
 *  Double：存储浮点值
 *  Arrays：数组或列表，多个值存储到一个键
 *  Object：用于嵌入式的文档，即一个值为一个文档
 *  Null：存储Null值
 *  Timestamp：时间戳
 *  Date：存储当前日期或时间的UNIX时间格式

#### object id ####

*  每个文档都有一个属性，为\_id，保证每个文档的唯一性
 *  可以自己去设置\_id插入文档
 *  如果没有提供，那么MongoDB为每个文档提供了一个独特的\_id，类型为objectID
 *  objectID是一个12字节的十六进制数
    
     *  前4个字节为当前时间戳
     *  接下来3个字节的机器ID
     *  接下来的2个字节中MongoDB的服务进程id
     *  最后3个字节是简单的增量值

# 插入 #

*  语法

db.集合名称.insert(document)

*  插入文档时，如果不指定\_id参数，MongoDB会为文档分配一个唯一的ObjectId
 *  例1

db.stu.insert({name:'gj',gender:1})

*  例2

s1={_id:'20160101',name:'hr'}
    s1.gender=0
    db.stu.insert(s1)

# 简单查询 #

*  语法

db.集合名称.find()

# 更新 #

*  语法

db.集合名称.update(
       <query>,
       <update>,
       {multi: <boolean>}
    )

*  参数query:查询条件，类似sql语句update中where部分
 *  参数update:更新操作符，类似sql语句update中set部分
 *  参数multi:可选，默认是false，表示只更新找到的第一条记录，值为true表示把满足条件的文档全部更新
 *  例3：全文档更新

db.stu.update({name:'hr'},{name:'mnc'})

*  例4：指定属性更新，通过操作符$set

db.stu.insert({name:'hr',gender:0})
    db.stu.update({name:'hr'},{$set:{name:'hys'}})

*  例5：修改多条匹配到的数据

db.stu.update({},{$set:{gender:0}},{multi:true})

# 保存 #

*  语法

db.集合名称.save(document)

*  如果文档的\_id已经存在则修改，如果文档的\_id不存在则添加
 *  例6

db.stu.save({_id:'20160102','name':'yk',gender:1})

*  例7

db.stu.save({_id:'20160102','name':'wyk'})

# 删除 #

*  语法

db.集合名称.remove(
       <query>,
       {
         justOne: <boolean>
       }
    )

*  参数query:可选，删除的文档的条件
 *  参数justOne:可选，如果设为true或1，则只删除一条，默认false，表示删除多条
 *  例8：只删除匹配到的第一条

db.stu.remove({gender:0},{justOne:true})

*  例9：全部删除

db.stu.remove({})

# 关于size的示例 #

*  例10
 *  创建集合

db.createCollection('sub',{capped:true,size:10})

*  插入第一条数据库查询

db.sub.insert({title:'linux',count:10})
    db.sub.find()

*  插入第二条数据库查询

db.sub.insert({title:'web',count:15})
    db.sub.find()

*  插入第三条数据库查询

db.sub.insert({title:'sql',count:8})
    db.sub.find()

*  插入第四条数据库查询

db.sub.insert({title:'django',count:12})
    db.sub.find()

*  插入第五条数据库查询

db.sub.insert({title:'python',count:14})
    db.sub.find()

# 数据查询 #

#### 基本查询 ####

*  方法find()：查询

db.集合名称.find({条件文档})

*  方法findOne()：查询，只返回第一个

db.集合名称.findOne({条件文档})

*  方法pretty()：将结果格式化

db.集合名称.find({条件文档}).pretty()

#### 比较运算符 ####

*  等于，默认是等于判断，没有运算符
 *  小于$lt
 *  小于或等于$lte
 *  大于$gt
 *  大于或等于$gte
 *  不等于$ne
 *  例1：查询名称等于'gj'的学生

db.stu.find({name:'gj'})

*  例2：查询年龄大于或等于18的学生

db.stu.find({age:{$gte:18}})

#### 逻辑运算符 ####

*  查询时可以有多个条件，多个条件之间需要通过逻辑运算符连接
 *  逻辑与：默认是逻辑与的关系
 *  例3：查询年龄大于或等于18，并且性别为1的学生

db.stu.find({age:{$gte:18},gender:1})

*  逻辑或：使用$or
 *  例4：查询年龄大于18，或性别为0的学生

db.stu.find({$or:[{age:{$gt:18}},{gender:1}]})

*  and和or一起使用
 *  例5：查询年龄大于18或性别为0的学生，并且学生的姓名为gj

db.stu.find({$or:[{age:{$gte:18}},{gender:1}],name:'gj'})

#### 范围运算符 ####

*  使用"$in"，"$nin" 判断是否在某个范围内
 *  例6：查询年龄为18、28的学生

db.stu.find({age:{$in:[18,28]}})

#### 支持正则表达式 ####

*  使用//或$regex编写正则表达式
 *  例7：查询姓黄的学生

db.stu.find({name:/^黄/})
    db.stu.find({name:{$regex:'^黄'}}})

#### 自定义查询 ####

*  使用$where后面写一个函数，返回满足条件的数据
 *  例7：查询年龄大于30的学生

db.stu.find({$where:function(){return this.age>20}})

# Limit #

*  方法limit()：用于读取指定数量的文档
 *  语法：

db.集合名称.find().limit(NUMBER)

*  参数NUMBER表示要获取文档的条数
 *  如果没有指定参数则显示集合中的所有文档
 *  例1：查询2条学生信息

db.stu.find().limit(2)

# skip #

*  方法skip()：用于跳过指定数量的文档
 *  语法：

db.集合名称.find().skip(NUMBER)

*  参数NUMBER表示跳过的记录条数，默认值为0
 *  例2：查询从第3条开始的学生信息

db.stu.find().skip(2)

# 一起使用 #

*  方法limit()和skip()可以一起使用，不分先后顺序
 *  创建数据集

for(i=0;i<15;i++){db.t1.insert({_id:i})}

*  查询第5至8条数据

db.stu.find().limit(4).skip(5)
    或
    db.stu.find().skip(5).limit(4)

# 投影 #

*  在查询到的返回结果中，只选择必要的字段，而不是选择一个文档的整个字段
 *  如：一个文档有5个字段，需要显示只有3个，投影其中3个字段即可
 *  语法：
 *  参数为字段与值，值为1表示显示，值为0不显示

db.集合名称.find({},{字段名称:1,...})

*  对于需要显示的字段，设置为1即可，不设置即为不显示
 *  特殊：对于\_id列默认是显示的，如果不显示需要明确设置为0
 *  例1

db.stu.find({},{name:1,gender:1})

*  例2

db.stu.find({},{_id:0,name:1,gender:1})

# 排序 #

*  方法sort()，用于对结果集进行排序
 *  语法

db.集合名称.find().sort({字段:1,...})

*  参数1为升序排列
 *  参数-1为降序排列
 *  例1：根据性别降序，再根据年龄升序

db.stu.find().sort({gender:-1,age:1})

# 统计个数 #

*  方法count()用于统计结果集中文档条数
 *  语法

db.集合名称.find({条件}).count()

*  也可以与为

db.集合名称.count({条件})

*  例1：统计男生人数

db.stu.find({gender:1}).count()

*  例2：统计年龄大于20的男生人数

db.stu.count({age:{$gt:20},gender:1})

# 消除重复 #

*  方法distinct()对数据进行去重
 *  语法

db.集合名称.distinct('去重字段',{条件})

*  例1:查找年龄大于18的性别（去重）

db.stu.distinct('gender',{age:{$gt:18}})

# 总结 #

*  安装
 *  数据库创建、删除
 *  集合创建、删除
 *  文档增加、修改、删除
 *  文档查询：find(),limit(),skip(),投影,sort(),count(),distinct()

# 高级操作 #

*  讲解关于mongodb的高级操作，包括聚合、主从复制、分片、备份与恢复、MR
 *  完成python与mongodb的交互

# 聚合 aggregate #

*  聚合(aggregate)主要用于计算数据，类似sql中的sum()、avg()
 *  语法

db.集合名称.aggregate([{管道:{表达式}}])

#### 管道 ####

*  管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入

ps ajx | grep mongo

*  在mongodb中，管道具有同样的作用，文档处理完毕后，通过管道进行下一次处理
 *  常用管道
    
     *  $group：将集合中的文档分组，可用于统计结果
     *  $match：过滤数据，只输出符合条件的文档
     *  $project：修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
     *  $sort：将输入文档排序后输出
     *  $limit：限制聚合管道返回的文档数
     *  $skip：跳过指定数量的文档，并返回余下的文档
     *  $unwind：将数组类型的字段进行拆分

#### 表达式 ####

*  处理输入文档并输出
 *  语法

表达式:'$列名'

*  常用表达式
    
     *  $sum：计算总和，$sum:1同count表示计数
     *  $avg：计算平均值
     *  $min：获取最小值
     *  $max：获取最大值
     *  $push：在结果文档中插入值到一个数组中
     *  $first：根据资源文档的排序获取第一个文档数据
     *  $last：根据资源文档的排序获取最后一个文档数据

# $group #

*  将集合中的文档分组，可用于统计结果
 *  \_id表示分组的依据，使用某个字段的格式为'$字段'
 *  例1：统计男生、女生的总人数

db.stu.aggregate([
        {$group:
            {
                _id:'$gender',
                counter:{$sum:1}
            }
        }
    ])

#### Group by null ####

*  将集合中所有文档分为一组
 *  例2：求学生总人数、平均年龄

db.stu.aggregate([
        {$group:
            {
                _id:null,
                counter:{$sum:1},
                avgAge:{$avg:'$age'}
            }
        }
    ])

#### 透视数据 ####

*  例3：统计学生性别及学生姓名

db.stu.aggregate([
        {$group:
            {
                _id:'$gender',
                name:{$push:'$name'}
            }
        }
    ])

*  使用$$ROOT可以将文档内容加入到结果集的数组中，代码如下

db.stu.aggregate([
        {$group:
            {
                _id:'$gender',
                name:{$push:'$$ROOT'}
            }
        }
    ])

# $match #

*  用于过滤数据，只输出符合条件的文档
 *  使用MongoDB的标准查询操作
 *  例1：查询年龄大于20的学生

db.stu.aggregate([
        {$match:{age:{$gt:20}}}
    ])

*  例2：查询年龄大于20的男生、女生人数

db.stu.aggregate([
        {$match:{age:{$gt:20}}},
        {$group:{_id:'$gender',counter:{$sum:1}}}
    ])

# $project #

*  修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
 *  例1：查询学生的姓名、年龄

db.stu.aggregate([
        {$project:{_id:0,name:1,age:1}}
    ])

*  例2：查询男生、女生人数，输出人数

db.stu.aggregate([
        {$group:{_id:'$gender',counter:{$sum:1}}},
        {$project:{_id:0,counter:1}}
    ])

# $sort #

*  将输入文档排序后输出
 *  例1：查询学生信息，按年龄升序

b.stu.aggregate([{$sort:{age:1}}])

*  例2：查询男生、女生人数，按人数降序

db.stu.aggregate([
        {$group:{_id:'$gender',counter:{$sum:1}}},
        {$sort:{counter:-1}}
    ])

# $limit #

*  限制聚合管道返回的文档数
 *  例1：查询2条学生信息

db.stu.aggregate([{$limit:2}])

# $skip #

*  跳过指定数量的文档，并返回余下的文档
 *  例2：查询从第3条开始的学生信息

db.stu.aggregate([{$skip:2}])

*  例3：统计男生、女生人数，按人数升序，取第二条数据

db.stu.aggregate([
        {$group:{_id:'$gender',counter:{$sum:1}}},
        {$sort:{counter:1}},
        {$skip:1},
        {$limit:1}
    ])

*  注意顺序：先写skip，再写limit

# $unwind #

*  将文档中的某一个数组类型字段拆分成多条，每条包含数组中的一个值

#### 语法1 ####

*  对某字段值进行拆分

db.集合名称.aggregate([{$unwind:'$字段名称'}])

*  构造数据

db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})

*  查询

db.t2.aggregate([{$unwind:'$size'}])

#### 语法2 ####

*  对某字段值进行拆分
 *  处理空数组、非数组、无字段、null情况

db.inventory.aggregate([{
        $unwind:{
            path:'$字段名称',
            preserveNullAndEmptyArrays:<boolean>#防止数据丢失
        }
    }])

*  构造数据

db.t3.insert([
    { "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },
    { "_id" : 2, "item" : "b", "size" : [ ] },
    { "_id" : 3, "item" : "c", "size": "M" },
    { "_id" : 4, "item" : "d" },
    { "_id" : 5, "item" : "e", "size" : null }
    ])

*  使用语法1查询

db.t3.aggregate([{$unwind:'$size'}])

*  查看查询结果，发现对于空数组、无字段、null的文档，都被丢弃了
 *  问：如何能不丢弃呢？
 *  答：使用语法2查询

db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}])

# 超级管理员 #

*  为了更安全的访问mongodb，需要访问者提供用户名和密码，于是需要在mongodb中创建用户
 *  采用了角色-用户-数据库的安全管理方式
 *  常用系统角色如下：
    
     *  root：只在admin数据库中可用，超级账号，超级权限
     *  Read：允许用户读取指定数据库
     *  readWrite：允许用户读写指定数据库
 *  创建超级管理用户

use admin
    db.createUser({
        user:'admin',
        pwd:'123',
        roles:[{role:'root',db:'admin'}]
    })

# 启用安全认证 #

*  修改配置文件

sudo vi /etc/mongod.conf

*  启用身份验证
 *  **注意：keys and values之间一定要加空格, 否则解析会报错**

security:
      authorization: enabled

*  重启服务

sudo service mongod stop
    sudo service mongod start

*  终端连接

mongo -u 'admin' -p '123' --authenticationDatabase 'admin'

# 普通用户管理 #

*  使用超级管理员登录，然后进入用户管理操作
 *  查看当前数据库的用户

use test1
    show users

*  创建普通用户

db.createUser({
        user:'t1',
        pwd:'123',
        roles:[{role:'readWrite',db:'test1'}]
    })

*  终端连接

mongo -u t1 -p 123 --authenticationDatabase test1

*  切换数据库，执行命令查看效果
 *  修改用户：可以修改pwd、roles属性

db.updateUser('t1',{pwd:'456'})

# 复制（副本集） #

#### 什么是复制 ####

*  复制提供了数据的冗余备份，并在多个服务器上存储数据副本，提高了数据的可用性，并可以保证数据的安全性
 *  复制还允许从硬件故障和服务中断中恢复数据

#### 为什么要复制 ####

*  数据备份
 *  数据灾难恢复
 *  读写分离
 *  高（24\* 7）数据可用性
 *  无宕机维护
 *  副本集对应用程序是透明

#### 复制的工作原理 ####

*  复制至少需要两个节点A、B...
 *  A是主节点，负责处理客户端请求
 *  其余的都是从节点，负责复制主节点上的数据
 *  节点常见的搭配方式为：一主一从、一主多从
 *  主节点记录在其上的所有操作，从节点定期轮询主节点获取这些操作，然后对自己的数据副本执行这些操作，从而保证从节点的数据与主节点一致
 *  主节点与从节点进行数据交互保障数据的一致性

#### 复制的特点 ####

*  N 个节点的集群
 *  任何节点可作为主节点
 *  所有写入操作都在主节点上
 *  自动故障转移
 *  自动恢复

#### 设置复制节点 ####

*  接下来的操作需要打开多个终端窗口，而且可能会连接多台ubuntu主机，会显得有些乱，建议在xshell中实现
 *  step1:创建数据库目录t1、t2
 *  在Desktop目录下演示，其它目录也可以，注意权限即可

mkdir t1
    mkdir t2

*  step2:使用如下格式启动mongod，注意replSet的名称是一致的

mongod --bind_ip 192.168.196.128 --port 27017 --dbpath ~/Desktop/t1 --replSet rs0
    mongod --bind_ip 192.168.196.128 --port 27018 --dbpath ~/Desktop/t2 --replSet rs0

*  step3:连接主服务器，此处设置192.168.196.128:27017为主服务器

mongo --host 192.168.196.128 --port 27017

*  step4:初始化

rs.initiate()

*  初始化完成后，提示符如下图：

![初始化][Image 1]

*  step5:查看当前状态

rs.status()

*  当前状态如下图：

![初始化][Image 1]

*  step6:添加复本集

rs.add('192.168.196.128:27018')

*  step7:复本集添加成功后，当前状态如下图：

![初始化][Image 1]

*  step8:连接第二个mongo服务

mongo --host 192.168.196.128 --port 27018

*  连接成功后，提示符如下图：

![初始化][Image 1]

*  step9:向主服务器中插入数据

use test1
    for(i=0;i<10;i++){db.t1.insert({_id:i})}
    db.t1.find()

*  step10:在从服务器中插查询
 *  说明：如果在从服务器上进行读操作，需要设置rs.slaveOk()

rs.slaveOk()
    db.t1.find()

#### 其它说明 ####

*  删除从节点

rs.remove('192.168.196.128:27018')

*  关闭主服务器后，再重新启动，会发现原来的从服务器变为了从服务器，新启动的服务器（原来的从服务器）变为了从服务器

# 分片 #

*  在Mongodb里面存在另一种集群，就是分片技术,可以满足MongoDB数据量大量增长的需求
 *  当MongoDB存储海量的数据时，一台机器可能不足以存储数据，也可能不足以提供可接受的读写吞吐量，这时，我们就可以通过在多台机器上分割数据，使得数据库系统能存储和处理更多的数据

#### 为什么使用分片 ####

*  本地磁盘不够大
 *  当请求量巨大时会出现内存不足。
 *  垂直扩展价格昂贵(内存、磁盘、cpu)

#### 实现分片 ####

*  分片结构图如下：

![分片][Image 1]

*  实现分片需要3部分：
    
     *  路由服务器mongos：客户端由此接入，根据分片依据，将数据写入到不同的数据服务器
     *  配置服务器mongod：将数据进行分片的依据
     *  数据服务器mongod：可以有多台物理机，用于存储实际的数据块
 *  设计端口如下：
    
     *  路由服务器：60001
     *  配置服务器：60002
     *  数据服务器1：60003
     *  数据服务器2：60004
 *  step1:启动数据服务器，当前位于Desktop目录下

sudo mkdir t1
    sudo mkdir t2
    sudo mongod --port 60003 --dbpath=~/Desktop/t1
    sudo mongod --port 60004 --dbpath=~/Desktop/t2

*  step2:启动配置服务器

sudo mkdir conf
    sudo mongod --port 60002 --dbpath=~/Desktop/conf

*  step3:启动路由服务器

sudo mongos --port 60001 --configdb 192.168.196.128:60002

*  step4:在路由服务器中添加数据服务器

mongo --port 60001
    use admin
    db.runCommand({addshard:'192.168.196.128:60003'})
    db.runCommand({addshard:'192.168.196.128:60004'})

*  step5:对数据库test1启用分片

db.runCommand({enablesharding:'test1'})

*  step6:指定片键，即集合中文档的分片依据

db.runCommand({shardcollection:'test1.t1',key:{name:1}})

*  step7:测试数据，向集合中插入1W条数据

for(i=0;i<10000;i++){
        db.t1.insert({name:'abc'+i})
    }

*  step8:查看数据存储情况

db.printShardingStatus()

*  可以查看到数据均匀存储在了数据服务器上
 *  step9:查询数据

db.t1.find({name:'abc1000'})
    db.t1.find({name:'abc9000'})

*  分片的使用，对于客户端是透明的，对数据的读写没有变化

# 备份 #

*  语法

mongodump -h dbhost -d dbname -o dbdirectory

*  \-h：服务器地址，也可以指定端口号
 *  \-d：需要备份的数据库名称
 *  \-o：备份的数据存放位置，此目录中存放着备份出来的数据
 *  例1

sudo mkdir test1bak
    sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak

# 恢复 #

*  语法

mongorestore -h dbhost -d dbname --dir dbdirectory

*  \-h：服务器地址
 *  \-d：需要恢复的数据库实例
 *  \--dir：备份数据所在位置
 *  例2

mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1

# MapReduce #

*  \`\`\`

Google在2003年到2004年公布了关于GFS、MapReduce和BigTable三篇技术论文，这也成为后来云计算发展的重要基石，
    
    谷歌技术有"三宝"，GFS(分布式文件系统)、MapReduce编程模型(Map映射和Reduce归约）和BigTable(分布式数据存储系统)！
    
    `Map-Reduce`是一种计算模型，简单的说就是将大批量的工作（数据）分解（MAP）执行，然后再将结果规约（REDUCE）成最终结果。
    
    ![](/photos/03-map-reduce.png)
    
    Google 2014年 I/O大会：`Google`已经停用`MapReduce`，开发并发布了一个新的超大规模云分析系统`Cloud Dataflow`。
    
    ![](/photos/01-aggregation-pipeline.png)
    
    ###MapReduce 命令
    
    以下是MapReduce的基本语法：
    ```javascript
    >db.collection.mapReduce(
       function() {emit(key,value);},  //map 函数
       function(key,values) {return reduceFunction},   //reduce 函数
       {
          out: collection,
          query: document,
          sort: document,
          limit: number
       }
    )

使用 MapReduce 要实现两个函数 `Map` 函数和 `Reduce` 函数,`Map` 函数调用 `emit(key, value)`, 遍历 `collection` 中所有的记录, 将`key`与 `value`传递给 `Reduce` 函数进行处理。

Map 函数必须调用 `emit(key, value)` 返回键值对。

参数说明:

*  map ：映射函数 (生成键值对序列,作为 reduce 函数参数)。
 *  reduce ：（规约）统计函数，reduce函数的任务就是将key-values变成key-value，也就是把values数组变成一个单一的值value。
 *  out ：统计结果存放集合 (不指定则使用临时集合,在客户端断开后自动删除)。
 *  query ：一个筛选条件，只有满足条件的文档才会调用map函数。（query，limit，sort可以随意组合）
 *  sort ：和limit结合的sort排序参数（也是在发往map函数前给文档排序），可以优化分组机制
 *  limit ：执行map函数之前，限定文档数量的上限（要是没有limit，单独使用sort的用处不大）

### MR示例 ###

现有集合 `orders` 内容如下

db.orders.insert([
    {
         _id: 1,
         cust_id: "marong",
         ord_date: new Date("Oct 04, 2012"),
         status: 'A',
         items: [ { sku: "mmm", qty: 5, price: 2.5 },
                  { sku: "nnn", qty: 5, price: 2.5 } ]
    },
    {
         _id: 2,
         cust_id: "marong",
         ord_date: new Date("Oct 05, 2012"),
         status: 'B',
         items: [ { sku: "mmm", qty: 5, price: 3 },
                  { sku: "nnn", qty: 5, price: 3 } ]
    }
    ])

### 计算每个客户的总消费 ###

执行过程：

![Image 1][]

#### 1. 执行 map 操作过程 ####

*  定义 `map` (映射) 函数来处理每个文档：
 *  映射每个文档的`cust_id`, 并处理 `items`
 *  先遍历 `items`，分别对每个`items`成员 `qty`和`price`相乘再求总和

var mapFunction2 = function() {
                           var key = this.cust_id;
                           var value = 0;
                           for (var idx = 0; idx < this.items.length; idx++) {
                                value += this.items[idx].qty * this.items[idx].price;
                           }
                           emit(key, value);
                        };

### 2. 定义reduce 函数有两个参数 keyCustId 和 valuesPrices ###

*  `valuesPrices` 是数组，由 `keyCustId` 分组, 收集 `value` 而来
 *  `reduces` 函数 对 `valuesPrices` 数组 求和.

var reduceFunction2 = function(keyCustId, valuesPrices) {
                         return Array.sum(valuesPrices);
                      };

#### 3. 执行 map-reduce 函数 ####

db.orders.mapReduce(
                         mapFunction2,
                         reduceFunction2,
                         { out: "map_reduce_example" }
                       )

# 与python交互 #

*  点击查看[官方文档][Link 2]
 *  安装python包

进入虚拟环境
    sudo pip install pymongo
    或源码安装
    python setup.py

*  引入包pymongo

import pymongo

*  连接，创建客户端

client=pymongo.MongoClient("localhost", 27017)

*  获得数据库test1

db=client.test1

*  获得集合stu

stu = db.stu

*  添加文档