【MapReduce】---- MR 框架原理之 Shuffle机制-白红宇

【MapReduce】---- MR 框架原理之 Shuffle机制

阅读量：329 次

发布时间：2019-03-04

本文共 581 字，大约阅读时间需要 1 分钟。

文章目录

♑ 定义

Map方法之后，Reduce方法之前的数据处理过程称之为Shuffle。

♑ Map方法之后Shuffle过程

在这里插入图片描述

主要包括以下几步：

♬ 分区

在溢写之前对环形缓冲区中的数据集进行分区操作

♬ 排序

在溢写之前对环形缓冲区中分区的数据集进行排序，按照分区进行

♬ Combiner（可选）

在溢写到磁盘之前，如果是汇总操作，可以利用Combiner对数据进行分区合并，最终溢写到磁盘上

♬ 分区归并排序

将分区上的数据集进行归并，同一分区上的数据集合并，排序（如果符合条件还可以继续进行Combiner合并）

♬ 压缩

对处理好的数据进行压缩

♬ 写磁盘

将压缩好的数据写到磁盘上，按分区输出

♑ Reduce方法之前Shuffle过程

在这里插入图片描述

主要包括以下几步：

♬ 拷贝

将map处理输出的同一分区数据拷贝到内存中，若内存不够，溢出到磁盘中（同时开启一个RecuceTask来处理该分区的数据）

♬ 归并排序

将内存和磁盘上的数据集进行归并，也就是在每个开启的ReduceTask中，对从不同MapTask中拉取过来的相同分区的数据进行合并，之后对每个ReduceTask上合并的总数据集再进行排序。

♬ 分组

对归并好的数据按照相同的key进行分组，等待reduce()来对同组数据进行处理，也就是相同key的数据进入同一个reduce()方法。

转载地址：http://ckeq.baihongyu.com/

你可能感兴趣的文章

mysql 使用sql文件恢复数据库

mysql 修改默认字符集为utf8

Mysql 共享锁

MySQL 内核深度优化

mysql 内连接、自然连接、外连接的区别

mysql 写入慢优化

mysql 分组统计SQL语句

Mysql 分页语句 Limit原理

MySql 创建函数 Error Code : 1418

MySQL 创建新用户及授予权限的完整流程

mysql 创建表，不能包含关键字values 以及表id自增问题

mysql 删除日志文件详解

mysql 判断表字段是否存在，然后修改

MySQL 到底能不能放到 Docker 里跑？

mysql 前缀索引命令_11 | Mysql怎么给字符串字段加索引？

MySQL 加锁处理分析

mysql 协议的退出命令包及解析

mysql 参数 innodb_flush_log_at_trx_commit

mysql 取表中分组之后最新一条数据分组最新数据分组取最新数据分组数据获取每个分类的最新数据