博客
关于我
理解MapReduce原理_mr
阅读量:374 次
发布时间:2019-03-05

本文共 960 字,大约阅读时间需要 3 分钟。

用自己的话概况一下

MapReduce是一个基于集群的计算平台,是一个简化分布式编程的计算框架,是一个将分布式计算抽象为Map和Reduce两个阶段的编程模型。(这句话记住了是可以用来装逼的)

基本概念–job和task

作业job是客户端要求执行的一个工作单元

– 输入数据、MapReduce程序、配置信息
任务task是MapReduce将作业拆成的小单元
– map任务和reduce任务
• Job Tracker节点(master)
– 调度task在Task Tracker上运行,协调所有作业运行
– 如果一个task失败,Job Tracker指定一个Task Tracker重新开始
• Task Tracker节点(worker)
– 执行任务,发送进度报告

分片的定义

– MapReduce把输入的数据划分成等长的小数据块,称为输入分片input split,简称分片

• 分片大小

– 分片越小,负载越平衡
– 异构时根据计算机性能分配任务个数
– 失败重启更加平衡
– 分片越小,框架开销越大

每个分片一个map任务

– 管理分配的总时间和构建map任务时间变大
– 默认HDFS块大小,128MB

• 计算数据本地化

– 在本地存有HDFS数据的节点上运行map任务
在这里插入图片描述
图解:
在这里插入图片描述

MapReduce详细过程

• 一个split(切片)起一个map任务

• map输出时会先将输出中间结果写入到buffer中 • 在buffer中对数据进行partition(分区,partition数为reduce数)和基于key的sort(排序),达到阈
值后spill到本地磁盘
• 在map任务结束之前,会对输出的多个文件进行merge(合并),合并成一个文件
• 每个reduce任务会从多个map输出中拷贝自己的partition
• reduce也会将数据先放到buffer中,达到阈值会写到磁盘
• 当数据该reduce的map输出全部拷贝完成,合并多个文件成一个文件,并保持基于key的有序
• 最后,执行reduce阶段,运行我们实现的reduce中化简逻辑,最终将结果直接输出到HDFS中

可以参考这:

https://www.jianshu.com/p/ca165beb305b

转载地址:http://varg.baihongyu.com/

你可能感兴趣的文章
mysql 权限登录问题:ERROR 1045 (28000): Access denied for user ‘root‘@‘localhost‘ (using password: YES)
查看>>
MYSQL 查看最大连接数和修改最大连接数
查看>>
MySQL 查看有哪些表
查看>>
mysql 查看锁_阿里/美团/字节面试官必问的Mysql锁机制,你真的明白吗
查看>>
MySql 查询以逗号分隔的字符串的方法(正则)
查看>>
MySQL 查询优化:提速查询效率的13大秘籍(避免使用SELECT 、分页查询的优化、合理使用连接、子查询的优化)(上)
查看>>
mysql 查询数据库所有表的字段信息
查看>>
【Java基础】什么是面向对象?
查看>>
mysql 查询,正数降序排序,负数升序排序
查看>>
MySQL 树形结构 根据指定节点 获取其下属的所有子节点(包含路径上的枝干节点和叶子节点)...
查看>>
mysql 死锁 Deadlock found when trying to get lock; try restarting transaction
查看>>
mysql 死锁(先delete 后insert)日志分析
查看>>
MySQL 死锁了,怎么办?
查看>>
MySQL 深度分页性能急剧下降,该如何优化?
查看>>
MySQL 深度分页性能急剧下降,该如何优化?
查看>>
MySQL 添加列,修改列,删除列
查看>>
mysql 添加索引
查看>>
MySQL 添加索引,删除索引及其用法
查看>>
mysql 状态检查,备份,修复
查看>>
MySQL 用 limit 为什么会影响性能?
查看>>