博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
hadoop(10)--MR运行模式以及Yarn的调度流程
阅读量:7175 次
发布时间:2019-06-29

本文共 2570 字,大约阅读时间需要 8 分钟。

首先开门见山,说明一下MR的l两种种运行模式

1,在本地运行模式
①在windows中,intellij idea或者eclipse中直接运行,文件存储可以是本地也可以是HDFS
②在linux中,运行eclipse,文件存储可以是本地也可以是HDFS
2,集群运行模式
①,在windows中将MR程序编写好,运行main提交到集群中,交由yarn去调度运行,这一种,需要修改好多信息,因为平台不一样,需要修改如下:
要在windows中解压一份hadoop安装包
配置HADOOP_HOME和Path
重新编译YarnRunner
②,在linux中运行编写好的MR程序,提交到集群中
③,编好MR程序,打包位jar,命令运行
hadoop jar **.jar *******.java
为什么要说一下运行模式呢?为了写MR程序在本地测试了通过之后,直接在集群上用命令运行,这样就会提高效率
OK!
接下来先简单的介绍一下Yarn的调度流程,用画图的方式,先大概的描述一下整个调度流程,明天分析源码

image.png

看一看进程的变化

运行

image.png
jps观察
[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3400 Jps2236 DataNode2141 NameNode[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3478 Jps3434 RunJar2236 DataNode2141 NameNode[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3525 Jps3434 RunJar2236 DataNode2141 NameNode[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster3434 RunJar2236 DataNode2141 NameNode3663 Jps[songlj@my01 ~]$ jps3680 Jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster3434 RunJar2236 DataNode2141 NameNode[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster3751 Jps3434 RunJar2236 DataNode2141 NameNode[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3811 Jps3652 MRAppMaster3801 YarnChild3434 RunJar2236 DataNode2141 NameNode[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster3831 Jps3801 YarnChild3434 RunJar2236 DataNode2141 NameNode[songlj@my01 ~]$ jsp-bash: jsp: command not found[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster3913 Jps3434 RunJar2236 DataNode2141 NameNode3903 YarnChild[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster3434 RunJar2236 DataNode2141 NameNode3934 Jps3903 YarnChild[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster3992 Jps3434 RunJar2236 DataNode2141 NameNode[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster4004 Jps2236 DataNode2141 NameNode[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager3652 MRAppMaster2236 DataNode2141 NameNode4015 Jps[songlj@my01 ~]$ jps2561 ResourceManager2417 SecondaryNameNode2659 NodeManager2236 DataNode2141 NameNode4030 Jps[songlj@my01 ~]$ 复制代码

从上面就可以看出

RunJar
MRAppMaster
YarnChild
这三个进程的出现以及消失,就可以看出Yarn在资源调度的时候产生的进程以及过程
好了,今天就分享到这里,明天看Yarn调度过程的源码
望指正,不吝赐教!

转载地址:http://vrbzm.baihongyu.com/

你可能感兴趣的文章
JavaScript数组方法的兼容性写法 汇总:indexOf()、forEach()、map()、filter()、some()、every()...
查看>>
Qcreator3.1.2调试器(windows)版本
查看>>
java.lang包中异常
查看>>
1001种玩法 | Python Prompt Toolkit:构建强大交互式命令行的 Python 工具库
查看>>
shell和bat 监控进程,自动关机
查看>>
【转】面试题:最长回文子串
查看>>
mongodb系列~ mongodb慢语句(3)
查看>>
Ball mill used in the process of fining material
查看>>
javascript 组合模式,对象冒充+原形链继承
查看>>
SDUT OJ 数据结构实验之图论五:从起始点到目标点的最短步数(BFS)
查看>>
.net 中主框架的搭建(2种方式)
查看>>
viewPager
查看>>
朴素贝叶斯python小样本实例
查看>>
[转]How to write dll
查看>>
C# For Bot Framework
查看>>
react native 增加react-native-camera
查看>>
陶哲轩实分析 习题 13.4.8
查看>>
线程和多线程(二)
查看>>
vmware共享文件夹
查看>>
关于wp-autopost不能连续采集的问题,这里有解决方案
查看>>