Yarn HA
RM:
a.启动时会通过向ZK的/hadoop-ha目录写一个lock文件,写成功则为active,否则standyby
standy 的RM会一直监控lock文件是否存在,如果不存在就会尝试去创建,争取为active RM
b.会接收客户端的任务请求,接收和监控nm的资源的汇报,负责资源的分配与调度,启动和监控我们的ApplicationMaster
NM:
节点上的资源的管理,启动container容器,运行task的计算,上报资源,container情况汇报给RM和任务的处理情况汇报给作业的ApplicationMaster
ZKFC直接嵌入到RM中
RMStateStore直接存储到ZK中
ApplicationMaster(AM):
单个application(job)的task的管理和调度,并向rm进行资源的申请,向nm发出 launch conta指令,接收NM的task的处理状态信息。
面试题:ApplicationMaster 运行在哪里
ApplicationMaster 运行在nm机器上的container。AM也是个任务,只不过在做它自己该完成的职责。
RMstatestore:
a.RM的作业信息存储在ZK的/rmstore下,active RM向这个目录写 作业信息(即Application)
b当activerm挂了,另外一个standby rm成功转换为active rm后,会从/rmstore目录读取相应的作业信息,重新构建作业的内存信息。
然后开始内部服务,开始接受NM的心跳,构建集群资源的信息,并接收客户端的提交作业的请求等。
ZKFC:
自动故障转移,只作为RM进行的一个线程,而非独立的守护进程来启动。
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。