行业资讯 2025年08月6日
0 收藏 0 点赞 169 浏览 768 个字
摘要 :

文章目录 1、首先我们来看YARN工作流程图: 2、YARN工作流程注意包括以下几个步骤: 1、首先我们来看YARN工作流程图: 2、YARN工作流程注意包括以下几个步骤: 1.首先……




  • 1、首先我们来看YARN工作流程图:
  • 2、YARN工作流程注意包括以下几个步骤:

1、首先我们来看YARN工作流程图:

Yarn的工作流程

2、YARN工作流程注意包括以下几个步骤:

1.首先用户向YARN中的ResouceManager提交应用程序,包括用户程序、启动ApplicationMaster命令和ApplicationMaster程序等。

2.ResourceManager为该应用程序分配Container,随后与Container所在的NodeManager进行通信,并且由NodeManager在Container中启动对应的ApplicationMaster。

3.ApplicationMaster会在ResourceManager中进行注册,目的是让用户可以直接通过ResourceManager查看应用程序的运行情况,然后它会为这个应用程序的各项任务申请资源,同时监控其运行状态,直到运行结束

4.ApplicationMaster采用的轮询方式,基于RPC协议向ResourceManager 的 scheduler申请和领取资源

5.在ApplicationMaster申请到资源后,它会和申请到的Container所对应的NodeManager进行交互通信,同时要求在该Container中启动任务。

6.NodeManager为要启动的任务准备好运行环境,并且将启动命令写在一个脚本中,通过该脚本来运行任务。

7.每个任务基于RPC协议向对应的ApplicationMaster汇报自己的运行状态和进度,以便让ApplicationMaster随时掌握各个任务的运行状态,从而可以在任务失败时重新启动任务。

8.应用程序运行完成后,期对应的ApplicationMaster会通过与ResourceManager通信来要求注销并关闭自己。

微信扫一扫

支付宝扫一扫

版权: 转载请注明出处:https://www.zuozi.net/7337.html

管理员

相关推荐
2025-08-06

文章目录 一、Reader 接口概述 1.1 什么是 Reader 接口? 1.2 Reader 与 InputStream 的区别 1.3 …

988
2025-08-06

文章目录 一、事件溯源 (一)核心概念 (二)Kafka与Golang的优势 (三)完整代码实现 二、命令…

465
2025-08-06

文章目录 一、证明GC期间执行native函数的线程仍在运行 二、native线程操作Java对象的影响及处理方…

348
2025-08-06

文章目录 一、事务基础概念 二、MyBatis事务管理机制 (一)JDBC原生事务管理(JdbcTransaction)…

456
2025-08-06

文章目录 一、SnowFlake算法核心原理 二、SnowFlake算法工作流程详解 三、SnowFlake算法的Java代码…

517
2025-08-06

文章目录 一、本地Jar包的加载操作 二、本地Class的加载方法 三、远程Jar包的加载方式 你知道Groo…

832
发表评论
暂无评论

还没有评论呢,快来抢沙发~

助力内容变现

将您的收入提升到一个新的水平

点击联系客服

在线时间:08:00-23:00

客服QQ

122325244

客服电话

400-888-8888

客服邮箱

122325244@qq.com

扫描二维码

关注微信客服号