Yarn源码分析3-NodeManager剖析1 Posted on 2018-01-26 | In hadoop , yarn Yarn源码分析3-NodeManager剖析1《Hadoop技术内幕-深入解析YARN架构设计与实现原理》学习笔记。 (Yarn源码基于Hadoop 3.0.0) Yarn源码小组讨论班2018-01-26 NM是单个计算节点的管理服务,它的主要功能包括: 与RM保持通信 管理Containe ... Read more »
Yarn源码分析2-ResourceManager剖析1 Posted on 2018-01-17 | In hadoop , yarn Yarn源码分析2-ResourceManager剖析1《Hadoop技术内幕-深入解析YARN架构设计与实现原理》学习笔记。 (Yarn源码基于Hadoop 3.X) Yarn源码小组讨论班2018-01-17 ResourceManager(RM)是整个YARN集群的大脑 它的设计直接决 ... Read more »
Yarn源码分析1-设计理念与基本架构 Posted on 2018-01-12 | In hadoop , yarn Yarn源码分析1-设计理念与基本架构《Hadoop技术内幕-深入解析YARN架构设计与实现原理》学习笔记 Yarn源码小组讨论班2018-01-12 本文内容属于《Hadoop技术内幕-深入解析YARN架构设计与实现原理》学习笔记, 外加一些个人的思考。 1 YARN产生背景最早的hadoop是由 ... Read more »
Flink on YARN源码分析(基于1.4版本) Posted on 2017-12-14 | In Flink Flink on YARN源码分析(基于1.4版本) liyakun.hit2017-12-14 1. 从命令行开始在Flink上面提交任务需要使用下面的命令:flink_deploy/deploy/flink-dev/bin/flink run -d -c ... Read more »
log4j源码分析(基于1.2.17版本) Posted on 2017-12-04 | In log4j log4j源码分析(版本1.2.17) liyakun.hit2017-12-04 1. Log4j使用方式1.1 引入jar包在pom文件中添加如下依赖: log4j log4j 1.2.17 1.2 代码集成在源码中集成Log4j的使用示例如下: 123456789import ... Read more »
TCP网络拥塞控制 Posted on 2017-11-17 | In 网络 TCP网络拥塞控制 liyakun.hit 2017-11-17 1. 背景所有的网络协议都是为了最大化的利用网络资源,一直到网络出现拥塞。 拥塞发生的根本原因是资源不足以满足用户的需求,这些资源包括缓存空间、链路带宽容量和中间节点的处理能力。由于互联网的设计机制导致其在网络资源不足时无法限制用户 ... Read more »
从一个小程序看 spark core 源码 Posted on 2017-08-29 | In spark 从一个小程序看 spark core 源码2017-8-29liyakun 从一个小程序的运行入手,看一下整个spark core 底层的流程。 1. 小程序-GroupByTest这是一个使用Spark进行GroupBy的小程序。 程序属于Spark使用代码示例中的一个,在Spark中的源码的位置 ... Read more »