(一)Hadoop的RPC
发布日期:2021-11-18 17:47:24
浏览次数:8
分类:技术文章
本文共 2251 字,大约阅读时间需要 7 分钟。
文章目录
前言
RPC:不同进程间方法的调用
DataNode->去调用NameNode的方法此时DataNode和NameNode属于不同的进程
1. 项目要点
1.1 项目背景
公司集群已运行一年之多,现在集群为满足公司需求,计划将集群扩为300+节点,在过去一年的集群管理中收集到了一些Hadoop集群的bug和性能改造点,故成立了此项目对当前的Hadoop集群进行性能提升和Bug修复。
1.2 项目目标
提升集群性能,保证集群4个9稳定。
2. 项目基础知识
2.1 Hadoop RCP
RPC(Remote Procedure Call)—,它是一种通过从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。
代码实现
pom依赖
org.apache.hadoop hadoop-client 2.7.0
/** * 协议 * @author Administrator * */public interface ClientProtocol { long versionID=1234L; void makeDir(String path);}
服务端代码
/** * RPC服务端 * @author Administrator * */public class NameNodeRpcServer implements ClientProtocol { /** * 创建目录 */ @Override public void makeDir(String path) { System.out.println("服务端:"+path); } public static void main(String[] args) throws Exception { Server server = new RPC.Builder(new Configuration()) .setBindAddress("localhost") .setPort(9999) .setProtocol(ClientProtocol.class) .setInstance(new NameNodeRpcServer()) .build(); //启动服务端 server.start(); } }
客户端代码
/** * RPC客户端 * @author Administrator * */public class DFSClient { public static void main(String[] args) throws IOException { ClientProtocol namenode = RPC.getProxy(ClientProtocol.class, 1234L, new InetSocketAddress("localhost",9999), new Configuration()); namenode.makeDir("/user/opt/soft"); }}
RPC总结:
1)不同进程的方法的调用 2)RPC 分为客户端和服务端,客户端调用服务端的方法。方法的执行是在服务端 3)其实我们里面一直说的协议其实说白了就是一个接口 但是这个接口有个要求,里面必须要有versionID 4) 协议里面会很多抽象方法,里面的抽象方法由服务端来去实现。 或者说,谁实现了这些抽象方法,谁就是服务端。 5)如果是RPC的服务端: a:实现了协议里面方法 b:启动服务端进程Server server =new RPC.Builder(new Configuration()) .setBindAddress("localhost") .setPort(9999) .setProtocol(ClientProtocol.class) .setInstance(new NameNodeRpcServer()) .build(); /** * 这样的话,就把服务给启动起来了 * 服务启动起来了以后,等待别人的调用。 */ server.start();
c: jps命令能看得到
6)如果是RPC的客户端:
//获取服务端的代理 ClientProtocol namenode= RPC.getProxy( ClientProtocol.class, 1234L, new InetSocketAddress("localhost", 9999) , new Configuration()); //通过这个代理去调用服务端的代码 namenode.mkdirPath("/usr/local/host");
阅读源码:
不要什么目的都没有,带着你的想法去阅读。接下来我们去看一下hadoop的源码。我们的目标是去验证Namenode和datanode是不是RPC的服务端。
RCP:不同进程的方法的调用
Hadoop RPC: 不同进程的方法的调用 http也是一种RPC:可以实现不同进程的方法的调用会不会NameNodeRPCserver 才是namenode真正的服务端?
转载地址:https://blog.csdn.net/weixin_37850264/article/details/112297423 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!
发表评论
最新留言
很好
[***.229.124.182]2024年04月13日 12时30分58秒
关于作者
喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
Power PMAC运动控制器 —— 学习笔记2
2019-04-28
运动控制 —— 强大的状态机工具
2019-04-28
Platinum Maestro运动控制器 —— PVT模式笔记
2019-04-28
Platinum Maestro运动控制器 —— 运动程序笔记
2019-04-28
PID算法原理及参数调整原则
2019-04-28
Platinum Maestro运动控制器 ——速度位置等数据的获取
2019-04-28
Platinum Maestro运动控制器 ——Ssh登录控制器
2019-04-28
基础笔记2 —— 不损失精度的前提下浮点数拆分成整型的方法浅析
2019-04-28
数据类型在内存中的存储
2019-04-28
循环神经网络(LSTM)实现股票预测-深度学习100例 | 第10天
2019-04-28
Python3--爬取数据之911网站信息爬取
2019-04-28
Python--format()学习记录
2019-04-28
Python--切片学习记录
2019-04-28
Python--判断一个字符串是否包含某子串的几种方法
2019-04-28
pandas包
2019-04-28
Python爬虫之图片爬取
2019-04-28
Python--音频文件分类代码
2019-04-28
Python3--baby网的数据爬取
2019-04-28
Python--读取csv文件的整列
2019-04-28
Python3--有道音频下载
2019-04-28