加载中…
个人资料
CDA数据分析师_人大经济论坛
CDA数据分析师_人
大经济论坛
  • 博客等级:
  • 博客积分:0
  • 博客访问:35,203
  • 关注人气:10
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
相关博文
推荐博文
谁看过这篇博文
加载中…
正文 字体大小:

hadoop:分布式集群参数master节点的配置!

(2020-05-27 10:02:14)
标签:

hadoop

分类: 大数据时代·咨询热点

之前的文章中我们已经将master节点的网络IP、hostname文件、hosts文件配置完成,接下来还有hadoop相关配置文件需要修改。今天我们来讲master节点hadoop的配置。

1、hdfs-site.xml

在hadoop的配置文件中与HDFS(hadoop分布式文件系统)相关的是hdfs-core.xml文件。在伪分布集群中只有一个节点,因此此节点即要有NameNode功能也要有DataNode功能。在工作环境中这两个是不会在一个节点上的,在我们的多节点分布式集群中master只运行NameNode因此需在hdfs-site.xml文件中删除DataNode相关配置。

    打开虚拟机在终端中输入cd hadoop/etc/hadoop 命令进入hadoop配置文件目录。

hadoop:分布式集群参数master节点的配置!

终端输入命令vim hdfs-site.xml进入vim编辑界面,按下图步骤删除原来伪分布集群配置的DataNode相关配置,并将数据冗余数量设置为2。

hadoop:分布式集群参数master节点的配置!

输入i进入编辑模式,编辑后的文件内容如下所示。

hadoop:分布式集群参数master节点的配置!

最后退出编辑模式,保存并退出。

2、core-site.xml

在core-site.xml中指定一个节点运行hdfs服务。在之前伪分布集群中只有一个节点,因此我们使用的是localhost,如今在集群中有三个节点,我们约定使用master。

在终端中输入vim core-site.xml按下图操作修改配置文件。

hadoop:分布式集群参数master节点的配置!

修改后内容如下所示

hadoop:分布式集群参数master节点的配置!

记得退出并保存。

3、yarn-site.xml

在yarn-site.xml里可以修改与资源管理模块YARN相关的一些配置。

终端中输入 vim yarn-site.xml进行以下更改,将资源调度管理任务放置于master节点上

最终修改后的文件内容如下图所示。

hadoop:分布式集群参数master节点的配置!

4、mapred-site.xml

进行以下更改,主要添加mapreduce运行历史记录监控端口和网页端口。

同样,在终端输入vim mapred-site.xml开始编辑配置文件,配置内容如下所示

hadoop:分布式集群参数master节点的配置!

最后保存并退出。

5、slaves

slaves文件指明哪些节点运行DateNode进程,这里我们的集群中运行DataNode进程的节点有slave1、slave2。因此需将这两节点保存到slaves文件中。

在终端中输入 vim slaves命令编辑文件,编辑后的文件内容如下图所示。

hadoop:分布式集群参数master节点的配置!

最后保存slaves文件并退出编辑。到这里master节点上的hadoop相关配置已经完成了。

接下来我们要通过克隆master及slave1虚拟机来扩展集群。

6、生成slave1节点

通过克隆master 生成slave1节点的过程与之前克隆伪分布节点的操作是一致的这里不再赘述,唯一区别是在执行到下图步骤时注意将虚拟机名称设置为slave1并选择正确的存储位置方便管理。还有一点,被克隆的虚拟机一定要关机状态才可以被克隆。

hadoop:分布式集群参数master节点的配置!

slave1节点与master节点在hostname、IP地址、Hadoop配置这几个方面是有些差异的,在复制好slave1节点之后需进行配置。

6.1 配置IP地址

在前面文章中提到过slave1节点IP地址应设置为固定的值:192.168.79.12。详细的配置方法步骤已经在配置master节点时介绍过,配置slave1节点时可以参考一下。修改完成后的配置结果如下图所示,点击save保存即可。

hadoop:分布式集群参数master节点的配置!

6.2、修改hostname

hadoop:分布式集群参数master节点的配置!
hadoop:分布式集群参数master节点的配置!

保存并退出

6.3、修改Hadoop配置项

   hdfs-site.xml

hadoop:分布式集群参数master节点的配置!
hadoop:分布式集群参数master节点的配置!

保存并退出之后重启slave1节点查看配置是否生效。

hadoop:分布式集群参数master节点的配置!
hadoop:分布式集群参数master节点的配置!

7、生成slave2节点

Slave2与slave1在Hadoop相关配置内容上是一致的,因此通过克隆slave1节点来生成slave2可以减少一些操作步骤。

克隆slave1节点时的操作步骤同样参考之前文章内容,区别是执行到下图步骤时记得更改虚拟机名称为slave2并更改存储目录(存储目录自己定义)。

hadoop:分布式集群参数master节点的配置!

7.1、配置IP地址         

克隆完成后打开slave2虚拟机并配置其IP地址。配置过程与之前配置master节点IP过程一致,只是IP地址需改为192.168.79.13结果如下图所示,点击save保存即可。

hadoop:分布式集群参数master节点的配置!

更改Hostname,在终端中输入sudo vim /etc/hostname并回车执行,根据提示输入密码

hadoop:分布式集群参数master节点的配置!

输入i编辑hostname文件,文件内容如下所示为slave2,然后保存退出。

hadoop:分布式集群参数master节点的配置!

   重启虚拟机测试配置是否生效,重启命令为sudo reboot

hadoop:分布式集群参数master节点的配置!

slave2重新启动后打开终端,输入命令ifconfig查看IP设置及虚拟机名,如下图所示配置已经生效。

hadoop:分布式集群参数master节点的配置!

到这里我们的hadoop集群安装配置完成。接下来的文章我会给大家介绍一下hadoop集群如如何启动。

0

阅读 评论 收藏 转载 喜欢 打印举报/Report
  • 评论加载中,请稍候...
发评论

    发评论

    以上网友发言只代表其个人观点,不代表新浪网的观点或立场。

      

    新浪BLOG意见反馈留言板 电话:4000520066 提示音后按1键(按当地市话标准计费) 欢迎批评指正

    新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 会员注册 | 产品答疑

    新浪公司 版权所有