3节点启动JobHistoryServer的问题

3节点启动JobHistoryServer的问题

徐老师你好,视频里说JobHistoryServer在3个节点都要启动,但是我发现只能在节点1启动,在节点2或节点3启动的时候,都报错:Caused by: java.io.IOException: Failed to bind to hadoop1/172.18.0.60:19888,Port in use: hadoop1:19888,意思是端口已被占用。


172.18.0.60是集群第一个节点的IP,我的yarn-site.xml里配置的是:

  <!-- 设置日志聚集服务器地址 -->

  <property>

    <name>yarn.log.server.url</name>

    <value>http://hadoop1:19888/jobhistory/logs</value>

  </property>


那我判断应该就是启动服务的时候,都是根据配置文件里配置的信息去启动的,由于配置的是hadoop1节点,所以就不能重复启动了呢?



正在回答 回答被采纳积分+1

登陆购买课程后可参与讨论,去登陆

1回答
徐老师 2021-12-02 17:10:01

不是的,这个配置里的url是一个跳转连接,所有节点上都需要启动historyserver服务


你现在的hadoop集群配置参数应该和课程中提供的不完全一样把,这个问题我还是第一次遇到,大概率还是配置文件搞错了。

按照课程中提供的集群配置和historyserver配置检查一下,如果还有问题,加一下慕课官网QQ群(加群方式在第一周1-1小节里面有介绍),到时候远程看一下

  • 提问者 qq_两个世界_1 #1

    谢谢老师的回复。
    我这边确认没有配错,和老师视频里的完全一样,并且在三个集群节点都同步了。最大的不同是我用的hadoop是3.3.0版本。目前节点1可以顺利启动,日志已经可以看了。

    2021-12-02 17:53:41
  • 那估计是和版本有关系,建议在学习阶段框架的版本和课程中保持一致,要不然会遇到很多版本环境的问题,课程中的版本之间的问题我都趟过坑了 等工作后再根据实际的版本去使用即可
    2021-12-02 17:59:05
  • 提问者 qq_两个世界_1 回复 徐老师 #3

    徐老师,我大概是找到了原因,我在mapred-site.xml配置了如下属性:

    <property>

        <name>mapreduce.jobhistory.address</name>

        <value>hadoop1:10020</value>

    </property>


    <property>

        <name>mapreduce.jobhistory.webapp.address</name>

        <value>hadoop1:19888</value>

    </property>

    也就是指定了节点1,而默认配置文件中的是localhost,我注释掉之后,其他节点也可以启动了。


    但是我目前还没弄清楚有没有必要设置mapreduce.jobhistory.webapp.address

    2021-12-02 19:01:26
问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
请稍等 ...
意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师