网站建设资讯

NEWS

网站建设资讯

hadoop安装遇到的问题

1、启动yarn时报Error: JAVA_HOME is not set and could not be found.

创新互联建站服务项目包括嵩明网站建设、嵩明网站制作、嵩明网页制作以及嵩明网络营销策划等。多年来,我们专注于互联网行业,利用自身积累的技术优势、行业经验、深度合作伙伴关系等,向广大中小型企业、政府机构等提供互联网行业的解决方案,嵩明网站推广取得了明显的社会效益与经济效益。目前,我们服务的客户以成都为中心已经辐射到嵩明省份的部分城市,未来相信会继续扩大服务区域并继续获得客户的支持与信任!

修改/etc/hadoop/hadoop-env.sh中设JAVA_HOME,应当使用绝对路径。

export JAVA_HOME=$JAVA_HOME                  //错误,不能这么改

export JAVA_HOME=/usr/java/jdk1.6.0_45        //正确,应该这么改

2、安装完启动hadoop的时候出现如下警告信息

2016-05-20 18:45:11,022 INFO org.apache.hadoop.http.HttpServer2: Jetty bound to port 50070
2016-05-20 18:45:11,027 INFO org.mortbay.log: jetty-6.1.26
2016-05-20 18:45:11,648 INFO org.mortbay.log: Started HttpServer2$SelectChannelConnectorWithSafeStartup@0.0.0.0:50070
2016-05-20 18:45:11,725 

2016-05-20 18:45:11,833 INFO org.apache.hadoop.hdfs.server.namenode.FSNamesystem: No KeyProvider found.
2016-05-20 18:45:11,849 INFO org.apache.hadoop.hdfs.server.namenode.FSNamesystem: fsLock is fair:true
2016-05-20 18:45:11,899 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeManager: dfs.block.invalidate.limit=1000
2016-05-20 18:45:11,900 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeManager: dfs.namenode.datanode.registration.ip-hostname-check=true
2016-05-20 18:45:11,904 INFO org.apache.hadoop.hdfs.server.blockmanagement.BlockManager: dfs.namenode.startup.delay.block.deletion.sec is set to 000:00:00:00.000
2016-05-20 18:45:11,907 INFO org.apache.hadoop.hdfs.server.blockmanagement.BlockManager: The block deletion will start around 2016 五月 20 18:45:11
2016-05-20 18:45:11,914 INFO org.apache.hadoop.util.GSet: Computing capacity for map BlocksMap
2016-05-20 18:45:11,914 INFO org.apache.hadoop.util.GSet: VM type       = 64-bit
2016-05-20 18:45:11,919 INFO org.apache.hadoop.util.GSet: 2.0% max memory 966.7 MB = 19.3 MB

问题原因及解决方法

改警告信息主要是因为做配置文件hdfs-site.xml中dfs.namenode.name.dir参数的路劲前缀未加上file://,如:

dfs.replication

2

dfs.namenode.name.dir

file:////hadoop/dfs/name

dfs.datanode.data.dir

file:////hadoop/dfs/data

3、hadoop执行任意命令对HDFS操作报错如下:

WARN org.apache.hadoop.util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

问题原因及解决:
改警告主要是因为做hadoop安装目录/hadoop/lib/native/下缺少libhadoop.so或者libhadoop.so的版本(32/64bit)与操作系统的版本不一致导致的,只需下载hadoop-native-64-2.6.0解压到/hadoop/lib/native/目录下,或者替换原来的即可



文章标题:hadoop安装遇到的问题
标题路径:http://njwzjz.com/article/jgipgd.html