部署之后格式化

部署好集群之后需要在NN节点上对磁盘进行格式化:

$HADOOP_HOME/bin/hdfs namenode -format

生成的目录结构

格式化完成之后,将会在$dfs.namenode.name.dir/current目录下生成如下文件结构

current/
|-- VERSION
|-- fsimage_0000000000008547077
|-- fsimage_0000000000008547077.md5
|-- seen_txid

默认配置路径

其中的dfs.namenode.name.dir是在hdfs-site.xml文件中配置的,默认值如下:

<property>
  <name>dfs.namenode.name.dir</name>
  <value>file://${hadoop.tmp.dir}/dfs/name</value>
</property>

hadoop.tmp.dir是在core-site.xml中配置的,默认值如下

<property>
  <name>hadoop.tmp.dir</name>
  <value>/tmp/hadoop-${user.name}</value>
  <description>A base for other temporary directories.</description>
</property>

dfs.namenode.name.dir属性可以配置多个目录,如/data1/dfs/name,/data2/dfs/name,... 这样处理之后,即时一台或者多台机器损坏了,元数据也得以完整保存。

current目录下的相关文件的具体含义

下面我们来具体看下current目录的的每个具体的文件含义:
1.VERSION文件是Java属性文件,内容大致如下:

#Fri Nov 15 19:47:46 CST 2013
namespaceID=934548976 ##是文件系统的唯一标识符,在文件系统首次格式化之后生成的
clusterID=CID-cdff7d73-93cd-4783-9399-0a22e6dce196 ##是系统生成或手动指定的集群ID,在-clusterid选项中可以使用它
cTime=0 ##表示NameNode存储时间的创建时间,由于我的NameNode没有更新过,所以这里的记录值为0,以后对NameNode升级之后,cTime将会记录更新时间戳
storageType=NAME_NODE ##说明这个文件存储的是什么进程的数据结构信息(如果是DataNode,storageType=DATA_NODE)
blockpoolID=BP-893790215-192.168.24.72-1383809616115  ##是针对每一个Namespace所对应的blockpool的ID,上面的这个BP-893790215-192.168.24.72-1383809616115就是在我的ns1的namespace下的存储块池的ID,这个ID包括了其对应的NameNode节点的ip地址
layoutVersion=-47 ##表示HDFS永久性数据结构的版本信息, 只要数据结构变更,版本号也要递减,此时的HDFS也需要升级,否则磁盘仍旧是使用旧版本的数据结构,这会导致新版本的NameNode无法使用;

其中clusterID还有以下用途

a、使用如下命令格式化一个Namenode:

$ $HADOOP_HOME/bin/hdfs namenode -format [-clusterId <cluster_id>]

选择一个唯一的cluster_id,并且这个cluster_id不能与环境中其他集群有冲突。如果没有提供cluster_id,则会自动生成一个唯一的ClusterID。

b、使用如下命令格式化其他Namenode:
$ $HADOOP_HOME/bin/hdfs namenode -format -clusterId <cluster_id>

c、升级集群至最新版本。在升级过程中需要提供一个ClusterID,例如:
$ $HADOOP_PREFIX_HOME/bin/hdfs start namenode       \
          --config $HADOOP_CONF_DIR  -upgrade -clusterId <cluster_ID>

如果没有提供ClusterID,则会自动生成一个ClusterID。

2、$dfs.namenode.name.dir/current/seen_txid非常重要,是存放transactionId的文件,format之后是0,它代表的是namenode里面的edits_*文件的尾数,namenode重启的时候,会按照seen_txid的数字,循序从头跑edits_0000001~到seen_txid的数字。所以当你的hdfs发生异常重启的时候,一定要比对seen_txid内的数字是不是你edits最后的尾数,不然会发生建置namenode时metaData的资料有缺少,导致误删Datanode上多余Block的资讯。

  3、$dfs.namenode.name.dir/current目录下在format的同时也会生成fsimage和edits文件,及其对应的md5校验文件。fsimage和edits是Hadoop元数据相关的重要文件