存储架构

HDFS 读写流程与数据完整性

微信扫一扫,分享到朋友圈

HDFS 读写流程与数据完整性
0

概述

开始之前先看看其基本属性,HDFS(Hadoop Distributed File System)是GFS的开源实现。

特点如下

  • 能够运行在廉价机器上,硬件出错常态因此具备高容错性

  • 流式数据访问,而不是随机读写

  • 面向大规模数据集,能够进行批处理、能够横向扩展

  • 简单一致性模型,假定文件是一次写入、多次读取

缺点:

  • 不支持低延迟数据访问

  • 不适合大量小文件存储(因为每条元数据占用空间)

  • 不支持并发写入,一个文件只能有一个写入者

  • 不支持文件随机修改,仅支持追加写入

HDFS中的block、packet、chunk

很多博文介绍HDFS读写流程上来就直接从文件分块开始,其实,要把读写过程细节搞明白前,你必须知道block、packet与chunk。下 面分别讲述。

1、 block 

这个大家应该知道,文件上传前需要分块,这个块就是block,一般为128MB,当然你可以去改,不过不推荐。因为块太小,寻址时间占比过高;块太大,Map任务数太少,作业执行速度变慢。它是最大的一个单位

2、packet 

packet是第二大的单位,它是client端向DataNode,或DataNode的 Pipeline 之间传数据的基本单位,默认64 KB。

3、chunk 

chunk是最小的单位,它是client向DataNode,或DataNode的Pipeline之间进行数据校验的基本单位,默认512 Byte,因为用作校验,故每个chunk需要带有4 Byte的校验位。所以实际每个chunk写入packet的大小为516 Byte。由此可见真实数据与校验值数据的比值约为128 : 1。(即64*1024 / 512)

例如,在client端向DataNode传数据的时候,DFSOutputStream会有一个chunk buffer,写满一个chunk后,会计算校验和并写入当前的chunk。之后再把带有校验和的chunk写入packet,当一个packet写满后,packet会进入dataQueue队列,其他的DataNode就是从这个dataQueue获取client端上传的数据并存储的。同时一个DataNode成功存储一个packet后之后会返回一个ack packet,放入ack Queue中。

HDFS 写流程

写详细步骤:

1、客户端向NameNode发出写文件请求。

2、检查是否已存在文件、检查权限。若通过检查,直接先将操作写入EditLog,并返回输出流对象。 

注:WAL,write ahead log,先写Log,再写内存,因为EditLog记录的是最新的HDFS客户端执行所有的写操作。如果后续真实写操作失败了,由于在真实写操作之前,操作就被写入EditLog中了,故EditLog中仍会有记录,我们不用担心后续client读不到相应的数据块,因为在第5步中DataNode收到块后会有一返回确认信息,若没写成功,发送端没收到确认信息,会一直重试,直到成功。

3、client端按128MB的块切分文件。

4、client将NameNode返回的分配的可写的DataNode列表和Data数据一同发送给最近的第一个DataNode节点,此后client端和NameNode分配的多个DataNode构成pipeline管道,client端向输出流对象中写数据。client每向第一个DataNode写入一个packet,这个packet便会直接在pipeline里传给第二个、第三个…DataNode。 

注:并不是写好一个块或一整个文件后才向后分发。

5、每个DataNode写完一个块后,会返回确认信息。 

注:并不是每写完一个packet后就返回确认信息,个人觉得因为packet中的每个chunk都携带校验信息,没必要每写一个就汇报一下,这样效率太慢。正确的做法是写完一个block块后,对校验信息进行汇总分析,就能得出是否有块写错的情况发生。

6、写完数据,关闭输输出流。

7、发送完成信号给NameNode。 

注:发送完成信号的时机取决于集群是强一致性还是最终一致性,强一致性则需要所有DataNode写完后才向NameNode汇报。最终一致性则其中任意一个DataNode写完后就能单独向NameNode汇报,HDFS一般情况下都是强调强一致性。

HDFS 读流程

读相对于写,简单一些,读详细步骤:

1、client访问NameNode,查询元数据信息,获得这个文件的数据块位置列表,返回输入流对象。

2、就近挑选一台datanode服务器,请求建立输入流 。

3、DataNode向输入流中中写数据,以packet为单位来校验。

4、关闭输入流。

读写过程如何保证数据完整性

通过校验和。因为每个chunk中都有一个校验位,一个个chunk构成packet,一个个packet最终形成block,故可在block上求校验和。

HDFS 的client端即实现了对 HDFS 文件内容的校验和 (checksum) 检查。当客户端创建一个新的HDFS文件时候,分块后会计算这个文件每个数据块的校验和,此校验和会以一个隐藏文件形式保存在同一个 HDFS 命名空间下。当client端从HDFS中读取文件内容后,它会检查分块时候计算出的校验和(隐藏文件里)和读取到的文件块中校验和是否匹配,如果不匹配,客户端可以选择从其他 Datanode 获取该数据块的副本。

in_use.lock表示DataNode正在对文件夹进行操作。

rbw是"replica being written"的意思,该目录用于存储用户当前正在写入的数据。 
block元数据文件(*.meta)由一个包含版本、类型信息的头文件和一系列校验值组成。校验和也正是存在其中。

原文链接:

https://blog.csdn.net/whdxjbw/article/details/81072207

一个进阶的大数据技术交流学习公众号,死磕大数据与分布式系统,分享NoSQL数据库、存储计算引擎、消息中间件等。长按二维码关注

阅读原文...


微信扫一扫,分享到朋友圈

HDFS 读写流程与数据完整性
0

Avatar

2 Ways to Add Interactive Hotspots to Postcards Email Templates

上一篇

MongoDB World Hackathon 2019 - Winners

下一篇

评论已经被关闭。

插入图片

热门分类

往期推荐

HDFS 读写流程与数据完整性

长按储存图像,分享给朋友