大数据Hadoop之HDFS认识

源自Google的GFS(Google分布式文件系统)论文,分布式文件系统(HDFS)是GFS的克隆版。HDFS负责数据文件的存储,可让多机器上分享存储空间,让实际上通过网络来访问文件的动作,用户就像是访问本地磁盘一样便捷。

即使HDFS集群中某些节点脱机,整体来说系统仍然可以持续运作而不会有数据丢失。

HDFS提供了一个低成本、高可靠、高容错、高性能的分布式文件系统。

1.低成本主要体现在搭建HDFS主要是通过横向扩展机器数量而非花高价钱购进昂贵的服务器。

2.高可靠主要体现在

1)、HDFS解决了单点问题,HDFS集群中心节点是非常重要的,如果中心节点宕机整个集群将无法使用,所以中心节点NameNode会有主要节点(Primary)和备份节点(Stand By)。如果Primary出现问题Stand By可以自动接替Primary工作。

2)、副本机制,HDFS集群中文件一般会存在多份,同一份数据会被存放在多台不同的机器上,如果监控到其中的一台机器宕机,随即将该台机器上的数据迁移到其他机器上保证数据的数量完整性。说明集群中一个节点宕机对整个集群的影响是有限可控的。

3)、HDFS负载均衡,中心节点(NameNode)不断的接收数据节点(DataNode)发送过来的心跳检测获得子节点的运行状态,发现集群负载较高的情况下。启动HDFS的balancer工具进行数据迁移集群里面的数据降低系统负载。

4)、机架感知,大型HDFS集群是以机架的形式来组织的,同一个机架上不同节点间的网络状况比不同机架之间的更为理想。另外,中心节点(NameNode)设法数据块副本保存在不同的机架上以提高容错性。

3.高容错主要体现在

分布式计算模型(MapReduce)容错,一个MapReduce任务在集群机器上面以任务跟中(TaskTracker)执行。每一个TaskTracker被Job监控(jobTracker)监控,如果发现一个TaskTracker执行失败JobTracker就会将该任务分配到其他机器上面运行。

4.高性能体现在处理大型任务上集群处理效率,多台机器分块并行处理要比单台机器串行处理要快很多。

HDFS分布式文件系统,是怎样做到的呢?

通常一个HDFS集群是由一个中心节点(NameNode)和多个数据节点(DataNode)组成的,中心节点负责管理整个集群,如果中心节点瘫痪那么整个集群就无法使用,上面我们给出设置备份中心节点的解决办法,但是为了进一步确保稳定性通常会选用一台高性能配置好的服务器作为中心节点。


High level Architecture

数据文件大的文件切块分散存储

HDFS将数据以Block块存储,每一个Block块在搭建HDFS的时候可以被设置,如果数据文件大到超出了Block块设定的大小,就会将这个文件按Block块大小切分为多个文件块存储在HDFS中。

切分的Block块不一定存放在同一台Data Node上面,HDFS会根据节点的负载情况进行调整数据存储位置。

他们存储位置由中心节点(NameNode)负责管理,NameNode不断的监控DataNode的运行情况,如遇DataNode宕机好及时迁移数据。

元数据和数据分开存储


数据寻址过程

HDFS的寻找文件地址通过从Root中找到元数据,再从Meta找到文件存储的服务器和地址。其中NameNode主要管理存放到DataNode中数据的元数据。由于将元数据和数据分开有利于文件系统的分布式部署,NameNode维护一份数据在集群中不会有名称冲突,一份数据在集群中只有唯一的一个名字。

客户端向NameNode发起请求,集群中NameNode向DataNode发起计算任务的请求,DataNode负责将计算的结果反馈给NameNode统计出结果。

一次写入多次读取

HDFS中存储的文件只允许一次写入,写入之后就不能被修改,如有修改只能在文件中追加数据。

写入的时候需要对数据进行清洗,将坏的数据扔掉。

当文件被创建,接着写入数据,最后,一旦文件被关闭,就不能再修改。这种模型可以有效地保证数据一致性,且避免了复杂的并发同步处理,很好地支持了对数据访问的高吞吐量。

移动计算比移动数据更划算

分布式系统计算过程中距离数据越近,计算性能越好,尤其是在数据量特别大的时候。由于分布式系统数据存放在不同的机器上,对于计算而言就产生了两种策略,移动数据和移动计算。如果数据量特别大移动数据网络成本消耗非常大而且负责计算的机器的性能瓶颈也很容易限制运算速度。相比移动计算却是非常划算,将计算的方法分发给集群中DataNode节点负责数据计算,DataNode节点将计算结果回传给中心节点,中心节点负责将回传的结果汇总成结果。

移动计算比较流行的有MapReduce,Spark等计算模型

小结

HDFS通过作为Hadoop主要的核心在数据存储方面为我们提供了保证,是一款非常优秀的分布式文件系统。通过对特点和架构的分析我们能够清晰的理解什么是HDFS。

HDFS在大数据中解决数据存储问题,数据采用什么方法进行高效的使用是我们关心的重点,我们将下一回分享。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,219评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,363评论 1 293
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,933评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,020评论 0 206
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,400评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,640评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,896评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,597评论 0 199
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,327评论 1 244
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,581评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,072评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,399评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,054评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,083评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,849评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,672评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,585评论 2 270

推荐阅读更多精彩内容

  • hdfs是什么? 问题: 1. hdfs是基于什么样的原理将文件分块存储到分布式环境中的各个设备上的? 2. h...
    4762d2980c91阅读 4,649评论 0 6
  • 首先,我们在使用前先看看HDFS是什麽?这将有助于我们是以后的运维使用和故障排除思路的获得。 HDFS采用mast...
    W_Bousquet阅读 4,067评论 0 2
  • 思考问题 HDFS的架构 设计前提和目标 专为存储超大文件而设计:hdfs应该能够支持GB级别大小的文件;它应该能...
    Sakura_P阅读 598评论 0 2
  • 在一家网络公司工作,公司近2年一直在改革,业务部门被撤掉,启用合伙人模式,一线工程师无底薪制,按工作量考核发工资,...
    开不败的花阅读 297评论 0 1
  • 看到朋友圈里发布的关于何洁离婚的文章,眼泪止不住往外流。她和她老公所经历的,自己现在就在践行着,可悲的是自己心知肚...
    木子_玲玲阅读 177评论 0 0