HBASE 概述

HBASE 概述

HBase是什么

HBase是一种构建在HDFS之上的分布式、面向列的存储系统。在需要实时读写、随机访问超大规模数据集时,可以使用HBase。

HBase通过线性方式从下之上增加节点进行扩展。HBase不是关系型数据库,也不支持SQL,但是它有自己的特长,这是RDBMS不能处理的,HBase巧妙地将大而稀疏的表放在商用的服务器集群上。

HBase是Google Bigtable的开源实现,与Google Bigtable利用GFS作为其文件存储系统类似,HBase利用HDFS作为其文件存储系统;Google运行MapRedue来处理Bigtable中的海量数据,HBase同样利用Hadoop MapReduce来处理HBase中的海量数据;Google Bigtable利用Chubby作为协同服务,HBase利用Zookeeper作为对应。

HBase和RDBMS

HBase RDBMS
HBase无模式,它不具有固定模式的概念;仅定义列簇。 RDBMS有模式,它的模式是用于描述表的整体结构的约束。
它专门创建为宽表。HBase是横向扩展。 这些都是细而专的小表。很难形成规模
没有任何事物存在于HBase RDBMS是事务性的。
它反规范化数据 它具有规范化的数据
它用于半结构以及结构化数据 用于结构化数据。

HBase的特点

大 :一个表可以有数十亿行和上百万列
面向列 :面向列表(簇)的存储和权限控制,列簇独立检索。
稀疏 :对于为空的列,并不是占用存储空间,因此表可以设计的非常稀疏。
无模式 :每一行都有一个可以排序的主键和任意多的列,列可以根据需要动态增加,同一张表中不同的行可以有截然不同的列。
数据多版本 :每个单元中的数据可以有多个版本,默认情况下,版本号自动分配,版本号就是单元格插入时的时间戳。
数据类型单一 :HBase中的数据都是字符串,没有类型。

HBase的高并发和实时处理数据

Hadoop是一个高容错,高延时的分布式文件系统和高并发的皮处理系统,不适用于提供实时计算;HBase是一个可以提供实时计算的分布式数据库,数据被保存在hdfs分布式文件系统中,有hdfs保证高容错性,但是在生产环境中,HBase是如何基于Hadoop提供实时性呢?HBase上的数据是以StroeFile(HFile)二进制文件,也就是说,HBase的存储数据对于hdfs文件系统是透明的。下面是HBase文件在HDFS上的存储示意图。

HBase HRegion servers集群中的所有的region的数据在服务器启动时都是被打开的,并且在内存初始化一些memstore,相应的这就在一定程度上加快系统相应;而Hadoop中的block中的数据文件默认是关闭的,只有在需要的时候才打开,处理完数据后就 关闭,这在一定程度上就增加了响应时间。

从根本上说,HBase能提供实时计算服务主要原因是由其架构和底层的数据结构决定的,即由LSM-Tree + HTable(region分区) + Chche决定。客户端可以直接 定位到要查数据所在的HRegion server服务器,然后直接在服务器的一个region上查找要匹配的数据,并且这些数据部分是经过cache缓存的。具体查询 流程如下图所示:

具体数据访问流程如下:

  1. Client会通过内部缓存的相关的ROOT中的信息和.META中的信息直接与请求数据匹配的HRegion server;
  2. 然后直接定位到该服务器上与客户端请求对应 的Region,客户端请求首先会查询该Region在内存中的缓存,即Memstore(Memstore是一个按key排序的树形结构的缓冲区);
  3. 如果在Memostore中查到结果则直接将结果返回给Client;
  4. 在Memstore中没有查到匹配的数据,接下来会读已持久化的StoreFile文件中的数据(storeFile也是按key排序的树形结构的文件,并且是特别为范围查询或block查询优化过的 ;另外HBase读取磁盘 文件是按其基本I/O单元读数据的)。

如果在BlockCache中能查到要找的数据则将结果返回,否则就去相应的StoreFile文件中读取一个block的数据,如果还没有读到要查的数据,就将该数据block放到HRegion Server的blockcache中,然后接着读下一个block的数据,一直循环block数据直到找到要请求的数据并返回结果;如果该Region中的数据都没有查到要找的数据,最后返回null,表示没有匹配的数据。

HBase数据模型

HBase以表的形式存储数据。表由行和列组成。列划分为若干个列族(row family),如下图所示。

HBase的逻辑数据模型如下:

HBase是一个面向列的数据库,在表中它由行排序。表模式只能定义列簇,也就是键值对。一个表有多个列簇以及每个列簇可以有任意数量的列 。后续列的值连续存储在磁盘上。总之:

  • 表是行的集合
  • 行是列簇的集合
  • 列簇是列的集合
  • 列是键值对的集合

ROW Key

与NoSQL数据库一样,Row Key是用来检索记录的主键。访问HBase table中的行,只有三种方式:

  1. 通过单个Row Key访问。
  2. 通过Row Key的range全表扫描。
  3. Row Key可以使任意字符串 (最大长度是64kb,实际应用中长度一般是10~100bytes),在HBase内部,Row Key保存为字节数组。
  4. 在存储时,数据按照Row Key的字典序(byte order)排序存储。设计key时,要充分排序存储这个特性,将经常一起读取的行存储在一起(位置相关性).

行的一次读写是原子操作(不论一次读写多少列)。这个设计决策能够使用户很容易理解在第同一行进行并发更新操作时的行为。

列簇(Column family)

HBase表中的每个列都是归属于某个列簇。列簇是表的Schema的一部分,必须在使用表之前定义。类名都是以列簇作为前缀,例如 courses:history,courses:math都是属于courses这个列簇。

访问控制、磁盘和内存的使用统计都是在列簇层进行的。在实际应用中,列簇上的控制权限能帮助我们管理不同类型的应用,例如,允许一些应用可以添加新的基本数据、一些应用可以 读取基本数据并创建继承的列簇、一些应用则只允许浏览数据(甚至可能因为隐私的原因不能浏览所有数据)。

时间戳

HBase中通过Row和Columns确定的一个存储单元称为Cell。每个Cell都保存着同一份数据的多个版本。版本通过时间戳类索引,时间戳 的类型是64位整型。时间戳 可以由HBase(在数据写入时自动)赋值,此时时间戳是精确到毫秒的当前系统时间。时间戳也可以由客户显示 赋值。如果应用程序要避免数据版本冲突,就必须 自己生成具有唯一性的时间戳。每个Cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。

为了避免数据存储在过多版本造成的管理(包括存储和索引)负担,HBase提供了两种数据版本回收方式。一是保存的最后n个版本,二是保存最近一段时间内的版本。用户可以针对每个列簇进行设置。

Cell

Cell是由{row key, column(=<family> + <table>),version}唯一确定的单元。Cell中的数据是没有类型的,全部是字节码形式存储。

HBase物理存储

Table在行的方向上分割为多个HRegion,每个HRegion分散在不同的RegionServer中。

每个HRegion由多个Store构成,每个Store由一个memStore和0或者多个StoreFile组成,每个Store保存一个Columns Family.

参考博文

http://blog.csdn.net/u010270403/article/details/51648462

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,290评论 4 363
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,399评论 1 294
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,021评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,034评论 0 207
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,412评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,651评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,902评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,605评论 0 199
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,339评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,586评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,076评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,400评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,060评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,083评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,851评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,685评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,595评论 2 270

推荐阅读更多精彩内容