时间：   |   分类：   | 字数： 2872 字 | 阅读约： 6分钟 | 阅读次数：

HBASE基础

1. 简介

HBase基于Google的BigTable论文而来，是一个分布式海量列式非关系型数据库系统，可以提供超大规模数据集的实时随机读写。

关系型数据库存在空间浪费情况

特点:

  • 海量存储：底层基于HDFS存储海量数据
  • 列式存储：HBase表的数据是基于列族进行存储的，一个列族包含若干列
  • 极易扩展：底层依赖HDFS，当磁盘空间不足的时候，只需要动态增加DataNode服务节点就可以
  • 高并发：支持高并发的读写请求
  • 稀疏：稀疏主要是针对HBase列的灵活性，在列族中，你可以指定任意多的列，在列数据为空的情况下，是不会占用存储空间的。
  • 数据的多版本：HBase表中的数据可以有多个版本值，默认情况下是根据版本号去区分，版本号就是插入数据的时间戳
  • 数据类型单一：所有的数据在HBase中是以字节数组进行存储

应用:

  • 交通方面：船舶GPS信息，每天有上千万左右的数据存储。
  • 金融方面：消费信息、贷款信息、信用卡还款信息等
  • 电商方面：电商网站的交易信息、物流信息、游览信息等
  • 电信方面：通话信息

总结：HBase适合海量明细数据的存储，并且后期需要有很好的查询性能（单表超千万、上亿，且并发要求高）

2. 数据模型

HBase的数据也是以表（有行有列）的形式存储

逻辑架构:

物理存储:

概念描述
NameSpace(数据库)命名空间，类似于关系型数据库的database概念，每个命名空间下有多个表。HBase两个自带的命名空间，分别是hbase和default，hbase中存放的是HBase内置的表，default表是用户默认使用的命名空间。一个表可以自由选择是否有命名空间，如果创建表的时候加上了命名空间后，这个表名字以:作为区分！
Table类似于关系型数据库的表概念。不同的是，HBase定义表时只需要声明列族即可，数据属性，比如超时时间（TTL），压缩算法（COMPRESSION）等，都在列族的定义中定义，不需要声明具体的列。
Row 一行逻辑数据HBase表中的每行数据都由一个RowKey和多个Column（列）组成。一个行包含了多个列，这些列通过列族来分类,行中的数据所属列族只能从该表所定义的列族中选取,不能定义这个表中不存在的列族，否则报错NoSuchColumnFamilyException。
RowKey 行数据主键Rowkey由用户指定的一串不重复的字符串定义，是一行的唯一标识！数据是按照RowKey的字典顺序存储的，并且查询数据时只能根据RowKey进行检索，所以RowKey的设计十分重要。如果使用了之前已经定义的RowKey，那么会将之前的数据更新掉！
Colummn Family 列族列族是多个列的集合。一个列族可以动态地灵活定义多个列。表的相关属性大部分都定义在列族上，同一个表里的不同列族可以有完全不同的属性配置，但是同一个列族内的所有列都会有相同的属性。列族存在的意义是HBase会把相同列族的列尽量放在同一台机器上，所以说，如果想让某几个列被放到一起，你就给他们定义相同的列族。
Column Qualifier 列Hbase中的列是可以随意定义的，一个行中的列不限名字、不限数量，只限定列族。因此列必须依赖于列族存在！列的名称前必须带着其所属的列族！例如info：name，info：age
TimeStamp 版本用于标识数据的不同版本（version）。时间戳默认由系统指定，也可以由用户显式指定。在读取单元格的数据时，版本号可以省略，如果不指定，Hbase默认会获取最后一个版本的数据返回！
Cell一个列中可以存储多个版本的数据。而每个版本就称为一个单元格（Cell）。
Region 表的分区Region由一个表的若干行组成！在Region中行的排序按照行键（rowkey）字典排序。Region不能跨RegionSever，且当数据量大的时候，HBase会拆分Region。

3. 整体架构

  • Zookeeper

    实现了HMaster的高可用

    保存了HBase的元数据信息，是所有HBase表的寻址入口

    对HMaster和HRegionServer实现了监控

  • HMaster（Master）

    为HRegionServer分配Region

    维护整个集群的负载均衡

    维护集群的元数据信息

    发现失效的Region，并将失效的Region分配到正常的HRegionServer上

  • HRegionServer（RegionServer）

    负责管理Region

    接受客户端的读写数据请求

    切分在运行过程中变大的Region

  • Region

    每个HRegion由多个Store构成，

    每个Store保存一个列族（Columns Family），表有几个列族，则有几个Store，

    每个Store由一个MemStore和多个StoreFile组成，MemStore是Store在内存中的内容，写到文件后就是StoreFile。StoreFile底层是以HFile的格式保存。

4. HBase集群安装

hbase 的安装需要依赖 zookeeper集群和hadoop集群

这里先不作演示, 以后有时间再搭建….

  • 搭建hbase环境

5. shell基本操作

  • 进入hbase客户端命令 hbase shell

  • 查看帮助命令 help

  • 查看当前数据库中有哪些表 list

  • 创建一张表 demo, 包含base_info, extra_info两个列族

    create 'demo', 'base_info', 'extra_info'
或者(Hbase建表必须指定列族信息)
create 'lagou', {NAME => 'base_info', VERSIONS => '3'},{NAME => 'extra_info',VERSIONS => '3'} 
-- VERSIONS 是指此单元格内的数据可以保留最近的 3 个版本

  • 添加数据

     -- 向 demo 表中插入信息，row key为 rk1，列族base_info中添加name列标示符，值为wang
 put 'demo', 'rk1', 'base_info:name', 'wang'

 -- 向 demo 表中插入信息，row key为rk1，列族base_info中添加age列标示符，值为30
 put 'demo', 'rk1', 'base_info:age', 30

  • 查询数据

    -- 通过rowkey查询rk1所有信息
get 'demo', 'rk1'

-- 获取rowkey为rk1,base_info列族的所有信息
get 'demo', 'rk1', 'base_info'

-- 查询rowkey为rk1,base_info列族的name, age列信息
get 'demo', 'rk1', 'base_info:name', 'base_info:age'

-- 获取row key为rk1，base_info、extra_info列族的信息
get 'demo', 'rk1', 'base_info', 'extra_info'
或
get 'demo', 'rk1', {COLUMN => ['base_info', 'extra_info']}
或
get 'demo', 'rk1', {COLUMN => ['base_info:name', 'extra_info:address']}

-- 获取指定rowkey为rk1, cell值为wang的信息
get 'demo', 'rk1', {FILTER => "ValueFilter(=, 'binary:wang')"}

-- 获取表中row key为rk1，列标示符中含有a的信息
get 'demo', 'rk1', {FILTER => "(QualifierFilter(=,'substring:a'))"}

-- 查询demo表中所有数据
scan 'demo'

-- 查询表中列族为 base_info 的信息
## Scan时可以设置是否开启Raw模式,开启Raw模式会返回包括已添加删除标记但是未实际删除的数据
## VERSIONS指定查询的最大版本数
scan 'demo', {COLUMNS => 'base_info'}
scan 'demo', {COLUMNS => 'base_info', RAW => true, VERSIONS => 3}

-- 查询demo表中列族为 base_info 和 extra_info且列标示符中含有a字符的信息
scan 'demo', {COLUMNS => ['base_info', 'extra_info'], FILTER => "(QualifierFilter(=,'substring:a'))"}

-- rowkey范围查询 [rk1, rk3)
scan 'demo', {COLUMNS => 'base_info', STARTROW => 'rk1', ENDROW => 'rk3'}

-- rowkey模糊查询, 以rk字符开头的
scan 'demo',{FILTER=>"PrefixFilter('rk')"}

  • 更新数据

    -- 与插入操作一样,有数据就更新,无数据就插入

-- 更新demo表rowkey为rk1的base_info列族下的name为liang
put 'demo', 'rk1', 'base_info:name', 'liang'

  • 删除操作

    -- 删除rowkey为rk1, 列标示符为base_info:name的数据
delete 'demo', 'rk1', 'base_info:name'

-- 删除rokey为rk1, 指定列名和时间戳
delete 'demo', 'rk1', 'base_info:name',1600660619655

-- 删除列族
alter 'demo', 'delete' => 'base_info'

-- 清空表数据
truncate 'demo'

-- 删除表 先disable 再drop
disable 'demo'
drop 'demo'
0%