【hadoop生态之Hbase】HBase部署与使用【笔记+代码】

二、HBase部署与使用

2.1、部署

2.2、简单使用

2.2.1 基本操作

**进入****HBase****客户端命令行**

bin/hbase shell

2)

查看帮助命令

hbase(main)> help

3)

查看当前数据库中有哪些表

hbase(main)> list

4)

查看当前数据库中有哪些命名空间

hbase(main)> list_namespace

2.2.2

表的操作

```
**创建表**
```

hbase(main)> create ‘student’,‘info’

hbase(main)> create ‘iparkmerchant_order’,‘smzf’

hbase(main)> create ‘staff’,‘info’

2)

插入数据到表

hbase(main) > put ‘student’,‘1001’,‘info:name’,‘Thomas’

hbase(main) > put ‘student’,‘1001’,‘info:sex’,‘male’

hbase(main) > put ‘student’,‘1001’,‘info:age’,‘18’

hbase(main) > put ‘student’,‘1002’,‘info:name’,‘Janna’

hbase(main) > put ‘student’,‘1002’,‘info:sex’,‘female’

hbase(main) > put ‘student’,‘1002’,‘info:age’,‘20’

数据插入后的数据模型

Rowkey	timestamp	info
name	sex	age
1001		Thomas	male	18
1002		Janna	female	20

3)

扫描查看表数据

hbase(main) > scan ‘student’

hbase(main) > scan ‘student’,{STARTROW => ‘1001’, STOPROW => ‘1001’}

hbase(main) > scan ‘student’,{STARTROW => ‘1001’}

注：这个是从哪一个rowkey开始扫描

4)

查看表结构

hbase(main):012:0> desc ‘student’

5)

更新指定字段的数据

hbase(main) > put ‘student’,‘1001’,‘info:name’,‘Nick’

hbase(main) > put ‘student’,‘1001’,‘info:age’,‘100’

hbase(main) > put ‘student’,‘1001’,‘info:isNull’,’’（仅测试空值问题）

6)

查看“指定行”或“指定列族

**😗*

列”的数据

hbase(main) > get ‘student’,‘1001’

hbase(main) > get ‘student’,‘1001’,‘info:name’

7)

删除数据

删除某

rowkey

的全部数据：

hbase(main) > deleteall ‘student’,‘1001’

8)

清空表数据

hbase(main) > truncate ‘student’

尖叫提示：清空表的操作顺序为先disable，然后再truncate。

9)

删除表

首先需要先让该表为

disable

状态：

hbase(main) > disable ‘student’

检查这个表是否被禁用

hbase(main) > is_enabled ‘hbase_book’

hbase(main) > is_disabled ‘hbase_book’

恢复被禁用得表

enable ‘student’

然后才能

drop

这个表：

hbase(main) > drop ‘student’

尖叫提示：如果直接drop表，会报错：Drop the named table. Table must first be disabled

ERROR: Table student is enabled. Disable it first.

10)

统计表数据行数

hbase(main) > count ‘student’

11)

变更表信息

将info列族中的数据存放3个版本：

hbase(main) > alter ‘student’,{NAME=>‘info’,VERSIONS=>3}

查看student的最新的版本的数据

hbase(main) > get ‘student’,‘1001’

查看HBase中的多版本

hbase(main) > get ‘student’,‘1001’,{COLUMN=>‘info:name’,VERSIONS=>10}

2.2.3 常用API操作

1) satus

例如：显示服务器状态

hbase> status ‘bigdata111’

2) exist

检查表是否存在，适用于表量特别多的情况

hbase> exist ‘hbase_book’

3) is_enabled/is_disabled

检查表是否启用或禁用

hbase> is_enabled ‘hbase_book’

hbase> is_disabled ‘hbase_book’

8) alter

该命令可以改变表和列族的模式，例如：

为当前表增加列族：

hbase> alter ‘hbase_book’, NAME => ‘CF2’, VERSIONS => 2

为当前表删除列族：

hbase> alter ‘hbase_book’, ‘delete’ => ‘CF2’

9) disable

禁用一张表

hbase> disable ‘hbase_book’

hbase> drop ‘hbase_book’

10) delete

删除一行中一个单元格的值，例如：

hbase> delete ‘hbase_book’, ‘rowKey’, ‘CF:C’

11) truncate

清空表数据，即禁用表-删除表-创建表

hbase> truncate ‘hbase_book’

12) create

创建多个列族：

hbase> create ‘t1’, {NAME => ‘f1’}, {NAME => ‘f2’}, {NAME => ‘f3’}

2.3、读写流程

2.3.1、HBase读数据流程

HRegionServer保存着.META.的这样一张表以及表数据，要访问表数据，首先Client先去访问zookeeper，从zookeeper里面找到.META.表所在的位置信息，即找到这个.META.表在哪个HRegionServer上保存着。
接着Client通过刚才获取到的HRegionServer的IP来访问.META.表所在的HRegionServer，从而读取到.META.，进而获取到.META.表中存放的元数据。
Client通过元数据中存储的信息，访问对应的HRegionServer，然后扫描所在

HRegionServer的Memstore和Storefile来查询数据。

最后HRegionServer把查询到的数据响应给Client。

2.3.2、HBase写数据流程

Client也是先访问zookeeper，找到-ROOT-表，进而找到.META.表，并获取.META.表信息。
确定当前将要写入的数据所对应的RegionServer服务器和Region。
Client向该RegionServer服务器发起写入数据请求，然后RegionServer收到请求并响应。
Client先把数据写入到HLog，以防止数据丢失。
然后将数据写入到Memstore。
如果Hlog和Memstore均写入成功，则这条数据写入成功。在此过程中，如果Memstore达到阈值，会把Memstore中的数据flush到StoreFile中。
当Storefile越来越多，会触发Compact合并操作，把过多的Storefile合并成一个大的Storefile。当Storefile越来越大，Region也会越来越大，达到阈值后，会触发Split操作，将Region一分为二。

尖叫提示：因为内存空间是有限的，所以说溢写过程必定伴随着大量的小文件产生。

2.4、JavaAPI

2.4.1 新建Maven Project

新建项目后在pom.xml中添加依赖：

 

<dependency>

<groupId>org.apache.hbase</groupId>

<artifactId>hbase-server</artifactId>

<version>1.3.1</version>

</dependency>

 

<dependency>

<groupId>org.apache.hbase</groupId>

<artifactId>hbase-client</artifactId>

<version>1.3.1</version>

</dependency>

2.4.2 编写HBaseAPI

注意，这部分的学习内容，我们先学习使用老版本的API，接着再写出新版本的API调用方式。因为在企业中，有些时候我们需要一些过时的API来提供更好的兼容性。

1)

首先需要获取

Configuration****对象：

public static Configuration conf;

static{

    //使用HBaseConfiguration的单例方法实例化
     conf = HBaseConfiguration.create();

conf.set("hbase.zookeeper.quorum", "bigdata111");

conf.set("hbase.zookeeper.property.clientPort", "2181");

}

2)

判断表是否存在：

public static boolean isTableExist(String tableName) throws MasterNotRunningException, ZooKeeperConnectionException, IOException{

     //在HBase中管理、访问表需要先创建HBaseAdmin对象

//Connection connection = ConnectionFactory.createConnection(conf);

//HBaseAdmin admin = (HBaseAdmin) connection.getAdmin();

     HBaseAdmin admin = new HBaseAdmin(conf);

     return admin.tableExists(tableName);

}

3)

创建表

public static void createTable(String tableName, String... columnFamily) throws MasterNotRunningException, ZooKeeperConnectionException, IOException{

     HBaseAdmin admin = new HBaseAdmin(conf);

     //判断表是否存在

     if(isTableExist(tableName)){

         System.out.println("表" + tableName + "已存在");

         //System.exit(0);

     }else{

         //创建表属性对象,表名需要转字节

         HTableDescriptor descriptor = new HTableDescriptor(TableName.valueOf(tableName));

         //创建多个列族

         for(String cf : columnFamily){

             descriptor.addFamily(new HColumnDescriptor(cf));

         }

         //根据对表的配置，创建表

         admin.createTable(descriptor);

         System.out.println("表" + tableName + "创建成功！");

     }

}

4)

删除表

public static void dropTable(String tableName) throws MasterNotRunningException, ZooKeeperConnectionException, IOException{

     HBaseAdmin admin = new HBaseAdmin(conf);

     if(isTableExist(tableName)){

          admin.disableTable(tableName);

         admin.deleteTable(tableName);

         System.out.println("表" + tableName + "删除成功！");

     }else{

         System.out.println("表" + tableName + "不存在！");

     }

}

5)

向表中插入数据

public static void addRowData(String tableName, String rowKey, String columnFamily, String column, String value) throws IOException{

     //创建HTable对象

     HTable hTable = new HTable(conf, tableName);

     //向表中插入数据

     Put put = new Put(Bytes.toBytes(rowKey));

     //向Put对象中组装数据

     put.add(Bytes.toBytes(columnFamily), Bytes.toBytes(column), Bytes.toBytes(value));

     hTable.put(put);

     hTable.close();

     System.out.println("插入数据成功");

}

6)

删除多行数据

public static void deleteMultiRow(String tableName, String... rows) throws IOException{

     HTable hTable = new HTable(conf, tableName);

     List<Delete> deleteList = new ArrayList<Delete>();

     for(String row : rows){

         Delete delete = new Delete(Bytes.toBytes(row));

         deleteList.add(delete);

     }

     hTable.delete(deleteList);

     hTable.close();

}

7)

得到所有数据

public static void getAllRows(String tableName) throws IOException{

     HTable hTable = new HTable(conf, tableName);

     //得到用于扫描region的对象

     Scan scan = new Scan();

     //使用HTable得到resultcanner实现类的对象

     ResultScanner resultScanner = hTable.getScanner(scan);

     for(Result result : resultScanner){

         Cell[] cells = result.rawCells();

         for(Cell cell : cells){

             //得到rowkey

             System.out.println("行键:" + Bytes.toString(CellUtil.cloneRow(cell)));

             //得到列族

             System.out.println("列族" + Bytes.toString(CellUtil.cloneFamily(cell)));

             System.out.println("列:" + Bytes.toString(CellUtil.cloneQualifier(cell)));

             System.out.println("值:" + Bytes.toString(CellUtil.cloneValue(cell)));

         }

     }

}

8)

得到某一行所有数据

public static void getRow(String tableName, String rowKey) throws IOException{

     HTable table = new HTable(conf, tableName);

     Get get = new Get(Bytes.toBytes(rowKey));

     //get.setMaxVersions();显示所有版本

//get.setTimeStamp();显示指定时间戳的版本

     Result result = table.get(get);

     for(Cell cell : result.rawCells()){

         System.out.println("行键:" + Bytes.toString(result.getRow()));

         System.out.println("列族" + Bytes.toString(CellUtil.cloneFamily(cell)));

         System.out.println("列:" + Bytes.toString(CellUtil.cloneQualifier(cell)));

         System.out.println("值:" + Bytes.toString(CellUtil.cloneValue(cell)));

         System.out.println("时间戳:" + cell.getTimestamp());

     }

}

9)

获取某一行指定“列族

**😗*

列”的数据

public static void getRowQualifier(String tableName, String rowKey, String family, String qualifier) throws IOException{

     HTable table = new HTable(conf, tableName);

     Get get = new Get(Bytes.toBytes(rowKey));

     get.addColumn(Bytes.toBytes(family), Bytes.toBytes(qualifier));

     Result result = table.get(get);

     for(Cell cell : result.rawCells()){

         System.out.println("行键:" + Bytes.toString(result.getRow()));

         System.out.println("列族" + Bytes.toString(CellUtil.cloneFamily(cell)));

         System.out.println("列:" + Bytes.toString(CellUtil.cloneQualifier(cell)));

         System.out.println("值:" + Bytes.toString(CellUtil.cloneValue(cell)));

     }

}

2.4.3 HBaseUtil

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.HColumnDescriptor;

import org.apache.hadoop.hbase.HTableDescriptor;

import org.apache.hadoop.hbase.NamespaceDescriptor;

import org.apache.hadoop.hbase.TableName;

import org.apache.hadoop.hbase.client.Admin;

import org.apache.hadoop.hbase.client.Connection;

import org.apache.hadoop.hbase.client.ConnectionFactory;

import org.apache.hadoop.hbase.util.Bytes;

 

import java.io.IOException;

import java.text.DecimalFormat;

import java.util.Iterator;

import java.util.TreeSet;

 

/**

\* @author Andy

\* 1、NameSpace ====> 命名空间

\* 2、createTable ===> 表

\* 3、isTable  ====> 判断表是否存在

\* 4、Region、RowKey、分区键

*/

public class HBaseUtil {

 

/**

\* 初始化命名空间

*

\* @param conf   配置对象

\* @param namespace 命名空间的名字

\* @throws Exception

*/

public static void initNameSpace(Configuration conf, String namespace) throws Exception {

Connection connection = ConnectionFactory.createConnection(conf);

Admin admin = connection.getAdmin();

//命名空间描述器

NamespaceDescriptor nd = NamespaceDescriptor

.create(namespace)

.addConfiguration("AUTHOR", "Andy")

.build();

//通过admin对象来创建命名空间

admin.createNamespace(nd);

System.out.println("已初始化命名空间");

//关闭两个对象

close(admin, connection);

}

 

/**

\* 关闭admin对象和connection对象

*

\* @param admin   关闭admin对象

\* @param connection 关闭connection对象

\* @throws IOException IO异常

*/

private static void close(Admin admin, Connection connection) throws IOException {

if (admin != null) {

admin.close();

}

if (connection != null) {

connection.close();

}

}

 

/**

\* 创建HBase的表

\* @param conf

\* @param tableName

\* @param regions

\* @param columnFamily

*/

public static void createTable(Configuration conf, String tableName, int regions, String... columnFamily) throws IOException {

Connection connection = ConnectionFactory.createConnection(conf);

Admin admin = connection.getAdmin();

//判断表

if (isExistTable(conf, tableName)) {

return;

}

//表描述器 HTableDescriptor

HTableDescriptor htd = new HTableDescriptor(TableName.valueOf(tableName));

for (String cf : columnFamily) {

//列描述器 ：HColumnDescriptor

htd.addFamily(new HColumnDescriptor(cf));

}

//htd.addCoprocessor("hbase.CalleeWriteObserver");

//创建表

admin.createTable(htd,genSplitKeys(regions));

System.out.println("已建表");

//关闭对象

close(admin,connection);

}

 

/**

\* 分区键

\* @param regions region个数

\* @return splitKeys

*/

private static byte[][] genSplitKeys(int regions) {

//存放分区键的数组

String[] keys = new String[regions];

//格式化分区键的形式 00 01 02

DecimalFormat df = new DecimalFormat("00");

for (int i = 0; i < regions; i++) {

keys[i] = df.format(i) + "";

}

 

byte[][] splitKeys = new byte[regions][];

//排序 保证你这个分区键是有序得

TreeSet<byte[]> treeSet = new TreeSet<>(Bytes.BYTES_COMPARATOR);

for (int i = 0; i < regions; i++) {

treeSet.add(Bytes.toBytes(keys[i]));

}

 

//输出

Iterator<byte[]> iterator = treeSet.iterator();

int index = 0;

while (iterator.hasNext()) {

byte[] next = iterator.next();

splitKeys[index++]= next;

}

 

return splitKeys;

}

 

/**

\* 判断表是否存在

\* @param conf   配置 conf

\* @param tableName 表名

*/

public static boolean isExistTable(Configuration conf, String tableName) throws IOException {

Connection connection = ConnectionFactory.createConnection(conf);

Admin admin = connection.getAdmin();

 

boolean result = admin.tableExists(TableName.valueOf(tableName));

close(admin, connection);

return result;

}

}

2.4.4 PropertiesUtil

import java.io.IOException;

import java.io.InputStream;

import java.util.Properties;

 

public class PropertiesUtil {

public static Properties properties = null;

static {

//获取配置文件、方便维护

InputStream is = ClassLoader.getSystemResourceAsStream("hbase_consumer.properties");

properties = new Properties();

 

try {

properties.load(is);

} catch (IOException e) {

e.printStackTrace();

}

}

 

/**

\* 获取参数值

\* @param key 名字

\* @return 参数值

*/

public static String getProperty(String key){

return properties.getProperty(key);

}

 

}

2.4.5 HBaseDAO

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.HBaseConfiguration;

 

 

public class HBaseDAO {

 

private static String namespace = PropertiesUtil.getProperty("hbase.calllog.namespace");

private static String tableName = PropertiesUtil.getProperty("hbase.calllog.tablename");

private static Integer regions = Integer.valueOf(PropertiesUtil.getProperty("hbase.calllog.regions"));

 

public static void main(String[] args) throws Exception {

Configuration conf = HBaseConfiguration.create();

conf.set("hbase.zookeeper.property.clientPort", "2181");

conf.set("hbase.zookeeper.quorum", "bigdata111");

conf.set("zookeeper.znode.parent", "/hbase");

 

if (!HBaseUtil.isExistTable(conf, tableName)) {

HBaseUtil.initNameSpace(conf, namespace);

HBaseUtil.createTable(conf, tableName, regions, "f1", "f2");

}

}

2.5、MapReduce

通过HBase的相关JavaAPI，我们可以实现伴随HBase操作的MapReduce过程，比如使用MapReduce将数据从本地文件系统导入到HBase的表中，比如我们从HBase中读取一些原始数据后使用MapReduce做数据分析。

2.5.1、官方HBase-MapReduce

1)

查看

HBase

的

MapReduce

任务的所需的依赖

$ bin/hbase mapredcp

2)

执行环境变量的导入

$ export HBASE_HOME=/opt/module/hbase-1.3.1

$ export HADOOP_CLASSPATH=`${HBASE_HOME}/bin/hbase mapredcp

3)

运行官方的

MapReduce

任务

–

案例一：统计

Student

表中有多少行数据

$ /opt/module/hadoop-2.8.4/bin/yarn jar lib/hbase-server-1.3.1.jar rowcounter ns_ct:calllog

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-gWTFjHEg-1608296240531)(file:///C:/Users/18451/AppData/Local/Temp/msohtmlclip1/01/clip_image004.gif)]

–

案例二：使用

MapReduce

将本地数据导入到****HBase

(1)

**在本地创建一个

tsv

格式的文件：**

fruit.tsv，自己建表用\t分割数据

1001 Apple Red

1002 Pear Yellow

1003 Pineapple Yellow

尖叫提示：上面的这个数据不要从word中直接复制，有格式错误

(2)

创建

HBase

表

hbase(main):001:0> create ‘fruit’,‘info’

(3)

在

HDFS

中创建

input_fruit

文件夹并上传

fruit.tsv

文件

$ /opt/module/hadoop-2.8.4/bin/hdfs dfs -mkdir /input_fruit/

$ /opt/module/hadoop-2.8.4/bin/hdfs dfs -put fruit.tsv /input_fruit/

(4)

执行

MapReduce

到

HBase

的

fruit

表中

$ /opt/module/hadoop-2.8.4/bin/yarn jar lib/hbase-server-1.3.1.jar importtsv \

-Dimporttsv.columns=HBASE_ROW_KEY,info:name,info:color fruit \

hdfs://bigdata11:9000/input_fruit

(5)

使用

scan

命令查看导入后的结果

hbase(main):001:0> scan ‘fruit’

2.5.2

**、HBase2HBase**

**目标：**将fruit表中的一部分数据，通过MR迁入到fruit_mr表中。

分步实现：

1)

构建

ReadFruitMapper

类，用于读取

fruit

表中的数据

import java.io.IOException;

import org.apache.hadoop.hbase.Cell;

import org.apache.hadoop.hbase.CellUtil;

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.client.Result;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.mapreduce.TableMapper;

import org.apache.hadoop.hbase.util.Bytes;

 

public class ReadFruitMapper extends TableMapper<ImmutableBytesWritable, Put> {

 

     @Override

     protected void map(ImmutableBytesWritable key, Result value, Context context)

     throws IOException, InterruptedException {

     //将fruit的name和color提取出来，相当于将每一行数据读取出来放入到Put对象中。

         Put put = new Put(key.get());

         //遍历添加column行

         for(Cell cell: value.rawCells()){

             //添加/克隆列族:info

             if("info".equals(Bytes.toString(CellUtil.cloneFamily(cell)))){

                  //添加/克隆列：name

                  if("name".equals(Bytes.toString(CellUtil.cloneQualifier(cell)))){

                      //将该列cell加入到put对象中

                      put.add(cell);

                      //添加/克隆列:color

                  }else if("color".equals(Bytes.toString(CellUtil.cloneQualifier(cell)))){

                      //向该列cell加入到put对象中

                      put.add(cell);

                  }

             }

         }

         //将从fruit读取到的每行数据写入到context中作为map的输出

         context.write(key, put);

     }

}

2)

构建

WriteFruitMRReducer

类，用于将读取到的

fruit

表中的数据写入到

fruit_mr

表中

import java.io.IOException;

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.mapreduce.TableReducer;

import org.apache.hadoop.io.NullWritable;

 

public class WriteFruitMRReducer extends TableReducer<ImmutableBytesWritable, Put, NullWritable> {

     @Override

     protected void reduce(ImmutableBytesWritable key, Iterable<Put> values, Context context)

     throws IOException, InterruptedException {

         //读出来的每一行数据写入到fruit_mr表中

          for(Put put: values){

             context.write(NullWritable.get(), put);

         }

     }

}

3)

构建

Fruit2FruitMRRunner extends Configured implements Tool

用于组装运行

Job

任务

package HDFSToHBase;

 

import java.io.IOException;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.HBaseConfiguration;

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.util.Bytes;

import org.apache.hadoop.io.LongWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Mapper;

import org.apache.hadoop.util.ToolRunner;

 

public class ReadFruitFromHDFSMapper extends Mapper<LongWritable, Text, ImmutableBytesWritable, Put> {

@Override

protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {

//从HDFS中读取的数据

String lineValue = value.toString();

//读取出来的每行数据使用\t进行分割，存于String数组

String[] values = lineValue.split("\t");

 

//根据数据中值的含义取值

String rowKey = values[0];

String name = values[1];

String color = values[2];

 

//初始化rowKey

ImmutableBytesWritable rowKeyWritable = new ImmutableBytesWritable(Bytes.toBytes(rowKey));

 

//初始化put对象

Put put = new Put(Bytes.toBytes(rowKey));

 

//参数分别:列族、列、值

put.addColumn(Bytes.toBytes("info"), Bytes.toBytes("name"), Bytes.toBytes(name));

put.addColumn(Bytes.toBytes("info"), Bytes.toBytes("color"), Bytes.toBytes(color));

 

context.write(rowKeyWritable, put);

}

 

public static void main(String[] args) throws Exception {

Configuration conf = HBaseConfiguration.create();

int status = ToolRunner.run(conf, new Txt2FruitRunner(), args);

System.exit(status);

}

}

4)

打包运行任务

$ /opt/module/hadoop-2.8.4/bin/yarn jar /opt/module/hbase-1.3.1/HBase-1.0-SNAPSHOT.jar MRToHBase.Fruit2FruitMRRunner

尖叫提示：运行任务前，如果待数据导入的表不存在，则需要提前创建之。

2.5.2、HDFS2HBase

**目标：**实现将HDFS中的数据写入到HBase表中。

分步实现：

1)

构建

ReadFruitFromHDFSMapper

于读取

HDFS

中的文件数据

import java.io.IOException;

 

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.util.Bytes;

import org.apache.hadoop.io.LongWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Mapper;

 

public class ReadFruitFromHDFSMapper extends Mapper<LongWritable, Text, ImmutableBytesWritable, Put> {

     @Override

     protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {

         //从HDFS中读取的数据

         String lineValue = value.toString();

         //读取出来的每行数据使用\t进行分割，存于String数组

         String[] values = lineValue.split("\t");

         

         //根据数据中值的含义取值

         String rowKey = values[0];

         String name = values[1];

         String color = values[2];

         

         //初始化rowKey

         ImmutableBytesWritable rowKeyWritable = new ImmutableBytesWritable(Bytes.toBytes(rowKey));

         

         //初始化put对象

         Put put = new Put(Bytes.toBytes(rowKey));

         

         //参数分别:列族、列、值

put.add(Bytes.toBytes("info"), Bytes.toBytes("name"), Bytes.toBytes(name));

put.add(Bytes.toBytes("info"), Bytes.toBytes("color"), Bytes.toBytes(color));

 

context.write(rowKeyWritable, put);

     }

}

2)

构建

WriteFruitMRFromTxtReducer

类

import java.io.IOException;

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.mapreduce.TableReducer;

import org.apache.hadoop.io.NullWritable;

 

public class WriteFruitMRFromTxtReducer extends TableReducer<ImmutableBytesWritable, Put, NullWritable> {

     @Override

     protected void reduce(ImmutableBytesWritable key, Iterable<Put> values, Context context) throws IOException, InterruptedException {

         //读出来的每一行数据写入到fruit_hdfs表中

         for(Put put: values){

             context.write(NullWritable.get(), put);

         }

     }

}

3)

创建

Txt2FruitRunner

组装****Job

public int run(String[] args) throws Exception {

//得到Configuration

Configuration conf = this.getConf();

 

//创建Job任务

Job job = Job.getInstance(conf, this.getClass().getSimpleName());

job.setJarByClass(Txt2FruitRunner.class);

Path inPath = new Path("hdfs://bigdata111:8020/input_fruit/fruit.tsv");

FileInputFormat.addInputPath(job, inPath);

 

//设置Mapper

job.setMapperClass(ReadFruitFromHDFSMapper.class);

job.setMapOutputKeyClass(ImmutableBytesWritable.class);

job.setMapOutputValueClass(Put.class);

 

//设置Reducer

TableMapReduceUtil.initTableReducerJob("fruit_mr", WriteFruitMRFromTxtReducer.class, job);

 

//设置Reduce数量，最少1个

job.setNumReduceTasks(1);

 

boolean isSuccess = job.waitForCompletion(true);

if(!isSuccess){

throw new IOException("Job running with error");

}

 

return isSuccess ? 0 : 1;

}

4)

调用执行****Job

public static void main(String[] args) throws Exception {

         Configuration conf = HBaseConfiguration.create();

       int status = ToolRunner.run(conf, new Txt2FruitRunner(), args);

       System.exit(status);

}

5)

打包运行

$ /opt/module/hadoop-2.8.4/bin/yarn jar HDFSToHBase.jar HDFSToHBase.ReadFruitFromHDFSMapper

尖叫提示：运行任务前，如果待数据导入的表不存在，则需要提前创建之。

2.6、与Hive的集成

2.6.1、HBase与Hive的对比

1) Hive

(1)

数据仓库

Hive的本质其实就相当于将HDFS中已经存储的文件在Mysql中做了一个双射关系，以方便使用HQL去管理查询。

(2)

用于数据分析、清洗

Hive适用于离线的数据分析和清洗，延迟较高。

(3)

**基于

HDFS

、**

MapReduce

Hive存储的数据依旧在DataNode上，编写的HQL语句终将是转换为MapReduce代码执行。

2) HBase

(1)

数据库

是一种面向列存储的非关系型数据库。

(2)

用于存储结构化和非结构话的数据

适用于单表非关系型数据的存储，不适合做关联查询，类似JOIN等操作。

(3)

基于****HDFS

数据持久化存储的体现形式是Hfile，存放于DataNode中，被ResionServer以region的形式进行管理。

(4)

延迟较低，接入在线业务使用

面对大量的企业数据，HBase可以直线单表大量数据的存储，同时提供了高效的数据访问速度。

2.6.2、HBase与Hive集成使用

环境准备

因为我们后续可能会在操作Hive的同时对HBase也会产生影响，所以Hive需要持有操作HBase的Jar，那么接下来拷贝Hive所依赖的Jar包（或者使用软连接的形式）。记得还有把zookeeper的jar包考入到hive的lib目录下。

$ export HBASE_HOME=/opt/module/hbase-1.3.1

$ export HIVE_HOME=/opt/module/apache-hive-1.2.2-bin

 

$ ln -s $HBASE_HOME/lib/hbase-common-1.3.1.jar $HIVE_HOME/lib/hbase-common-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-server-1.3.1.jar $HIVE_HOME/lib/hbase-server-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-client-1.3.1.jar $HIVE_HOME/lib/hbase-client-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-protocol-1.3.1.jar $HIVE_HOME/lib/hbase-protocol-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-it-1.3.1.jar $HIVE_HOME/lib/hbase-it-1.3.1.jar

$ ln -s $HBASE_HOME/lib/htrace-core-3.1.0-incubating.jar $HIVE_HOME/lib/htrace-core-3.1.0-incubating.jar

$ ln -s $HBASE_HOME/lib/hbase-hadoop2-compat-1.3.1.jar $HIVE_HOME/lib/hbase-hadoop2-compat-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-hadoop-compat-1.3.1.jar $HIVE_HOME/lib/hbase-hadoop-compat-1.3.1.jar

同时在

hive-site.xml

中修改

zookeeper

的属性，如下：

<property>

<name>hive.zookeeper.quorum</name>

<value>bigdata11,bigdata12,bigdata13</value>

<description>The list of ZooKeeper servers to talk to. This is only needed for read/write locks.</description>

</property>

<property>

<name>hive.zookeeper.client.port</name>

<value>2181</value>

<description>The port of ZooKeeper servers to talk to. This is only needed for read/write locks.</description>

</property>

1)

案例一

**目标：**建立Hive表，关联HBase表，插入数据到Hive表的同时能够影响HBase表。

分步实现：

(1)

在

Hive

中创建表同时关联****HBase

CREATE TABLE hive_hbase_emp_table(

empno int,

ename string,

job string,

mgr int,

hiredate string,

sal double,

comm double,

deptno int)

STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:ename,info:job,info:mgr,info:hiredate,info:sal,info:comm,info:deptno")

TBLPROPERTIES ("hbase.table.name" = "hbase_emp_table1");

尖叫提示：完成之后，可以分别进入Hive和HBase查看，都生成了对应的表

(2)

在

Hive

中创建临时中间表，用于

load

文件中的数据

尖叫提示：不能将数据直接load进Hive所关联HBase的那张表中

CREATE TABLE emp(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int)
row format delimited fields terminated by '\t';

(3)

向

Hive

中间表中

load

数据

hive> load data local inpath '/opt/module/datas/emp.txt' into table emp;

(4)

通过

insert

命令将中间表中的数据导入到

Hive

关联

HBase

的那张表中

hive> insert into table hive_hbase_emp_table1 select * from emp;

(5)

查看

Hive

以及关联的

HBase

表中是否已经成功的同步插入了数据

Hive

**：**

hive> select * from hive_hbase_emp_table;

HBase

**：**

hbase> scan 'hbase_emp_table'

2)

案例二

**目标：**在HBase中已经存储了某一张表hbase_emp_table，然后在Hive中创建一个外部表来关联HBase中的hbase_emp_table这张表，使之可以借助Hive来分析HBase这张表中的数据。

**注：**该案例2紧跟案例1的脚步，所以完成此案例前，请先完成案例1。

分步实现：

(1)

在

Hive

中创建外部表

CREATE EXTERNAL TABLE relevance_hbase_emp(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int)
STORED BY 
'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES ("hbase.columns.mapping" = 
":key,info:ename,info:job,info:mgr,info:hiredate,info:sal,info:comm,info:deptno") 
TBLPROPERTIES ("hbase.table.name" = "hbase_emp_table");

(2)

关联后就可以使用

Hive

函数进行一些分析操作了

hive (default)> select * from relevance_hbase_emp;

2.7、与Sqoop的集成

Sqoop supports additional import targets beyond HDFS and Hive. Sqoop can also import records into a table in HBase.

之前我们已经学习过如何使用Sqoop在Hadoop集群和关系型数据库中进行数据的导入导出工作，接下来我们学习一下利用Sqoop在HBase和RDBMS中进行数据的转储。

相关参数：

参数	描述
–column-family	Sets the target column family for the import 设置导入的目标列族。
–hbase-create-table	If specified, create missing HBase tables 是否自动创建不存在的HBase表（这就意味着，不需要手动提前在HBase中先建立表）
–hbase-row-key
Specifies which input column to use as the row key.In case, if input table contains composite key, then
–hbase-table	Specifies an HBase table to use as the target instead of HDFS. 指定数据将要导入到HBase中的哪张表中。
–hbase-bulkload	Enables bulk loading. 是否允许bulk形式的导入。

must be in the form of a comma-separated list of composite key attributes. mysql中哪一列的值作为HBase的rowkey，如果rowkey是个组合键，则以逗号分隔。（注：避免rowkey的重复）

1)

案例

**目标：**将RDBMS中的数据抽取到HBase中

分步实现：

(1)

配置

sqoop-env.sh

，添加如下内容：

export HBASE_HOME=/opt/module/hbase-1.3.1

(2)

在

Mysql

中新建一个数据库

db_library

，一张表****book

CREATE DATABASE db_library;
CREATE TABLE db_library.book(
id int(4) PRIMARY KEY NOT NULL AUTO_INCREMENT, 
name VARCHAR(255) NOT NULL, 
price VARCHAR(255) NOT NULL);

(3)

向表中插入一些数据

INSERT INTO db_library.book (name, price) VALUES('Lie Sporting', '30');  
INSERT INTO db_library.book (name, price) VALUES('Pride & Prejudice', '70');  
INSERT INTO db_library.book (name, price) VALUES('Fall of Giants', '50');

(4)

执行

Sqoop

导入数据的操作

手动创建HBase表

hbase> create 'hbase_book','info'

(5)

在

HBase

中

scan

这张表得到如下内容

hbase> scan 'hbase_book'

**思考：**尝试使用复合键作为导入数据时的rowkey。

$ bin/sqoop import \
--connect jdbc:mysql://bigdata11:3306/db_library \
--username root \
--password 000000 \
--table book \
--columns "id,name,price" \
--column-family "info" \
--hbase-create-table \
--hbase-row-key "id" \
--hbase-table "hbase_book" \
--num-mappers 1 \
--split-by id

尖叫提示：sqoop1.4.6只支持HBase1.0.1之前的版本的自动创建HBase表的功能

2.8、常用的Shell操作

satus

例如：显示服务器状态

hbase> status 'bigdata111'

whoami

显示HBase当前用户，例如：

hbase> whoami

list

显示当前所有的表

hbase> list

count

统计指定表的记录数，例如：

hbase> count 'hbase_book'

describe

展示表结构信息

hbase> describe 'hbase_book'

exist

检查表是否存在，适用于表量特别多的情况

hbase> exist 'hbase_book'

is_enabled/is_disabled

检查表是否启用或禁用

hbase> is_enabled 'hbase_book'
hbase> is_disabled 'hbase_book'

alter

该命令可以改变表和列族的模式，例如：

为当前表增加列族：

hbase> alter 'hbase_book', NAME => 'CF2', VERSIONS => 2

为当前表删除列族：

hbase> alter 'hbase_book', 'delete' => 'CF2'

disable

禁用一张表

hbase> disable 'hbase_book'

drop

删除一张表，记得在删除表之前必须先禁用

hbase> drop 'hbase_book'

delete

删除一行中一个单元格的值，例如：

hbase> delete 'hbase_book', 'rowKey', 'CF:C'

truncate

清空表数据，即禁用表-删除表-创建表

hbase> truncate 'hbase_book'

create

创建多个列族：

hbase> create 't1', {NAME => 'f1'}, {NAME => 'f2'}, {NAME => 'f3'}

2.10、节点的管理

2.10.1、服役（commissioning）

当启动regionserver时，regionserver会向HMaster注册并开始接收本地数据，开始的时候，新加入的节点不会有任何数据，平衡器开启的情况下，将会有新的region移动到开启的RegionServer上。如果启动和停止进程是使用ssh和HBase脚本，那么会将新添加的节点的主机名加入到conf/regionservers文件中。

2.10.2、退役（decommissioning）

顾名思义，就是从当前HBase集群中删除某个RegionServer，这个过程分为如下几个过程：

1)

停止负载平衡器

hbase> balance_switch false

2)

在退役节点上停止****RegionServer

hbase> hbase-daemon.sh stop regionserver

3) RegionServer

一旦停止，会关闭维护的所有

region

4) Zookeeper

上的该

RegionServer****节点消失

5) Master

节点检测到该

RegionServer****下线，开启平衡器

6)

下线的

RegionServer

的

region

服务得到重新分配

该关闭方法比较传统，需要花费一定的时间，而且会造成部分region短暂的不可用。

另一种方案：

1) RegionServer

先卸载所管理的

region

$ bin/graceful_stop.sh <RegionServer-hostname>

2)

自动平衡数据

3)

和之前的

2~6

步是一样的

原文链接：https://blog.csdn.net/qq_43149373/article/details/111396272

二、HBase部署与使用

2.1、部署

2.2、简单使用

2.2.1 基本操作

2.2.3 常用API操作

2.3、读写流程

2.3.1、HBase读数据流程

2.3.2、HBase写数据流程

2.4、JavaAPI

2.4.1 新建Maven Project

2.4.2 编写HBaseAPI

2.4.3 HBaseUtil

2.4.4 PropertiesUtil

2.4.5 HBaseDAO

2.5、MapReduce

2.5.1、官方HBase-MapReduce

2.5.2、HDFS2HBase

2.6、与Hive的集成

2.6.1、HBase与Hive的对比

2.6.2、HBase与Hive集成使用

2.7、与Sqoop的集成

2.8、常用的Shell操作

2.10、节点的管理

2.10.1、服役（commissioning）

2.10.2、退役（decommissioning）

你可能也喜欢