天天看點

HBase基本資料操作詳解 轉

歡迎轉載,請注明來源:

http://blog.csdn.net/u010967382/article/details/37878701

概述

對于建表,和RDBMS類似,HBase也有namespace的概念,可以指定表空間建立表,也可以直接建立表,進入default表空間。

對于資料操作,HBase支援四類主要的資料操作,分别是:

  • Put:增加一行,修改一行;
  • Delete:删除一行,删除指定列族,删除指定column的多個版本,删除指定column的制定版本等;
  • Get:擷取指定行的所有資訊,擷取指定行和指定列族的所有colunm,擷取指定column,擷取指定column的幾個版本,擷取指定column的指定版本等;
  • Scan:擷取所有行,擷取指定行鍵範圍的行,擷取從某行開始的幾行,擷取滿足過濾條件的行等。

這四個類都是org.apache.hadoop.hbase.client的子類,可以到官網API去檢視詳細資訊,本文僅總結常用方法,力争讓讀者用20%的時間掌握80%的常用功能。

目錄

1.命名空間Namespace

2.建立表

3.删除表

4.修改表

5.新增、更新資料Put

6.删除資料Delete

7.擷取單行Get

8.擷取多行Scan

1. 命名空間Namespace

在關系資料庫系統中,命名空間namespace指的是一個表的邏輯分組,同一組中的表有類似的用途。命名空間的概念為即将到來的多租戶特性打下基礎:

  • 配額管理(Quota Management (HBASE-8410)):限制一個namespace可以使用的資源,資源包括region和table等;
  • 命名空間安全管理(Namespace Security Administration (HBASE-9206)):提供了另一個層面的多租戶安全管理;
  • Region伺服器組(Region server groups (HBASE-6721)):一個命名空間或一張表,可以被固定到一組regionservers上,進而保證了資料隔離性。

1.1.命名空間管理

命名空間可以被建立、移除、修改。

表和命名空間的隸屬關系在在建立表時決定,通過以下格式指定:

<namespace>:<table>

Example:hbase shell中建立命名空間、建立命名空間中的表、移除命名空間、修改命名空間

#Create a namespace
create_namespace 'my_ns'           

複制

#create my_table in my_ns namespace
create 'my_ns:my_table', 'fam'           

複制

#drop namespace
drop_namespace 'my_ns'           

複制

#alter namespace
alter_namespace 'my_ns', {METHOD => 'set', 'PROPERTY_NAME' => 'PROPERTY_VALUE'}           

複制

1.2. 預定義的命名空間

有兩個系統内置的預定義命名空間:

  • hbase:系統命名空間,用于包含hbase的内部表
  • default:所有未指定命名空間的表都自動進入該命名空間

Example:指定命名空間和預設命名空間

#namespace=foo and table qualifier=bar
create 'foo:bar', 'fam'

#namespace=default and table qualifier=bar
create 'bar', 'fam'           

複制

2.建立表

廢話不多說,直接上樣闆代碼,代碼後再說明注意事項和知識點:

        Configuration conf = HBaseConfiguration.create();

        HBaseAdmin admin = new HBaseAdmin(conf);

        //create namespace named "my_ns"

        admin.createNamespace(NamespaceDescriptor.create("my_ns").build());

        //create tableDesc, with namespace name "my_ns" and table name "mytable"

        HTableDescriptor tableDesc = new HTableDescriptor(TableName.valueOf("my_ns:mytable"));

        tableDesc.setDurability(Durability.SYNC_WAL);

        //add a column family "mycf"

        HColumnDescriptor hcd = new HColumnDescriptor("mycf");

        tableDesc.addFamily(hcd);

        admin.createTable(tableDesc);

        admin.close();  

關鍵知識點:

  1. 必須将HBase叢集的hbase-site.xml檔案添加進工程的classpath中,或者通過Configuration對象設定相關屬性,否則程式擷取不到叢集相關資訊,也就無法找到叢集,運作程式時會報錯;
  2. HTableDescriptor tableDesc = new HTableDescriptor(TableName.valueOf("my_ns:mytable"))代碼是描述表mytable,并将mytable放到了my_ns命名空間中,前提是該命名空間已存在,如果指定的是不存在命名空間,則會報錯org.apache.hadoop.hbase.NamespaceNotFoundException;
  3. 命名空間一般在模組化階段通過指令行建立,在java代碼中通過admin.createNamespace(NamespaceDescriptor.create("my_ns").build())建立的機會不多;
  4. 建立HBaseAdmin對象時就已經建立了用戶端程式與HBase叢集的connection,是以在程式執行完成後,務必通過admin.close()關閉connection;
  5. 可以通過HTableDescriptor對象設定表的特性,比如:通過tableDesc.setMaxFileSize(512)設定一個region中的store檔案的最大size,當一個region中的最大store檔案達到這個size時,region就開始分裂;通過tableDesc.setMemStoreFlushSize(512)設定region記憶體中的memstore的最大值,當memstore達到這個值時,開始往磁盤中刷資料。更多特性請自行查閱官網API;
  6. 可以通過HColumnDescriptor對象設定列族的特性,比如:通過hcd.setTimeToLive(5184000)設定資料儲存的最長時間;通過hcd.setInMemory(true)設定資料儲存在記憶體中以提高響應速度;通過 hcd.setMaxVersions(10)設定資料儲存的最大版本數;通過hcd.setMinVersions(5)設定資料儲存的最小版本數(配合TimeToLive使用)。更多特性請自行查閱官網API;
  7. 資料的版本數隻能通過HColumnDescriptor對象設定,不能通過HTableDescriptor對象設定;
  8. 由于HBase的資料是先寫入記憶體,資料累計達到記憶體閥值時才往磁盤中flush資料,是以,如果在資料還沒有flush進硬碟時,regionserver down掉了,記憶體中的資料将丢失。要想解決這個場景的問題就需要用到WAL(Write-Ahead-Log),tableDesc.setDurability(Durability.SYNC_WAL)就是設定寫WAL日志的級别,示例中設定的是同步寫WAL,該方式安全性較高,但無疑會一定程度影響性能,請根據具體場景選擇使用;
  9. setDurability(Durability d)方法可以在相關的三個對象中使用,分别是:HTableDescriptor,Delete,Put(其中Delete和Put的該方法都是繼承自父類org.apache.hadoop.hbase.client.Mutation)。分别針對表、插入操作、删除操作設定WAL日志寫入級别。需要注意的是,Delete和Put并不會繼承Table的Durability級别(已實測驗證)。Durability是一個枚舉變量,可選值參見4.2節。如果不通過該方法指定WAL日志級别,則為預設USE_DEFAULT級别。

3.删除表

删除表沒建立表那麼多學問,直接上代碼:

        Configuration conf = HBaseConfiguration.create();

        HBaseAdmin admin = new HBaseAdmin(conf);

        String tablename = "my_ns:mytable";

if(admin.tableExists(tablename)) {

try {

                admin.disableTable(tablename);

                admin.deleteTable(tablename);

            } catch (Exception e) {

                // TODO: handle exception

                e.printStackTrace();

            }

        }

        admin.close();  

說明:删除表前必須先disable表。

4.修改表

4.1.執行個體代碼

(1)删除列族、新增列族

修改之前,四個列族:

hbase(main):014:0> describe 'rd_ns:itable'

DESCRIPTION                                                                                                        ENABLED

 'rd_ns:itable', {NAME => 'info', DATA_BLOCK_ENCODING => 'NONE', BLOOMFILTER => 'ROW', REPLICATION_SCOPE => '0', V true

 ERSIONS => '10', COMPRESSION => 'NONE', MIN_VERSIONS => '0', TTL => '2147483647', KEEP_DELETED_CELLS => 'false',

 BLOCKSIZE => '65536', IN_MEMORY => 'false', BLOCKCACHE => 'true'}, {NAME => 'newcf', DATA_BLOCK_ENCODING => 'NONE

 ', BLOOMFILTER => 'ROW', REPLICATION_SCOPE => '0', COMPRESSION => 'NONE', VERSIONS => '10', TTL => '2147483647',

 MIN_VERSIONS => '0', KEEP_DELETED_CELLS => 'false', BLOCKSIZE => '65536', IN_MEMORY => 'false', BLOCKCACHE => 'tr

 ue'}, {NAME => 'note', DATA_BLOCK_ENCODING => 'NONE', BLOOMFILTER => 'ROW', REPLICATION_SCOPE => '0', VERSIONS =>

  '10', COMPRESSION => 'NONE', MIN_VERSIONS => '0', TTL => '2147483647', KEEP_DELETED_CELLS => 'false', BLOCKSIZE

 => '65536', IN_MEMORY => 'false', BLOCKCACHE => 'true'}, {NAME => 'sysinfo', DATA_BLOCK_ENCODING => 'NONE', BLOOM

 FILTER => 'ROW', REPLICATION_SCOPE => '0', COMPRESSION => 'NONE', VERSIONS => '10', TTL => '2147483647', MIN_VERS

 IONS => '0', KEEP_DELETED_CELLS => 'true', BLOCKSIZE => '65536', IN_MEMORY => 'false', BLOCKCACHE => 'true'}

1 row(s) in 0.0450 seconds

修改表,删除三個列族,新增一個列族,代碼如下:

        Configuration conf = HBaseConfiguration.create();

        HBaseAdmin admin = new HBaseAdmin(conf);

        String tablename = "rd_ns:itable";

if(admin.tableExists(tablename)) {

try {

                admin.disableTable(tablename);

                //get the TableDescriptor of target table

                HTableDescriptor newtd = admin.getTableDescriptor(Bytes.toBytes("rd_ns:itable"));

                //remove 3 useless column families

                newtd.removeFamily(Bytes.toBytes("note"));

                newtd.removeFamily(Bytes.toBytes("newcf"));

                newtd.removeFamily(Bytes.toBytes("sysinfo"));

                //create HColumnDescriptor for new column family

                HColumnDescriptor newhcd = new HColumnDescriptor("action_log");

                newhcd.setMaxVersions(10);

                newhcd.setKeepDeletedCells(true);

                //add the new column family(HColumnDescriptor) to HTableDescriptor

                newtd.addFamily(newhcd);

                //modify target table struture

                admin.modifyTable(Bytes.toBytes("rd_ns:itable"),newtd);

                admin.enableTable(tablename);

            } catch (Exception e) {

                // TODO: handle exception

                e.printStackTrace();

            }

        }

        admin.close();  

修改之後:

hbase(main):015:0> describe 'rd_ns:itable'

DESCRIPTION                                                                                                        ENABLED

 'rd_ns:itable', {NAME => 'action_log', DATA_BLOCK_ENCODING => 'NONE', BLOOMFILTER => 'ROW', REPLICATION_SCOPE =>  true

 '0', COMPRESSION => 'NONE', VERSIONS => '10', TTL => '2147483647', MIN_VERSIONS => '0', KEEP_DELETED_CELLS => 'tr

 ue', BLOCKSIZE => '65536', IN_MEMORY => 'false', BLOCKCACHE => 'true'}, {NAME => 'info', DATA_BLOCK_ENCODING => '

 NONE', BLOOMFILTER => 'ROW', REPLICATION_SCOPE => '0', VERSIONS => '10', COMPRESSION => 'NONE', MIN_VERSIONS => '

 0', TTL => '2147483647', KEEP_DELETED_CELLS => 'false', BLOCKSIZE => '65536', IN_MEMORY => 'false', BLOCKCACHE =>

  'true'}

1 row(s) in 0.0400 seconds

邏輯很簡單:

  1. 通過admin.getTableDescriptor(Bytes.toBytes("rd_ns:itable"))取得目标表的描述對象,應該就是取得指向該對象的指針了;
  2. 修改目标表描述對象;
  3. 通過admin.modifyTable(Bytes.toBytes("rd_ns:itable"),newtd)将修改後的描述對象應用到目标表。

(2)修改現有列族的屬性(setMaxVersions)

        Configuration conf = HBaseConfiguration.create();

        HBaseAdmin admin = new HBaseAdmin(conf);

        String tablename = "rd_ns:itable";

if(admin.tableExists(tablename)) {

try {

                admin.disableTable(tablename);

                //get the TableDescriptor of target table

                HTableDescriptor htd = admin.getTableDescriptor(Bytes.toBytes("rd_ns:itable"));

                HColumnDescriptor infocf = htd.getFamily(Bytes.toBytes("info"));

                infocf.setMaxVersions(100);

                //modify target table struture

                admin.modifyTable(Bytes.toBytes("rd_ns:itable"),htd);

                admin.enableTable(tablename);

            } catch (Exception e) {

                // TODO: handle exception

                e.printStackTrace();

            }

        }

        admin.close();  

5.新增、更新資料Put

5.1.常用構造函數:

(1)指定行鍵

public Put(byte[] row)

參數:row 行鍵

(2)指定行鍵和時間戳

public Put(byte[] row, long ts)

參數:row 行鍵,ts 時間戳

(3)從目标字元串中提取子串,作為行鍵

Put(byte[] rowArray, int rowOffset, int rowLength)

(4)從目标字元串中提取子串,作為行鍵,并加上時間戳

Put(byte[] rowArray, int rowOffset, int rowLength, long ts)

5.2.常用方法:

(1)指定列族、限定符,添加值

add(byte[] family, byte[] qualifier, byte[] value)  

(2)指定列族、限定符、時間戳,添加值

add(byte[] family, byte[] qualifier, long ts, byte[] value)

(3)設定寫WAL(Write-Ahead-Log)的級别

public void setDurability(Durability d)

參數是一個枚舉值,可以有以下幾種選擇:

  • ASYNC_WAL : 當資料變動時,異步寫WAL日志
  • SYNC_WAL : 當資料變動時,同步寫WAL日志
  • FSYNC_WAL : 當資料變動時,同步寫WAL日志,并且,強制将資料寫入磁盤
  • SKIP_WAL : 不寫WAL日志
  • USE_DEFAULT : 使用HBase全局預設的WAL寫入級别,即SYNC_WAL

5.3.執行個體代碼

(1)插入行

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Put put = new Put(Bytes.toBytes("100001"));

        put.add(Bytes.toBytes("info"), Bytes.toBytes("name"), Bytes.toBytes("lion"));

        put.add(Bytes.toBytes("info"), Bytes.toBytes("address"), Bytes.toBytes("shangdi"));

        put.add(Bytes.toBytes("info"), Bytes.toBytes("age"), Bytes.toBytes("30"));

        put.setDurability(Durability.SYNC_WAL);  

        table.put(put);

        table.close();  

(2)更新行

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Put put = new Put(Bytes.toBytes("100001"));

        put.add(Bytes.toBytes("info"), Bytes.toBytes("name"), Bytes.toBytes("lee"));

        put.add(Bytes.toBytes("info"), Bytes.toBytes("address"), Bytes.toBytes("longze"));

        put.add(Bytes.toBytes("info"), Bytes.toBytes("age"), Bytes.toBytes("31"));

        put.setDurability(Durability.SYNC_WAL);  

        table.put(put);        

        table.close();  

注意:

  1. Put的構造函數都需要指定行鍵,如果是全新的行鍵,則新增一行;如果是已有的行鍵,則更新現有行。
  2. 建立Put對象及put.add過程都是在建構一行的資料,建立Put對象時相當于建立了行對象,add的過程就是往目标行裡添加cell,直到table.put才将資料插入表格;
  3. 以上代碼建立Put對象用的是構造函數1,也可用構造函數2,第二個參數是時間戳;
  4. Put還有别的構造函數,請查閱官網API。

(3)從目标字元串中提取子串,作為行鍵,建構Put

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Put put = new Put(Bytes.toBytes("100001_100002"),7,6);

        put.add(Bytes.toBytes("info"), Bytes.toBytes("name"), Bytes.toBytes("show"));

        put.add(Bytes.toBytes("info"), Bytes.toBytes("address"), Bytes.toBytes("caofang"));

        put.add(Bytes.toBytes("info"), Bytes.toBytes("age"), Bytes.toBytes("30"));

        table.put(put);

        table.close();  

注意,關于:Put put = new Put(Bytes.toBytes("100001_100002"),7,6)

  1. 第二個參數是偏移量,也就是行鍵從第一個參數的第幾個字元開始截取;
  2. 第三個參數是截取長度;
  3. 這個代碼實際是從 100001_100002 中截取了100002子串作為目标行的行鍵。

6.删除資料Delete

       Delete類用于删除表中的一行資料,通過HTable.delete來執行該動作。

       在執行Delete操作時,HBase并不會立即删除資料,而是對需要删除的資料打上一個“墓碑”标記,直到當Storefile合并時,再清除這些被标記上“墓碑”的資料。

       如果希望删除整行,用行鍵來初始化一個Delete對象即可。如果希望進一步定義删除的具體内容,可以使用以下這些Delete對象的方法:

  • 為了删除指定的列族,可以使用deleteFamily
  • 為了删除指定列的多個版本,可以使用deleteColumns
  • 為了删除指定列的指定版本,可以使用deleteColumn,這樣的話就隻會删除版本号(時間戳)與指定版本相同的列。如果不指定時間戳,預設隻删除最新的版本

      下面詳細說明構造函數和常用方法:

6.1.構造函數

(1)指定要删除的行鍵

Delete(byte[] row)

删除行鍵指定行的資料。

如果沒有進一步的操作,使用該構造函數将删除行鍵指定的行中所有列族中所有列的所有版本!

(2)指定要删除的行鍵和時間戳

Delete(byte[] row, long timestamp)

删除行鍵和時間戳共同确定行的資料。

如果沒有進一步的操作,使用該構造函數将删除行鍵指定的行中,所有列族中所有列的時間戳小于等于指定時間戳的資料版本。

注意:該時間戳僅僅和删除行有關,如果需要進一步指定列族或者列,你必須分别為它們指定時間戳。

(3)給定一個字元串,目标行鍵的偏移,截取的長度

Delete(byte[] rowArray, int rowOffset, int rowLength)

(4)給定一個字元串,目标行鍵的偏移,截取的長度,時間戳

Delete(byte[] rowArray, int rowOffset, int rowLength, long ts)

6.2.常用方法

  • Delete  deleteColumn(byte[] family, byte[] qualifier)    删除指定列的最新版本的資料。
  • Delete  deleteColumns(byte[] family, byte[] qualifier)    删除指定列的所有版本的資料。
  • Delete  deleteColumn(byte[] family, byte[] qualifier, long timestamp)    删除指定列的指定版本的資料。
  • Delete  deleteColumns(byte[] family, byte[] qualifier, long timestamp)    删除指定列的,時間戳小于等于給定時間戳的所有版本的資料。
  • Delete  deleteFamily(byte[] family)    删除指定列族的所有列的所有版本資料。
  • Delete  deleteFamily(byte[] family, long timestamp)    删除指定列族的所有列中時間戳小于等于指定時間戳的所有資料。
  • Delete  deleteFamilyVersion(byte[] family, long timestamp)    删除指定列族中所有列的時間戳等于指定時間戳的版本資料。
  • voidsetTimestamp(long timestamp)    為Delete對象設定時間戳。

6.3.執行個體代碼

(1)删除整行的所有列族、所有行、所有版本

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Delete delete = new Delete(Bytes.toBytes("000"));

        table.delete(delete);

        table.close();  

(2)删除指定列的最新版本

以下是删除之前的資料,注意看100003行的info:address,這是該列最新版本的資料,值是caofang1,在這之前的版本值是caofang:

hbase(main):007:0> scan 'rd_ns:leetable'

ROW                       COLUMN+CELL

 100001                   column=info:address, timestamp=1405304843114, value=longze

 100001                   column=info:age, timestamp=1405304843114, value=31

 100001                   column=info:name, timestamp=1405304843114, value=leon

 100002                   column=info:address, timestamp=1405305471343, value=caofang

 100002                   column=info:age, timestamp=1405305471343, value=30

 100002                   column=info:name, timestamp=1405305471343, value=show

 100003                   column=info:address, timestamp=1405390959464, value=caofang1

 100003                   column=info:age, timestamp=1405390959464, value=301

 100003                   column=info:name, timestamp=1405390959464, value=show1

3 row(s) in 0.0270 seconds

執行以下代碼:

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Delete delete = new Delete(Bytes.toBytes("100003"));

        delete.deleteColumn(Bytes.toBytes("info"), Bytes.toBytes("address"));

        table.delete(delete);

        table.close();  

然後檢視資料,發現100003列的info:address列的值顯示為前一個版本的caofang了!其餘值均不變:

hbase(main):008:0> scan 'rd_ns:leetable'

ROW                       COLUMN+CELL

 100001                   column=info:address, timestamp=1405304843114, value=longze

 100001                   column=info:age, timestamp=1405304843114, value=31

 100001                   column=info:name, timestamp=1405304843114, value=leon

 100002                   column=info:address, timestamp=1405305471343, value=caofang

 100002                   column=info:age, timestamp=1405305471343, value=30

 100002                   column=info:name, timestamp=1405305471343, value=show

 100003                   column=info:address, timestamp=1405390728175, value=caofang

 100003                   column=info:age, timestamp=1405390959464, value=301

 100003                   column=info:name, timestamp=1405390959464, value=show1

3 row(s) in 0.0560 seconds

(3)删除指定列的所有版本

接以上場景,執行以下代碼:

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Delete delete = new Delete(Bytes.toBytes("100003"));

        delete.deleteColumns(Bytes.toBytes("info"), Bytes.toBytes("address"));

        table.delete(delete);

        table.close();  

然後我們會發現,100003行的整個info:address列都沒了:

hbase(main):009:0> scan 'rd_ns:leetable'

ROW                       COLUMN+CELL

 100001                   column=info:address, timestamp=1405304843114, value=longze

 100001                   column=info:age, timestamp=1405304843114, value=31

 100001                   column=info:name, timestamp=1405304843114, value=leon

 100002                   column=info:address, timestamp=1405305471343, value=caofang

 100002                   column=info:age, timestamp=1405305471343, value=30

 100002                   column=info:name, timestamp=1405305471343, value=show

 100003                   column=info:age, timestamp=1405390959464, value=301

 100003                   column=info:name, timestamp=1405390959464, value=show1

3 row(s) in 0.0240 seconds

(4)删除指定列族中所有列的時間戳等于指定時間戳的版本資料

為了示範效果,我已經向100003行的info:address列新插入一條資料

hbase(main):010:0> scan 'rd_ns:leetable'

ROW                       COLUMN+CELL

 100001                   column=info:address, timestamp=1405304843114, value=longze

 100001                   column=info:age, timestamp=1405304843114, value=31

 100001                   column=info:name, timestamp=1405304843114, value=leon

 100002                   column=info:address, timestamp=1405305471343, value=caofang

 100002                   column=info:age, timestamp=1405305471343, value=30

 100002                   column=info:name, timestamp=1405305471343, value=show

 100003                   column=info:address, timestamp=1405391883886, value=shangdi

 100003                   column=info:age, timestamp=1405390959464, value=301

 100003                   column=info:name, timestamp=1405390959464, value=show1

3 row(s) in 0.0250 seconds

現在,我們的目的是删除info列族中,時間戳為1405390959464的所有列資料:

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Delete delete = new Delete(Bytes.toBytes("100003"));

        delete.deleteFamilyVersion(Bytes.toBytes("info"), 1405390959464L);

        table.delete(delete);

        table.close();  

hbase(main):011:0> scan 'rd_ns:leetable'

ROW                       COLUMN+CELL

 100001                   column=info:address, timestamp=1405304843114, value=longze

 100001                   column=info:age, timestamp=1405304843114, value=31

 100001                   column=info:name, timestamp=1405304843114, value=leon

 100002                   column=info:address, timestamp=1405305471343, value=caofang

 100002                   column=info:age, timestamp=1405305471343, value=30

 100002                   column=info:name, timestamp=1405305471343, value=show

 100003                   column=info:address, timestamp=1405391883886, value=shangdi

 100003                   column=info:age, timestamp=1405390728175, value=30

 100003                   column=info:name, timestamp=1405390728175, value=show

3 row(s) in 0.0250 seconds

可以看到,100003行的info列族,已經不存在時間戳為1405390959464的資料,比它更早版本的資料被查詢出來,而info列族中時間戳不等于1405390959464的address列,不受該delete的影響。

7.擷取單行Get

如果希望擷取整行資料,用行鍵初始化一個Get對象就可以,如果希望進一步縮小擷取的資料範圍,可以使用Get對象的以下方法:

  • 如果希望取得指定列族的所有列資料,使用addFamily添加所有的目标列族即可;
  • 如果希望取得指定列的資料,使用addColumn添加所有的目标列即可;
  • 如果希望取得目标列的指定時間戳範圍的資料版本,使用setTimeRange;
  • 如果僅希望擷取目标列的指定時間戳版本,則使用setTimestamp;
  • 如果希望限制每個列傳回的版本數,使用setMaxVersions;
  • 如果希望添加過濾器,使用setFilter

下面較長的描述構造函數及常用方法:

7.1.構造函數

Get的構造函數很簡單,隻有一個構造函數:Get(byte[] row) 參數是行鍵。

7.2.常用方法

  • GetaddFamily(byte[] family)  指定希望擷取的列族
  • GetaddColumn(byte[] family, byte[] qualifier)  指定希望擷取的列
  • GetsetTimeRange(long minStamp, long maxStamp)  設定擷取資料的時間戳範圍
  • GetsetTimeStamp(long timestamp)  設定擷取資料的時間戳
  • GetsetMaxVersions(int maxVersions) 設定擷取資料的版本數
  • GetsetMaxVersions()  設定擷取資料的所有版本
  • GetsetFilter(Filter filter)  為Get對象添加過濾器,過濾器詳解請參見:http://blog.csdn.net/u010967382/article/details/37653177
  • voidsetCacheBlocks(boolean cacheBlocks)  設定該Get擷取的資料是否緩存在記憶體中

7.3.實測代碼

測試表的所有資料:

hbase(main):016:0> scan 'rd_ns:leetable'

ROW                       COLUMN+CELL

 100001                   column=info:address, timestamp=1405304843114, value=longze

 100001                   column=info:age, timestamp=1405304843114, value=31

 100001                   column=info:name, timestamp=1405304843114, value=leon

 100002                   column=info:address, timestamp=1405305471343, value=caofang

 100002                   column=info:age, timestamp=1405305471343, value=30

 100002                   column=info:name, timestamp=1405305471343, value=show

 100003                   column=info:address, timestamp=1405407883218, value=qinghe

 100003                   column=info:age, timestamp=1405407883218, value=28

 100003                   column=info:name, timestamp=1405407883218, value=shichao

3 row(s) in 0.0250 seconds

(1)擷取行鍵指定行的所有列族、所有列的最新版本資料

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Get get = new Get(Bytes.toBytes("100003"));

        Result r = table.get(get);

for (Cell cell : r.rawCells()) {

            System.out.println(

                    "Rowkey : "+Bytes.toString(r.getRow())+

                    "   Familiy:Quilifier : "+Bytes.toString(CellUtil.cloneQualifier(cell))+

                    "   Value : "+Bytes.toString(CellUtil.cloneValue(cell))

                    );

        }

        table.close();  

代碼輸出:

Rowkey : 100003   Familiy:Quilifier : address   Value : qinghe

Rowkey : 100003   Familiy:Quilifier : age   Value : 28

Rowkey : 100003   Familiy:Quilifier : name   Value : shichao  

(2)擷取行鍵指定行中,指定列的最新版本資料

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Get get = new Get(Bytes.toBytes("100003"));

        get.addColumn(Bytes.toBytes("info"), Bytes.toBytes("name"));

        Result r = table.get(get);

for (Cell cell : r.rawCells()) {

            System.out.println(

                    "Rowkey : "+Bytes.toString(r.getRow())+

                    "   Familiy:Quilifier : "+Bytes.toString(CellUtil.cloneQualifier(cell))+

                    "   Value : "+Bytes.toString(CellUtil.cloneValue(cell))

                    );

        }

        table.close();  

代碼輸出:

Rowkey : 100003   Familiy:Quilifier : name   Value : shichao  

(3)擷取行鍵指定的行中,指定時間戳的資料

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:leetable");

        Get get = new Get(Bytes.toBytes("100003"));

        get.setTimeStamp(1405407854374L);

        Result r = table.get(get);

for (Cell cell : r.rawCells()) {

            System.out.println(

                    "Rowkey : "+Bytes.toString(r.getRow())+

                    "   Familiy:Quilifier : "+Bytes.toString(CellUtil.cloneQualifier(cell))+

                    "   Value : "+Bytes.toString(CellUtil.cloneValue(cell))

                    );

        }

        table.close();   

代碼輸出了上面scan指令輸出中沒有展示的曆史資料:

Rowkey : 100003   Familiy:Quilifier : address   Value : huangzhuang

Rowkey : 100003   Familiy:Quilifier : age   Value : 32

Rowkey : 100003   Familiy:Quilifier : name   Value : lily  

(4)擷取行鍵指定的行中,所有版本的資料

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:itable");

        Get get = new Get(Bytes.toBytes("100003"));

        get.setMaxVersions();

        Result r = table.get(get);

for (Cell cell : r.rawCells()) {

            System.out.println(

                    "Rowkey : "+Bytes.toString(r.getRow())+

                    "   Familiy:Quilifier : "+Bytes.toString(CellUtil.cloneQualifier(cell))+

                    "   Value : "+Bytes.toString(CellUtil.cloneValue(cell))+

                    "   Time : "+cell.getTimestamp()

                    );

        }

        table.close();         

代碼輸出:

Rowkey : 100003   Familiy:Quilifier : address   Value : xierqi   Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : address   Value : shangdi   Time : 1405417477465

Rowkey : 100003   Familiy:Quilifier : address   Value : longze   Time : 1405417448414

Rowkey : 100003   Familiy:Quilifier : age   Value : 29   Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : age   Value : 30   Time : 1405417477465

Rowkey : 100003   Familiy:Quilifier : age   Value : 31   Time : 1405417448414

Rowkey : 100003   Familiy:Quilifier : name   Value : leon   Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : name   Value : lee   Time : 1405417477465

Rowkey : 100003   Familiy:Quilifier : name   Value : lion   Time : 1405417448414  

注意:

能輸出多版本資料的前提是目前列族能儲存多版本資料,列族可以儲存的資料版本數通過HColumnDescriptor的setMaxVersions(Int)方法設定。

8.擷取多行Scan

       Scan對象可以傳回滿足給定條件的多行資料。如果希望擷取所有的行,直接初始化一個Scan對象即可。如果希望限制掃描的行範圍,可以使用以下方法:

  • 如果希望擷取指定列族的所有列,可使用addFamily方法來添加所有希望擷取的列族
  • 如果希望擷取指定列,使用addColumn方法來添加所有列
  • 通過setTimeRange方法設定擷取列的時間範圍
  • 通過setTimestamp方法指定具體的時間戳,隻傳回該時間戳的資料
  • 通過setMaxVersions方法設定最大傳回的版本數
  • 通過setBatch方法設定傳回資料的最大行數
  • 通過setFilter方法為Scan對象添加過濾器,過濾器詳解請參見:http://blog.csdn.net/u010967382/article/details/37653177
  • Scan的結果資料是可以緩存在記憶體中的,可以通過getCaching()方法來檢視目前設定的緩存條數,也可以通過setCaching(int caching)來設定緩存在記憶體中的行數,緩存得越多,以後查詢結果越快,同時也消耗更多記憶體。此外,通過setCacheBlocks方法設定是否緩存Scan的結果資料塊,預設為true
  • 我們可以通過setMaxResultSize(long)方法來設定Scan傳回的結果行數。

       下面是官網文檔中的一個入門示例:假設表有幾行鍵值為 "row1", "row2", "row3",還有一些行有鍵值 "abc1", "abc2", 和 "abc3",目标是傳回"row"打頭的行:

HTable htable = ...      // instantiate HTable

Scan scan = new Scan();

scan.addColumn(Bytes.toBytes("cf"),Bytes.toBytes("attr"));

scan.setStartRow( Bytes.toBytes("row"));                   // start key is inclusive

scan.setStopRow( Bytes.toBytes("row" +  (char)0));  // stop key is exclusive

ResultScanner rs = htable.getScanner(scan);

try {

  for (Result r = rs.next(); r != null; r = rs.next()) {

  // process result...

} finally {

  rs.close();  // always close the ResultScanner!

}

8.1.常用構造函數

(1)建立掃描所有行的Scan

Scan()

(2)建立Scan,從指定行開始掃描,

Scan(byte[] startRow)

參數:startRow行鍵

注意:如果指定行不存在,從下一個最近的行開始

(3)建立Scan,指定起止行

Scan(byte[] startRow, byte[] stopRow)

參數:startRow起始行,stopRow終止行

注意:startRow <= 結果集 < stopRow

(4)建立Scan,指定起始行和過濾器

Scan(byte[] startRow, Filter filter) 

參數:startRow起始行,filter過濾器

注意:過濾器的功能和構造參見http://blog.csdn.net/u010967382/article/details/37653177

8.2.常用方法

  • Scan  setStartRow(byte[] startRow)  設定Scan的開始行,預設結果集包含該行。如果希望結果集不包含該行,可以在行鍵末尾加上0。
  • Scan  setStopRow(byte[] stopRow)  設定Scan的結束行,預設結果集不包含該行。如果希望結果集包含該行,可以在行鍵末尾加上0。
  • Scan  setTimeRange(long minStamp, long maxStamp)  掃描指定時間範圍的資料
  • Scan  setTimeStamp(long timestamp)  掃描指定時間的資料
  • Scan  addColumn(byte[] family, byte[] qualifier)  指定掃描的列
  • Scan  addFamily(byte[] family) 指定掃描的列族
  • Scan  setFilter(Filter filter)  為Scan設定過濾器
  • Scan  setReversed(boolean reversed)  設定Scan的掃描順序,預設是正向掃描(false),可以設定為逆向掃描(true)。注意:該方法0.98版本以後才可用!!
  • Scan  setMaxVersions()  擷取所有版本的資料
  • Scan  setMaxVersions(int maxVersions)  設定擷取的最大版本數
  • void  setCaching(int caching)  設定緩存在記憶體中的行數,緩存得越多,以後查詢結果越快,同時也消耗更多記憶體
  • voidsetRaw(boolean raw)  激活或者禁用raw模式。如果raw模式被激活,Scan将傳回所有已經被打上删除标記但尚未被真正删除的資料。該功能僅用于激活了KEEP_DELETED_ROWS的列族,即列族開啟了hcd.setKeepDeletedCells(true)。Scan激活raw模式後,就不能指定任意的列,否則會報錯

Enable/disable "raw" mode for this scan. If "raw" is enabled the scan will return all delete marker and deleted rows that have not been collected, yet. This is mostly useful for Scan on column families that have KEEP_DELETED_ROWS enabled. It is an error to specify any column when "raw" is set.

hcd.setKeepDeletedCells(true);

8.3.實測代碼

(1)掃描表中的所有行的最新版本資料

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:itable");

        Scan s = new Scan();

        ResultScanner rs = table.getScanner(s);

for (Result r : rs) {

for (Cell cell : r.rawCells()) {

                System.out.println(

                        "Rowkey : "+Bytes.toString(r.getRow())+

                        "   Familiy:Quilifier : "+Bytes.toString(CellUtil.cloneQualifier(cell))+

                        "   Value : "+Bytes.toString(CellUtil.cloneValue(cell))+

                        "   Time : "+cell.getTimestamp()

                        );

            }

        }

        table.close();  

代碼輸出:

Rowkey : 100001   Familiy:Quilifier : address   Value : anywhere   Time : 1405417403438

Rowkey : 100001   Familiy:Quilifier : age   Value : 24   Time : 1405417403438

Rowkey : 100001   Familiy:Quilifier : name   Value : zhangtao   Time : 1405417403438

Rowkey : 100002   Familiy:Quilifier : address   Value : shangdi   Time : 1405417426693

Rowkey : 100002   Familiy:Quilifier : age   Value : 28   Time : 1405417426693

Rowkey : 100002   Familiy:Quilifier : name   Value : shichao   Time : 1405417426693

Rowkey : 100003   Familiy:Quilifier : address   Value : xierqi   Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : age   Value : 29   Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : name   Value : leon   Time : 1405417500485  

(2)掃描指定行鍵範圍,通過末尾加0,使得結果集包含StopRow

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:itable");

        Scan s = new Scan();

        s.setStartRow(Bytes.toBytes("100001"));

        s.setStopRow(Bytes.toBytes("1000020"));

        ResultScanner rs = table.getScanner(s);

for (Result r : rs) {

for (Cell cell : r.rawCells()) {

                System.out.println(

                        "Rowkey : "+Bytes.toString(r.getRow())+

                        "   Familiy:Quilifier : "+Bytes.toString(CellUtil.cloneQualifier(cell))+

                        "   Value : "+Bytes.toString(CellUtil.cloneValue(cell))+

                        "   Time : "+cell.getTimestamp()

                        );

            }

        }

        table.close();  

代碼輸出:

Rowkey : 100001   Familiy:Quilifier : address   Value : anywhere   Time : 1405417403438

Rowkey : 100001   Familiy:Quilifier : age   Value : 24   Time : 1405417403438

Rowkey : 100001   Familiy:Quilifier : name   Value : zhangtao   Time : 1405417403438

Rowkey : 100002   Familiy:Quilifier : address   Value : shangdi   Time : 1405417426693

Rowkey : 100002   Familiy:Quilifier : age   Value : 28   Time : 1405417426693

Rowkey : 100002   Familiy:Quilifier : name   Value : shichao   Time : 1405417426693  

(3)傳回所有已經被打上删除标記但尚未被真正删除的資料

本測試針對rd_ns:itable表的100003行。

如果使用get結合setMaxVersions()方法能傳回所有未删除的資料,輸出如下:

Rowkey : 100003   Familiy:Quilifier : address   Value : huilongguan   Time : 1405494141522

Rowkey : 100003   Familiy:Quilifier : address   Value : shangdi   Time : 1405417477465

Rowkey : 100003   Familiy:Quilifier : age   Value : new29   Time : 1405494141522

Rowkey : 100003   Familiy:Quilifier : name   Value : liyang   Time : 1405494141522  

然而,使用Scan強大的s.setRaw(true)方法,可以獲得所有已經被打上删除标記但尚未被真正删除的資料。

代碼如下:

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:itable");

        Scan s = new Scan();

        s.setStartRow(Bytes.toBytes("100003"));

        s.setRaw(true);

        s.setMaxVersions();

        ResultScanner rs = table.getScanner(s);

for (Result r : rs) {

for (Cell cell : r.rawCells()) {

                System.out.println(

                        "Rowkey : "+Bytes.toString(r.getRow())+

                        "   Familiy:Quilifier : "+Bytes.toString(CellUtil.cloneQualifier(cell))+

                        "   Value : "+Bytes.toString(CellUtil.cloneValue(cell))+

                        "   Time : "+cell.getTimestamp()

                        );

            }

        }

        table.close();  

輸出結果如下:

Rowkey : 100003   Familiy:Quilifier : address   Value : huilongguan   Time : 1405494141522

Rowkey : 100003   Familiy:Quilifier : address   Value :    Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : address   Value : xierqi   Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : address   Value : shangdi   Time : 1405417477465

Rowkey : 100003   Familiy:Quilifier : address   Value :    Time : 1405417448414

Rowkey : 100003   Familiy:Quilifier : address   Value : longze   Time : 1405417448414

Rowkey : 100003   Familiy:Quilifier : age   Value : new29   Time : 1405494141522

Rowkey : 100003   Familiy:Quilifier : age   Value :    Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : age   Value :    Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : age   Value : 29   Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : age   Value : 30   Time : 1405417477465

Rowkey : 100003   Familiy:Quilifier : age   Value : 31   Time : 1405417448414

Rowkey : 100003   Familiy:Quilifier : name   Value : liyang   Time : 1405494141522

Rowkey : 100003   Familiy:Quilifier : name   Value :    Time : 1405493879419

Rowkey : 100003   Familiy:Quilifier : name   Value : leon   Time : 1405417500485

Rowkey : 100003   Familiy:Quilifier : name   Value : lee   Time : 1405417477465

Rowkey : 100003   Familiy:Quilifier : name   Value : lion   Time : 1405417448414

(4)結合過濾器,擷取所有age在25到30之間的行

目前的資料:

hbase(main):049:0> scan 'rd_ns:itable'

ROW                                           COLUMN+CELL

 100001                                       column=info:address, timestamp=1405417403438, value=anywhere

 100001                                       column=info:age, timestamp=1405417403438, value=24

 100001                                       column=info:name, timestamp=1405417403438, value=zhangtao

 100002                                       column=info:address, timestamp=1405417426693, value=shangdi

 100002                                       column=info:age, timestamp=1405417426693, value=28

 100002                                       column=info:name, timestamp=1405417426693, value=shichao

 100003                                       column=info:address, timestamp=1405494141522, value=huilongguan

 100003                                       column=info:age, timestamp=1405494999631, value=29

 100003                                       column=info:name, timestamp=1405494141522, value=liyang

3 row(s) in 0.0240 seconds

代碼:

        Configuration conf = HBaseConfiguration.create();

        HTable table = new HTable(conf, "rd_ns:itable");

        FilterList filterList = new FilterList(FilterList.Operator.MUST_PASS_ALL);  

        SingleColumnValueFilter filter1 = new SingleColumnValueFilter(

                Bytes.toBytes("info"),

                Bytes.toBytes("age"),

                CompareOp.GREATER_OR_EQUAL,

                Bytes.toBytes("25")

                );

        SingleColumnValueFilter filter2 = new SingleColumnValueFilter(

                Bytes.toBytes("info"),

                Bytes.toBytes("age"),

                CompareOp.LESS_OR_EQUAL,

                Bytes.toBytes("30")

                );

        filterList.addFilter(filter1);

        filterList.addFilter(filter2);

        Scan scan = new Scan();

        scan.setFilter(filterList);

        ResultScanner rs = table.getScanner(scan);

for (Result r : rs) {

for (Cell cell : r.rawCells()) {

                System.out.println(

                        "Rowkey : "+Bytes.toString(r.getRow())+

                        "   Familiy:Quilifier : "+Bytes.toString(CellUtil.cloneQualifier(cell))+

                        "   Value : "+Bytes.toString(CellUtil.cloneValue(cell))+

                        "   Time : "+cell.getTimestamp()

                        );

            }

        }

        table.close();  

代碼輸出:

Rowkey : 100002   Familiy:Quilifier : address   Value : shangdi   Time : 1405417426693

Rowkey : 100002   Familiy:Quilifier : age   Value : 28   Time : 1405417426693

Rowkey : 100002   Familiy:Quilifier : name   Value : shichao   Time : 1405417426693

Rowkey : 100003   Familiy:Quilifier : address   Value : huilongguan   Time : 1405494141522

Rowkey : 100003   Familiy:Quilifier : age   Value : 29   Time : 1405494999631

Rowkey : 100003   Familiy:Quilifier : name   Value : liyang   Time : 1405494141522

注意:

  1. HBase對列族、列名大小寫敏感
  2. 關于過濾器請參見我的另外一篇部落格:http://blog.csdn.net/u010967382/article/details/37653177