天天看点

impala两种方式同步hive元数据

1.hue中要使用Perform incremental metadata update,不要使用Invalidate all metadata and rebuild index,如果是invalidate metadata什么都不加,宁愿重新启动catalogd。

2.如果涉及到表的schema改变,使用invalidate metadata [table]

3.如果只是涉及到表的数据改变,使用refresh [table]。

4.如果只是涉及到表的某一个分区数据改变,使用refresh [table] partition [partition]。

5.invalidate metadata操作比refresh要重量级。

使用方式
invalidate metadata是用于刷新全库或者某个表的元数据,包括表的元数据和表内的文件数据,它会首先清楚表的缓存,然后从metastore中重新加载全部数据并缓存,该操作代价比较重,主要用于在hive中修改了表的元数据,需要同步到impalad,例如create table/drop table/alter table add columns等。

invalidate metadata   语法:

invalidate metadata                    //重新加载所有库中的所有表
invalidate metadata [table]            //重新加载指定的某个表
refresh是用于刷新某个表或者某个分区的数据信息,它会重用之前的表元数据,仅仅执行文件刷新操作,它能够检测到表中分区的增加和减少,主要用于表中元数据未修改,数据的修改,例如insert into、load data、alter table add partition、llter table drop partition等,如果直接修改表的hdfs文件(增加、删除或者重命名)也需要指定refresh刷新数据信息。

refresh 语法:

refresh [table]                             //刷新某个表
refresh [table] partition [partition]       //刷新某个表的某个分区
使用原则
如果在使用过程中涉及到了元数据或者数据的更新,则需要使用这两者中的一个操作完成,具体如何选择需要根据如下原则:

invalidate metadata操作比refresh要重量级
如果涉及到表的schema改变,使用invalidate metadata [table]
如果只是涉及到表的数据改变,使用refresh [table]
如果只是涉及到表的某一个分区数据改变,使用refresh [table] partition [partition]