通过修改源码想 clear 图库实例时保持region分区原样，但未有效

[lihuimintu]

Expected behavior 期望表现

期望 clear 图库实例时，HBase 的表的Region 分区能保持原样，不要恢复成一个Region。
根据阅读源码和HBase的知识。我找到了对应位置，并修改了源码 HbaseSessions的truncateTable方法。

truncateTable方法调用的truncateTableAsync方法的preserveSplits参数改成true。

将其编译打包上传到测试环境上，并替换lib路径下的 hugegraph-hbase-0.9.2.jar 包。

Actual behavior 实际表现

执行clear方式清除图实例，发现还是将HBase表恢复成只有一个Region

Steps to reproduce the problem 复现步骤

1. 初始化图实例bin/init-store.sh后，在hbase shell 上手动删除 graph_v， 新建一个预分区的 graph_v。create 'hugegraph:graph_v', 'f', SPLITS => ['0x8', '0x9', '0xa', '0xb', '0xc', '0xd', '0xe', '0xf']
2. 使用 postman 向图服务发送clear清除请求。http://{hostIP}:8080/graphs/hugegraph/clear?confirm_message=I%27m+sure+to+delete+all+data
3. hbase 的 web UI上查看graph_v表的region个数

Specifications of environment 环境信息

• hugegraph version: v0.9.2
• operating system: centos 7.5
• hugegraph backend: hbase 2.1.0+cdh6.3.1, cluster with 4 nodes

[imbajin]

不好意思, 开始看串了, 看成你修改hbase-client的源码了... 那可能是如作者所说的

可以参考之前类似的问题, 先用Arthas快速修改看看是否有效. 再去实际修改

最后就是, 清空Hbase数据的时候默认应该保留region结构么? 似乎可以改成默认保留, 用户如果需要删除直接hbase删除表就行了 @javeme

[javeme]

@imbajin 默认保留region结构可以的（可能是大部分场景的需求，不过不确定是否有需要干净分区的场景）

@lihuimintu 修改参数preserveSplits=true不成功，可能是操作步骤不对（比如没有重启server），能否提供详细具体的步骤？另外，欢迎给hugegraph贡献代码 how to contribute

[imbajin]

实际来看干净区分的需求应该很少, 大多数的场景是业务开始使用图, 各种原因然后频繁的clear...
业务hbase这里不好预分配region(split key太集中)

而如果是清成1个region, 最大的问题是前期导入数据很容易出现region too busy的异常(并且此时只有一个节点干活, 速度很慢, 必须得等它自己多次切分并balance到每个节点之后, 才好一点.

而实际的情况是经常得手动去split, 然后经常的move热点region, 很是麻烦, 更别说清空重新再来一次了, 所以如果这个设置没啥隐患, 那的确是很有用的

[lihuimintu]

正如 @imbajin 所说，clear之后再重新导入数据会出现HBaes单机负载高，需要手动split后再move。因此才想修改源码来解决该问题。
@javeme 下方是我具体的尝试步骤
1 针对业务分析，我司图库主键需求都是采用String Id，阅读源码发现String Id的rowkey前缀是String的长度跟0x80做或运算。
BytesBuffer类的writeId方法

这样的话，觉得就在新建HBase graph_v表时做好预分区，这样对新建的图库实例更友好些。
修改 HbaseSessions类的createTable方法如下

2 另外就如之前所说打算在clear 图库实例时，只清空Hbase数据并保留region结构。
修改 truncateTable 方法调用的truncateTableAsync方法的preserveSplits参数，将该参数改成true。

3 目前只修改了这两处，想验证下修改效果，将hugegraph-hbase 项目编译打包，并替换测试环境hugegraph-0.9.2/lib路径下的 hugegraph-hbase-0.9.2.jar 包
4 停止server服务，修改conf目录下相关文件添加新图库实例
5 bin/init-store.sh 初始化图库，bin/start-hugegraph.sh 启动server
6 查看HBase Web UI 页面发现 graph_v 表有进行预分区，说明修改createTable方法有效

7 使用 postman 向hugegraph发送clear清除请求。http://{hostIP}:8080/graphs/hugegraph/clear?confirm_message=I%27m+sure+to+delete+all+data
8 查看UI页面发现 graph_v 表region 结构未保留。说明修改truncateTable 方法未有效

9 中间尝试过打印日志的方式确认 clear 时会进入truncateTable 方法清除HBase表，还将 return admin.truncateTableAsync(tableName, true);方法注释换成return null;让其不清空HBase表看看效果，发现最终呈现的还是清空了HBase表。这让我怀疑clear 并不是调用truncateTable方法，但是根据阅读源码我只能找到truncateTable方法会清空HBase表。

---

Arthas 工具暂不熟悉，后续处理图库细节问题时我会尝试使用。谢谢传授经验

[javeme]

换成return null;让其不清空HBase表看看效果，发现最终呈现的还是清空了HBase表。

@lihuimintu 第9步看起来是没有成功替换新代码，建议增加一些日志打印：

private static final Logger LOG = Log.logger(HbaseSessions.class);
LOG.info("truncateTable {}", table);

[lihuimintu]

增加两处日志
1 在HbaseStore类的truncate方法中添加LOG.info("Truncate table {}", table);

2 在HbaseSessions类的truncateTable方法添加LOG.info("truncateTable {}", table);

查看server日志发现有 HbaseStore 的日志打印，未有HbaseSessions的日志打印，看起来是能够进入HbaseStore类的truncate方法，但是未能够进入HbaseSessions类的truncateTable方法

日志未能有效打印这让我很难确定问题。

[javeme]

日志未能有效打印这让我很难确定问题。

@lihuimintu 说明HbaseSessions这个类的代码没有替换成功，可能是打包过程中引入的问题，最好清空一下mvn clean再执行mvn package。

[lihuimintu]

打包过程一直是先clean再package的。
为了更好的复现问题。决定重新部署环境
我将conf 目录备份，将hugegraph-0.9.2文件夹删除，重新解压tar包并部署了一次hugegraph-0.9.2的环境，将备份的conf目录替换原始conf目录。
同时使用了jd-gui对打包编译出来的jar包确认代码有被更改

再将其替换之后测试，发现日志有成功打印HbaseSessions类的truncateTable方法的日志。

观察 HBase Web UI页面看到 Region结构也保持原样，达到预期效果。

从现在的情况看可能是之前图库环境造成的HbaseSessions这个类的代码没有替换成功。感觉很玄学。
最后感激两位 @imbajin @javeme 的帮助

[imbajin]

@lihuimintu
很赞的issue, 能帖出自己的思路和图, 这样对解决问题的效率很有帮助
其次社区也会更愿意优先回复一些

PS: 最后关于Arthas我上个issue里后面给出了完整的用例, 就几步其实挺简单的, 可以试试, 也自带jad 方便你快速确认是否改动有生效, 编译打包重启的过程太麻烦了, 特别是这种验证性的小问题. (而且线上也有许多不适合重启的场景, 或者重启后难以复现的问题)

[javeme]

@lihuimintu 解决了就好。
也非常欢迎将代码提交到社区中来，如果有意愿的话接下来可以讨论具体的方案，大体上是按照现在贴的流程，只是把split-keys写到配置文件中即可。

[lihuimintu]

@javeme 目前修改的代码如之前所说，个人也愿意参与进来，同时想让代码能够优雅。

两个想法

1. 选择想做预分区的表做指定预分区
2. clear图库实例时，可以选择恢复成一个region，也可以清除数据但保留region结构

希望社区能提供具体的方案设计，争取能够实现并回馈社区。

[javeme]

@lihuimintu 我觉得上面的两个想法OK。

预分区配置方式大概可以是这样：

hbase.tables_splits = [
  g_v: [0x000a, 0x000b, 0xFF00],
  g_oe: [0x000a, 0x000b, 0xaabb],
  g_ie: [0x000a, 0x000b, 0xaabb]
]

可参考rocksdb.data_disks配置项。

可增加配置hbase.truncate_preserve_splits=true/false选择是否保留region结构。

@imbajin @Linary 你们有没有什么补充？

[imbajin]

唔, 第二点没啥问题, 默认给true清空数据时保留分区结构

主要是第一点预分区这, 假设以下用户场景:

点有3种, 分别是Phone, IP, MD5
那数据常见两种情况:

1. 使用原生数据作为顶点id, 比如Phone顶点的137xxx57, 和IP顶点的 8.8.8.8, md5值
2. 使用主键模式, 比如 1:137xxx57 和 2:8.8.8.8 和3:md5值

出入边表取决于点ID, 就不单独说了, 另外索引表也是一个数据大表, 也要切分

然后hbase默认提供两种分区方式:

1. 如果数据较少(千万/亿级), 或者随机性很强(md5后). 可以简单一些, 直接给一个region数, 比如默认几张数据表初始给n个region, 这个应该简单 (可作为默认的分区方式? 默认值是?)
2. 如果数据较大, 或者数据特征很集中, 可以按具体的分裂点去让业务设置, 不过这里细一些:
   • 表的分裂点如何设置更友好, 比如根据上面的case, 手机号在点表中期望是以1:137, 1:176, 1:189等作为分裂点, 配置里能直接写原始字符串, 而不需要拼加在头部的byte字节
   • 3:md5这种天然均匀的数据, 分裂点如何设置呢? 引出是否需要有默认的分裂方式?
   • 例子里的两种主键ID设置方式, 不知道是不是要分别处理

先就想到这些, 有新的再补充~

[javeme]

@lihuimintu @imbajin 看起来预分区由于涉及因素较多，所以比较复杂：

1. 顶点id策略不一样，分区策略需要有所区别
2. id长度也会影响分区
3. 假如是主键策略，也需要依赖label的id，因此必须在创建好元数据之后的时机进行预分区

目前我想到2个方案：
方案1：预分区在元数据中来设置看起来是比较通用的方式，比如在label中增加一个分区策略，每个label支持一种策略，然后把所有label的分区汇总：

1. 枚举分段，任意类型id都可以，输入id类型对应的值，包括字符串或者数字，比如
   splits: [137, 176, 189]
2. 数字类型id（包括自定义数字id、自定义uuid、自动生成id、主键数字属性在内），可以指定固定（平均/随机）分为多少段，比如
   splits: 100
3. 以16进制表示的字符串（实际是数字或字节数组），可以按照数字类型处理，分段之后转为16进制

方案2：对于所有类型的id均使用hash方式加上一段前缀（比如2个字节hash值），这样只需要指定分为多少段即可。

另外，增加配置hbase.truncate_preserve_splits项可以独立出来，先完成一部分。