天天躁日日躁狠狠躁AV麻豆-天天躁人人躁人人躁狂躁-天天澡夜夜澡人人澡-天天影视香色欲综合网-国产成人女人在线视频观看-国产成人女人视频在线观看

基于HBase Thrift接口的一些使用問題及相關注意事項的詳解

HBase對于非Java語言提供了Thrift接口支持,這里結合對HBase Thrift接口(HBase版本為0.92.1)的使用經驗,總結其中遇到的一些問題及其相關注意事項。
1. 字節的存放順序
HBase中,由于row(row key和column family、column qualifier、time stamp)是按照字典序進行排序的,因此,對于short、int、long等類型的數據,通過Bytes.toBytes(…)轉換成byte數組后,必須按照大端模式(高字節在低地址,低字節在高地址)存放。對于value,也是同樣的道理。因此,在使用Thrift API(C++、phpPython等)方式時,最好對于row和value都統一按照大端進行pack和unpack處理。
舉個例子,C++中,對于int型變量,經過以下方式轉換為字典序:
復制代碼 代碼如下:
string key;
  int32_t timestamp = 1352563200;
  const char* pTs =(const char*) ×tamp;
  size_t n = sizeof(int32_t);
  key.append(pTs, n);

通過以下方式將字典序轉換為int:
復制代碼 代碼如下:
const char * ts = key.c_str();
int32_t timestamp = *((int32_t*)(ts));

php中則提供了pack和unpack方法進行轉換:
復制代碼 代碼如下:
  $key = pack("N", $num);
  $num = unpack("N", $key);

2. TScan的使用陷阱
HBase的php Thrift接口中,TScan可以直接通過設置startRow、stopRow、columns、filter等屬性,默認這些屬性均為null,設置后變為非null(通過TScan的構造函數或直接對TScan的成員變量進行賦值)。通過write()方法和Thrift Server進行RPC操作時,直接判斷的依據是這些屬性不為null,則通過Thrift協議傳輸到Thrift Server端。
但是在C++的Thrift接口中,TScan中有一個_TScan__isset __isset類型的變量,其內部結構如下:
復制代碼 代碼如下:
typedef struct _TScan__isset {
  _TScan__isset() : startRow(false), stopRow(false), timestamp(false), columns(false), caching(false), filterString(false) {}
  bool startRow;
  bool stopRow;
  bool timestamp;
  bool columns;
  bool caching;
  bool filterString;
} _TScan__isset;

TScan的write()方法則是通過判斷_TScan__isset下的各個bool變量標記是否設置了startRow、stopRow、columns、filter等屬性,決定是否將這些屬性通過Thrift協議傳輸到Thrift Server端,而這些屬性必須通過__set_xxx()方法進行設置才能生效!在TScan的默認構造函數中,并不會對這些屬性對應的__isset標記設置為true!
因此,如果直接通過TScan的構造函數初始化startRow、stopRow、columns、filter等屬性會導致從頭遍歷該表,只有調用了__set_xxx()方法才會將對應的bool標識設置為true,這樣服務端才會從Thrift Server獲取startRow、stopRow、columns、filter等屬性進行掃描。
3. 并發訪問線程數
首先,為了盡可能減少由于網絡傳輸帶來的時間開銷,HBase的Thrift Server最好和應用客戶端部署在同一臺機器上。Thrift Server啟動時可以通過參數配置并發線程數,否則很容易導致Thrift Server線程滿了不響應客戶端的讀寫請求,具體命令:bin/hbase-daemon.sh start thrift --threadpool -m 200 -w 500(更多參數參考這里:bin/hbase-daemon.sh start thrift -h)。
4. 最大堆內存配置
如果客戶端與Thrift Server進行scan操作順序讀取數據,而且設置了一定的cache記錄條數(通過TScan的int32_t caching變量設置),那么這些被caching的記錄數可能會占用Thrift Server相當部分的堆內存,尤其在多客戶端并發訪問時更明顯。
因此,在Thrift Server啟動前,可以調大最大堆內存,否則可能由于Java.lang.OutOfMemoryError異常而導致進程被殺掉,尤其是當Scan時設置了較大的caching記錄條數的情況(默認為export HBASE_HEAPSIZE=1000MB,可以在conf/hbase-env.sh中設置)。

php技術基于HBase Thrift接口的一些使用問題及相關注意事項的詳解,轉載需保留來源!

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯系我們修改或刪除,多謝。

主站蜘蛛池模板: 交换邻居波多野结衣中文字幕 | 女人吃男人的鸡鸡 | 久久成人免费观看草草影院 | 伊人久久电影院 | 日本亚洲精品无码区国产电影 | 在线视频免费观看 | 欧美午夜不卡在线观看 | 国产精品亚洲专一区二区三区 | 一个人HD高清在线观看免费视频 | 视频一区国产在线第一页 | 苍井空小公主qvod | 超碰在线 视频 | 草神被爆漫画羞羞漫画 | 美女裸露100%奶头视频 | 亚洲一在线 | 麻豆精品人妻一区二区三区蜜桃 | 手机在线观看无码日韩视频 | 老师掀开短裙让我挺进动态 | 亚洲精品久久久午夜麻豆 | 2020精品极品国产色在线 | 浓毛BWBWBWBWBW日本| 性感尼姑风流寺 | 黑人巨茎大战白人女40CMO | 成人性生交片无码免费看 | 动态抽插图视频 | 久草精品视频 | 狠狠狠的在啪线香蕉 | 亲胸揉胸膜下刺激视频在线观看 | 日本经典片免费看 | 亚洲精品久久区二区三区蜜桃臀 | 香蕉99久久久久成人麻豆 | 免费国产午夜理论不卡 | 暗卫受被肉到失禁各种PLAY | 琪琪电影午夜理论片YY6080 | 强壮的公次次弄得我高潮韩国电影 | 色窝窝777欧美午夜精品影院 | 蜜芽tv在线www | 中国国产不卡视频在线观看 | 快播最新电影网站 | 亚洲欧美日韩国产精品26u | 色戒未删减版在线观看完整 |