Kafka架構模型
Kafka消費速度快:
- 頁緩存:找個磁盤當記憶體;
- kafka采用順序讀寫,比固态磁盤快
- 如果消費速度太慢,更改topic的分區個數,就會有很多線程來消費。
flume與kafka的整合
flume監控檔案夾,有新檔案就搜集起來到kafka隊列中
- source:spoolDir Source
- channel:memory channel
- sink:資料到kafka裡面
副本預設2
注:僅作筆記。
flume監控檔案夾,有新檔案就搜集起來到kafka隊列中
副本預設2
注:僅作筆記。