天天看點

Cloudera Manager簡介

Cloudera Manager簡介

整個hadoop家族由以下幾個子項目組成:

hadoop common:

hadoop體系最底層的一個子產品,為hadoop各子項目提供各 種工具,如:配置檔案和日志操作等。

hdfs:

是hadoop應用程式中主要的分布式儲存系統, hdfs叢集包含了一個namenode(主節點),這個節點負責管理所有檔案系統的中繼資料及存儲了真實資料的datanode(資料節點,可以有很多)。hdfs針對海量資料所設計,是以相比傳統檔案系統在大批量小檔案上的優化,hdfs優化的則是對小批量大型檔案的通路和存儲。

mapreduce:

是一個軟體架構,用以輕松編寫處理海量(tb級)資料的并行應用程式,以可靠和容錯的方式連接配接大型叢集中上萬個節點(商用硬體)。

hive:

apache hive是hadoop的一個資料倉庫系統,促進了資料的綜述(将結構化的資料檔案映射為一張資料庫表)、即席查詢以及存儲在hadoop相容系統中的大型資料集分析。hive提供完整的sql查詢功能——hiveql語言,同時當使用這個語言表達一個邏輯變得低效和繁瑣時,hiveql還允許傳統的map/reduce程式員使用自己定制的mapper和reducer。hive類似cloudbase,基于hadoop分布式計算平台上的提供data warehouse的sql功能的一套軟體。使得存儲在hadoop裡面的海量資料 的彙總,即席查詢簡單化。

pig:

apache pig是一個用于大型資料集分析的平台,它包含了一個用于資料分析應用的進階語言以及評估這些應用的基礎設施。pig應用的閃光特性在于它們的結構經得起大量的并行,也就是說讓它們支撐起非常大的資料集。pig的基礎設施層包含了産生map-reduce任務的編譯器。pig的語言層目前包含了一個原生語言——pig latin,開發的初衷是易于程式設計和保證可擴充性。

pig是sql-like語言,是在mapreduce上建構的一種進階查詢語言,把一些運算編譯進mapreduce模型的map和reduce中,并且使用者可以定義自己的功能。yahoo網格運算部門開發的又一個克隆google的項目sawzall。

hbase:

apache hbase是hadoop資料庫,一個分布式、可擴充的大資料存儲。它提供了大資料集上随機和實時的讀/寫通路,并針對了商用伺服器叢集上的大型表格做出優化——上百億行,上千萬列。其核心是google bigtable論文的開源實作,分布式列式存儲。就像bigtable利用gfs(google file system)提供的分布式資料存儲一樣,它是apache hadoop在hdfs基礎上提供的一個類bigatable。

zookeeper:

zookeeper是google的chubby一個開源的實作。它是一個針對大型分布式系統的可靠協調系統,提供的功能包括:配置維護、名字服務、 分布式同步、組服務等。zookeeper的目标就是封裝好複雜易出錯的關鍵服務,将簡單易用的接口和性能高效、功能穩定的系統提供給使用者。

avro:

avro是doug cutting主持的rpc項目,有點類似google的protobuf和facebook的thrift。avro用來做以後hadoop的rpc,使hadoop的rpc子產品通信速度更快、資料結構更緊湊。

sqoop:

sqoop是一個用來将hadoop和關系型資料庫中的資料互相轉移的工具,可以将一個關系型資料庫中資料導入hadoop的hdfs中,也可以将hdfs中資料導入關系型資料庫中。

mahout:

apache mahout是個可擴充的機器學習和資料挖掘庫,目前mahout支援主要的4個用例:

推薦挖掘:搜集使用者動作并以此給使用者推薦可能喜歡的事物。

聚集:收集檔案并進行相關檔案分組。

分類:從現有的分類文檔中學習,尋找文檔中的相似特征,并為無标簽的文檔進行正确的歸類。

頻繁項集挖掘:将一組項分組,并識别哪些個别項會經常一起出現。

cassandra:

apache cassandra是一個高性能、可線性擴充、高有效性資料庫,可以運作在商用硬體或雲基礎設施上打造完美的任務關鍵性資料平台。在橫跨資料中心的複制中,cassandra同類最佳,為使用者提供更低的延時以及更可靠的災難備份。通過log-structured update、反規範化和物化視圖的強支援以及強大的内置緩存,cassandra的資料模型提供了友善的二級索引(column indexe)。

chukwa:

apache chukwa是個開源的資料收集系統,用以監視大型分布系統。建立于hdfs和map/reduce架構之上,繼承了hadoop的可擴充性和穩定性。chukwa同樣包含了一個靈活和強大的工具包,用以顯示、監視和分析結果,以保證資料的使用達到最佳效果。

ambari:

apache ambari是一個基于web的工具,用于配置、管理和監視apache hadoop叢集,支援hadoop hdfs,、hadoop mapreduce、hive、hcatalog,、hbase、zookeeper、oozie、pig和sqoop。ambari同樣還提供了叢集狀況儀表盤,比如heatmaps和檢視mapreduce、pig、hive應用程式的能力,以友好的使用者界面對它們的性能特性進行診斷。

hcatalog

apache hcatalog是hadoop建立資料的映射表和存儲管理服務,它包括:

提供一個共享模式和資料類型機制。

提供一個抽象表,這樣使用者就不需要關注資料存儲的方式和位址。

為類似pig、mapreduce及hive這些資料處理工具提供互操作性。

chukwa是基于hadoop的大叢集監控系統,由yahoo貢獻。

cloudera manager有四大功能:

(1)管理:對叢集進行管理,如添加、删除節點等操作。

(2)監控:監控叢集的健康情況,對設定的各種名額和系統運作情況進行全面監控。

(3)診斷:對叢集出現的問題進行診斷,對出現的問題給出建議解決方案。

(4)內建:對hadoop的多元件進行整合。

示例,管理4叢集:

Cloudera Manager簡介

管理的服務包括:

Cloudera Manager簡介

cloudera manager的核心是管理伺服器,該伺服器承載管理控制台的web伺服器和應用程式邏輯,并負責安裝軟體,配置,啟動和停止服務,以及管理上的服務運作群集。

Cloudera Manager簡介

cloudera manager server由以下幾個部分組成:

agent:安裝在每台主機上。該代理負責啟動和停止的過程,拆包配置,觸發裝置和監控主機。

management service:由一組執行各種監控,警報和報告功能角色的服務。

database:存儲配置和監視資訊。通常情況下,多個邏輯資料庫在一個或多個資料庫伺服器上運作。例如,cloudera的管理伺服器和監控角色使用不同的邏輯資料庫。

cloudera repository:軟體由cloudera 管理分布存儲庫。

clients:是用于與伺服器進行互動的接口:

<b>              admin console - 基于web的使用者界面與管理者管理叢集和cloudera管理。</b>

<b>              api - 與開發人員建立自定義的cloudera manager應用程式的api。</b>