無論是在構建大數據的應用程序,還是僅僅只想從開發的移動應用中得到一點點啟發,程序員現在比以往任何時候都需要數據分析工具。這絕對是一個好東西,所以很多公司從程序員的需求和技能出發,構建了一些數據分析工具。GigaOm的記者Derrick Harris列舉了幾個工具,以下是小編為你整理的怎么學大數據分析 ?
BitDeli:BitDeli是今年11月份在舊金山成立的一家初創公司。它能衡量出任何使用Python腳本的應用程序的指標,聯合創始人兼CEO Ville Tuulos告訴Derrick,腳本可以很簡單,也可以很復雜——甚至未來可以延伸到機器學習。不過和“重量級選手”Hadoop相比,BitDeli自認為是一個輕量級的Ruby。 ?
Continuuity:Continuuity是前Yahoo首席云架構師Todd Papaioannou和Facebook HBase的工程師Jonathan Gray的心血結晶,Continuuity想讓所有的公司都能像Yahoo、Facebook一樣運營。該團隊創建了一個大數據工具,它可以簡化Hadoop以及HBase集群的復雜性,而且包含一系列開發套件,旨在幫助程序員開發大數據應用,該平臺采用Hadoop技術,允許開發者在防火墻內外對大數據應用軟件進行部署、擴展和管理。公司聯合創始人兼首席執行官Todd Papaioannou表示,作為一家初創企業,Continuuity正在試圖掀起下一波大數據應用軟件的浪潮,公司所提供的工具能夠大大提高處于開發狀態的軟件不同部分與階段的擴展性。
Flurry:Flurry是移動應用統計分析領域里的標桿,正因為在行業內獨特的優勢,它每年的營收高達一億美元。Flurry擁有非常全面的功能,不僅僅只是幫助開發者構建移動應用,它還幫助開發者分析所有的數據,進而產生更大的效益。其實數據也支撐了該公司的廣告網絡,他們通過數據分析可以幫助開發者推送準確的廣告到需要的用戶面前。不過單純從移動應用的數據統計功能來看,Flurry絕對是處于領先地位。其功能模塊設置合理,分析維度全面,分析流程也易于理解。 ?
為什么你應該關心? ?
Drill和Dremel相比Hadoop更好的分析即席查詢。Hadoop僅僅提供批量的數據處理工作流,這些也是缺點。 ?
Hadoop生態圈使得MapReduce作為一個很親切有利的工具應用于廣告分析。從Sawzall到Pig到Hive,很多接口層應用的建立使得Hadoop更為友好,更接近業務,但是,像SQL體系,這些抽象層忽略一個重要的事實–MapReduce(或Hadoop)是為了系統化數據處理流程而存在的。如果你不擔心跑的哪些任務? 如果你不關心這些產生的問題和去尋求答案,那就保持沉默,保持洞察力。“即席探索” — 如果你已經承擔數據處理,你這么優化處理的速度?你不應該運行一個新的任務或者是等待,有時候考慮的時間還不如在問個新的問題。 ?
在堆對比的工作流基礎的方法論中,很多業務驅動的BI和分析查詢都是很基本的和臨時交互的,低延時分析。寫Map/Reduce工作流在很多業務分析中是被禁止的。等待幾分鐘等Jobs啟動,在等幾個小時等執行完成這些無溢于數據的交互體驗,這些對比,和縮放比較最終產生了基本的新的視野。一些數據科學家早已經推測Drill和Dremel將優于Hadoop,并達成共識,也有一些還在考慮中,還有少部分的狂熱者立即擁抱變化,但是這些是主要的優點在更面向查詢的和低延時的情況下。在Infochimps我們喜歡使用Elasticsearch全文索引引擎來實現數據庫的數據搜索,但是真的在大數據處理中我們認為Drill將成為主流。 ?
R是開源的強大的統計編程語言。自1997年以來,超過200萬的統計分析師使用R。這是一門誕生自貝爾實驗室的在統計計算領域的現代版的S語言并迅速地成為了新的標準的統計語言。R使得復雜的數據科學變得更廉價。R是SAS和SPASS的重要的領頭者,并作為*秀的統計師的重要工具。 ?
語言需求 ?
javaMR語言 ?
這種語言產生很早了,大家也或多或少的接觸過,但是在大數據中使用已經有的原型進行構建龐大系統,是一種最基本的選擇。 ?
Scala語言 ?
以java為基礎的語言,和java很像,對任何想要進行大規模的機械學習或是建立高階的算法,Scala是逐漸興起的工具,善于呈現且擁有建立可靠系統的能力。
?
Hadoop ?
在以java為基礎的大數據處理當中,Hadoop為作一批數據處理,發展以java為基礎的架構關鍵。相對于其他處理工具而言,Hadoop慢許多,但是無比的準確可被后端數據庫分析廣泛使用 ?
Kafka andStorm ?
它是一個特別快速的查詢信息系統,但是因為太快了在實施操作時會犯錯,有時候會漏掉東西。 ?
Python語言 ?
Python擁有R語言處理復雜數據的能力及更務實的語言特質,更簡單和直觀,在近幾年的成長很快。在數據處理范疇內,通常在規模與復雜之間要有個選擇,Python無疑當選。 ?