• 活動名稱：Taiwan Hadoop Ecosystem Workshop 2013 Q4
• 　　　　　台灣 Hadoop 生態系工作坊 2013 Q4
• 活動時間：2013/12/14(六) 10:00~16:00
• 活動地點：精誠內湖大樓（台北市內湖區瑞光路318號） 1F 演講廳
• 活動名額：開放 80 名座位，最高上限 100 名。依實際報到為準。
• 活動費用：本活動不收取費用，感謝精誠資訊贊助場地。
• 報名網址：http://www.accupass.com/go/HadoopTW2013Q4
• 活動議程：

上午 Keynote 邀請現況：

下午平行場次議程投稿現況：

• 會議時間：2013 年 9 月 28 日（週六，教師節）
• 會議地點：中央研究院人文社會科學館 國際會議廳
  　　　　　（台北市南港區研究院路二段128號）
• 主辦單位：趨勢科技
  　　　　　國家高速網路與計算中心
• 協辦單位：中研院自由軟體鑄造場

1. 公開徵求講者：2013/06/28(五) 15:00 截止
2. 公告議程初版：2013/07/05(五) 16:00 公佈

• 「即時」主題是因為去年到 Hadoop World 2012 NYC，感受很深都在談即時性的應用與技術。而 Hadoop 原本只合適批次作業，對於許多需要即時性的需求，像是金融、災防、 交通等雲端需求，可能都需要架構上的改變。
•  「安全」主題主要是在讓更多人知道「Hadoop 本身的資訊安全問題」以及「如何拿 Hadoop 來解決資訊安全問題」，相信這一塊台灣有不少廠商可以分享。
• 「便利」主題是想要談「如何降低進入 Hadoop 生態系的門檻」，可能的範疇包括 Hadoop Appliance、Hadoop 叢集管理工具、Pig、Hive、RHadoop 等高階語言。歡迎更多人介紹能讓 hadoop 初學者與進階使用者都能覺得日子過得比較舒服的工具。也希望透過這樣的主題，串接起 Big Data 上游（Open Data）與下游（NoSQL、Web 2.0、Data Science）的供應鏈。

Hadoop 叢集佈建初探 - 以 hiCloud 為例

國家高速網路與計算中心　王耀聰　副研究員

Hadoop叢集版初探 -hiCloud Ubuntu Linux 版

上個小節我們介紹了如何在Windows上建立一個Hadoop的實驗環境，然而Windows版本存在著許多小問題，像是Cygwin的路徑與Java Runtime認知的Windows路徑不同，因此許多時候，您在下指令的時候，還必須要透過cygpath指令將Cygwin路徑轉換成Windows路徑，相當不便。其次，假設您想要把多台hadoop4win串起來，有許多先決條件，像是必須要有不同的電腦名稱、要有相同的使用者名稱跟檔案存取權限。因此，一般我們在提供商業運轉的Hadoop環境時，仍舊會採用Linux版本。

　　雲端運算的五大基礎特徵中，第一點是「隨需自助服務」，其背後隱藏著「標準化」與「自動化」的精神。本文為了讓每位讀者能有標準化的實作環境，免除不同Linux版本造成的操作問題，此次採用的是中華電信hiCloud的Ubuntu 10.04虛擬機器當作示範架設Hadoop叢集版的環境。底下將示範如何在十台Ubuntu 10.04的虛擬機器上，建置一個Hadoop叢集。由於Hadoop安裝的指令繁瑣，筆者這裡提供一個自動化的安裝腳本程式，各位可至http://github.com/jazzwang/hicloud-hadoop或http://hidoop.sf.net下載原始碼。以下我們用圖解的方式，說明如何使用hicloud開啟十台虛擬機器，並設定成Hadoop叢集。

STEP 1：請連線至hicloud.hinet.net 並點選右上角「客戶登入」

STEP 2：若您不是中華電信用戶， 請先加入會員，然後用取得帳號登入

STEP 3：點選上方「雲運算」

STEP 4：點選左方「虛擬主機」

STEP 5：點選左上角「申請」

STEP 6：確認同意中華電信hicloud租約 選擇「Linux微運算型XS」，按「下一步」

STEP 7：選擇「Ubuntu 10.0,32bit」

STEP 8：用hdp命名，產生10台虛擬機器

STEP 9：等待申裝狀態變為「已申裝」

STEP 10：請確認供裝狀態變為「已申裝」 點左上角「全選」，並選「開機」

STEP 11：點選右上角「預設密碼」，將password.zip儲存到桌面

STEP 12：用預設密碼解壓縮password.zip並匯入CSV格式的密碼檔案

STEP 13：我們從密碼表中挑選第一台 用PieTTY連線到該台虛擬機器

STEP 14：預設請使用root帳號登入， 密碼請根據您的密碼表輸入六碼預設密碼

　　做到這邊，我們已經把十台虛擬機器開機。請從hiCloud介面上確認每一台虛擬機器都已經進入「已開機」的狀態，接著使用您慣用的SSH連線軟體，這裡我們使用的是PieTTY，可以自http://ntu.csie.org/~piaip/pietty/ 下載。由於hicloud-hadoop自動安裝腳本是針對Linux環境撰寫的，因此我們直接挑選其中一台來進行安裝。您也可以在自己的Linux環境上執行以下的步驟。在執行hicloud-hadoop自動安裝腳本前，有一些前置作業：(1)產生SSH連線用的金鑰；(2)安裝Perl的Expect.pm函式庫，因為我們會使用Expect來幫忙您自動填入預設密碼，登入另外九台虛擬機器，並進行Hadoop安裝作業。現在請您在登入第一台虛擬機器的PieTTY視窗內中輸入以下兩個指令：

　　接下來，讓我們下載hicloud-hadoop自動安裝腳本，並且解壓縮安裝檔。然後在hicloud-hadoop目錄底下建一個conf子目錄。

　　接著，使用記事本先編輯兩個檔案，一個叫master，一個叫slave。可用PieTTY或WinSCP上傳這兩個檔案到hicloud-hadoop/conf 底下，或參考底下的作法在conf底下建立兩個設定檔。

　　以上的IP、帳號、密碼三個欄位，您可以直接從CSV貼到記事本，加入中間的空白，在貼到命令列。最後切換到hicloud-hadoop目錄，然後執行 install-ubuntu 自動安裝腳本。

　　等自動安裝腳本執行完畢後，您會看到類似底下的訊息。此時，點選兩個網址，就會看到Hadoop的HDFS NameNode與MapReduce JobTracker網頁。

雲端精算師：好的設計可以省下更多錢

　　做到這邊，各位讀者應該可以繼續在hiCloud的十台虛擬機器上練習在Hadoop4Win的指令。不過這裡要提醒的一件很重要的事情：「不同於Amazon EC2有開機才計價，hiCloud是從申裝開始計費，退租才停止計費，就像您租用手機門號一樣，不管有沒有開機都會計費」。因此建議您如果口袋不夠深的話，練習完麻煩一台一台把虛擬機器退租吧！一節課程大約花個兩三個小時，14塊台幣/小時，跟買杯超商咖啡差不多，這就是雲端帶給各位的新學習環境。

　　倘若您手邊有兩台以上的實體機器，或者多核心效能強大的伺服器，不妨安裝VirtualBox虛擬化軟體，在一台電腦上建立兩至三台Ubuntu 10.04的Linux環境，各位聰明的讀者可以透過上述的步驟來安裝您專屬的Hadoop叢集，就算是一個小型的私有雲了。

　　在本文最後，筆者想提出幾個關於「雲端精算師」的軟體設計精神，與各位讀者分享。目前hicloud-hadoop 0.0.1版本是循序安裝，因此機器愈多，安裝時間愈長。未來將加入多執行緒的程式碼，讓安裝流程能同時進行。對hiCloud這種按時計費的公有雲而言，如何節省安裝時間變得很重要。未來hiCloud若能讓使用者建立自己專屬的虛擬機器範本，相信能有效降低各位讀者荷包的負擔。

　　其次，中華電信的計價模式還包含網路流量，因此如何減少網路傳輸也是採用公有雲服務應該要思考的第二個重點。目前的腳本每一台虛擬機器都會重複下載Java與Hadoop安裝檔。若能把Hadoop安裝檔先存在同一個公有雲提供的「儲存服務」，讓資料來自於「內部網路」而非「網際網路」，不納入流量計費，那也是對用戶有利的計價模式。

　　最後，若能夠把要處理的事情變成自動化，計算完就關閉虛擬機器，以上這些考量就是在雲端時代程式設計師應該具備的「雲端精算師」精神，擁有節省成本的思考模式將是您未來在職場上的新競爭力！

Hadoop 叢集佈建初探 - 以 hiCloud 為例

國家高速網路與計算中心　王耀聰　副研究員

Hadoop單機版初探 - Windows 版

　　根據hadoop官方文件的建議，Hadoop最佳營運案例主要是在Linux作業系統底下運行。但在台灣，多數資訊從業人員仍以Windows為主要的作業系統。筆者為了降低各位學習Hadoop的門檻，撰寫了一套名為Hadoop4Win的懶人包安裝程式。目前在Windows XP與Windows 2000環境下測試正常，至於Windows 7環境下目前因為安全性權限較嚴格，需關閉UAC，常不易安裝成功，因此這次我們以Windows XP環境來做示範。

　　首先，請到http://hadoop4win.nchc.org.tw或http://hadoop4win.org下載0.1.5版本的hadoop4win完整安裝檔。Hadoop4win 0.1.5目前包含五大軟體組成：(1) Cygwin；(2) JDK 1.6.0 update 18；(3) Hadoop 0.20.2；(4) HBase 0.20.6；(5) Ant 1.8.2。因此整個完整版懶人包大約有189 MB，請點擊hadoop4win-setup-full_0.1.5.exe執行檔開始進行安裝的動作。

　　備註：由於hadoop4win會在安裝資料夾寫入數量眾多的檔案，假如您有安裝防毒軟體，安裝時間可能會比較長（因為每個檔案都被掃描過一次）。倘若您希望縮短安裝時間，可暫時性關閉防毒軟體。

　　當您完成hadoop4win的安裝後，有兩種方式可以在Windows上啟動Hadoop。其一是從「開始」選單選取 start-hadoop捷徑。其二是先點選 hadoop4win 捷徑，進入Cygwin指令操作的介面，才下指令start-hadoop來啟動Hadoop的五個背景服務（亦及NameNode、DataNode、JobTracker、TaskTracker與SecondaryNameNode）。

　　備註：安裝過程中，Windows防火牆會跳出警告說有Java程式嘗試開啟網路連線埠，這是因為Hadoop背景服務至少會開啟五個網路連線埠來進行底層的RPC通訊，請選擇「解除封鎖」。

　　接著，您可以根據hadoop4win網頁的說明，學習基本的Hadoop指令操作。礙於版面篇幅，這裡我們僅列舉三個指令操作來進行說明。首先，第一個指令叫jps，這個指令顧名思義就是列出所有java process。單機版的Hadoop4Win，基本上應該要有五個Java程序。因此，倘若您無法看到如圖的五個Java程序名稱（前面的數字為PID，每次執行會不同），那代表您的電腦可能記憶體不足（最低需求為512MB，建議至少有1GB記憶體）。倘若您在執行上遇到任何問題，歡迎到forum.hadoop.tw提問。

　　如果您可以正常看到jps出現的五個Java程序，代表您的Hadoop環境已經在背景正常執行了。此時您可以點選「開始」選單的「NameNode Web UI」與「JobTracker Web UI」，或者直接用瀏覽器開啟http://localhost:50070與http://localhost:50030的網址。

　　第二個指令叫作hadoop fs，這個指令是用來驗證Hadoop分散式檔案系統（HDFS，Hadoop Distributed File System）的功能是否正常。請在Cygwin指令視窗鍵入以下指令，將位於安裝目錄（c:\hadoop4win）的opt\hadoop\conf-pseudo子目錄，上傳到HDFS的抽象檔案系統：

　　最後一個指令叫作hadoop jar，這個指令是用來驗證Hadoop的MapReduce運算環境功能是否正常。請在Cygwin指令視窗中鍵入以下指令，將剛剛上傳到HDFS的input目錄，共計13個檔案，進行「字數統計（Word Count）」的MapReduce範例運算。

STEP 1：首先請選擇語系 「繁體中文，Chinese (Traditional)」

STEP 2：本軟體採用Apache 2.0授權， 請按「我接受」

STEP 3：如果您不需要HBase跟Ant， 可以取消選取

STEP 4：選擇安裝目標資料夾， 預設為C:\hadoop4win

STEP 5：接著安裝程式會開始解壓縮

STEP 6：接著會跳出Cygwin的安裝畫面

STEP 7：安裝完成後，請按關閉結束

STEP 8：您可以從「開始」→「程式集」 →「hadoop4win」點選start-hadoop 啟動Hadoop服務於背景