Recently in CloudComputing Category

<< 第二屆台灣 Hadoop 使用者社群會議     |   >>


 

第三屆台灣 Hadoop 使用者社群會議 
Hadoop Taiwan User Group Meeting 2011


按這裡填寫報名資訊


   2010 年被譽為台灣雲端元年,2011 年我們看到雲端風潮開始在台灣各行各業持續發酵,其中大量資料分析技術(Big Data)更被 Gartner 視為 2012 關鍵 IT 策略技術之一。Hadoop 在大量資料分析技術中媒體曝光率最高的雲端技術,Hadoop 生態系專案經過六年的醞釀,近期 Hadoop 相關的新創公司如雨後春筍般快速冒出,相信對於已經在使用 Hadoop 的開發者們無疑是劑強心針。2010 年感謝國內 Hadoop 使用者社群的踴躍支持,克服交通不便的障礙,熱情地參與第二屆台灣 Hadoop 使用者社群會議,讓我們倍感榮幸。今年感謝有工研院服務業科技應用中心產業經濟與趨勢研究中心委託我們進行 Hadoop 與雲端運算相關專案。秉持取之於自由軟體,用之於自由軟體的精神,我們今年依慣例將委託金額部份挪出來辦此次活動,希望可以藉此次活動能讓各位聽到更多台灣本土 Hadoop 新奇應用、讓大家了解最近有哪些新的 Hadoop 技術或服務可以使用。

   由於資料庫應用在傳統資訊系統扮演非常重要的角色,加上 Hadoop MapReduce 已整合進微軟的 SQL Server ,連 Oracle 都有類似的整合計畫。因此今年無獨有偶,多數講者都在談論資料庫系統與 Hadoop 的整合。今年的講者群陣容相當堅強,分佈於產、學、研各界,包括:EMC Greenplum中華電信研究所東海大學高效能計算實驗室逢甲大學地理資訊系統研究中心國網中心雲端運算研究小組。希望透過此次會議,讓更多有興趣瞭解 Hadoop 的夥伴相互交流,進行凝聚出台灣區的 Hadoop 社群。

    本會議不收取任何報名費用,歡迎各界踴躍參加。礙於此次會議場地座位有限,請速上網報名(http://registrano.com/events/hadoop-tw-2011),額滿為止。

    本次會議感謝中華電信、EMC Greenplum、CIO IT 經理人雜誌、iThome 電腦報週刊贊助展示攤位與週刊雜誌,主辦單位國網中心方面亦提供 14 本「Hadoop 技術手冊, 2/e」繁體中文版給每場講者贈送問問題的聽眾。歡迎大家踴躍報名~


議程


09:00 ~ 09:20 報  到 (Registration)
09:20 ~ 09:30 大會開場致詞
09:30 ~ 10:10 講 題:Hadoop大資料處理解決方案 - 資料處理流程應用服務
講 者:洪子翔,中華電信研究所 經營策略研究室 助理研究員
10:20 ~ 11:00 講 題:Riak applied: case studies on distributed computing
講 者:Fyodor Yarochkin,台灣大學/阿碼科技(Armorize)
11:10 ~ 11:50 講 題:Greenplum 整合分析平台 - 以 Recruit Japan 經驗為例
Greenplum Unified Analytical Platform - Recruit Japan Case Study

講 者:Jimmy Chiu 邱垂吉,EMC Greenplum 技術顧問
12:00 ~ 13:00 午  餐 (Lunch) / 大會供應餐盒
13:00 ~ 13:40 講 題:HBASE 於海量級資料之應用 - 以 SELENE 之多光譜感測器為例
講 者:辜文元,逢甲大學地理資訊系統研究中心
13:50 ~ 14:30 講 題:大資料寫入 HBase 案例探討 ─ 以警政監控案與轉動台灣案為例
講 者:黃至德,中華電信研究所寬頻網路技術研究室
14:40 ~ 15:20 講 題:雲端計算平台上醫療影像檔案存取系統
講 者:楊朝棟,東海大學資訊工程學系
15:30 ~ 16:10 講 題:運用抓抓龍(Crawlzilla)製作個人化書籤搜尋引擎
講 者:王耀聰,國家高速網路與計算中心 副研究員
16:20 ~ 16:40 EMC Greenplum 實作展示

交通資訊


  • 開車路線(到達目的地後請跟警衛換證)  
  1. 華江大橋文化路一段左轉漢生東路左轉區運路左轉民族路電信訓練所   
  2. 華翠大橋、萬板大橋縣民大道二段左轉漢生東路左轉區運路左轉民族路電信訓練所  
  3. 光復大橋板橋中山路一段左轉漢生東路左轉區運路左轉民族路電信訓練所  
  4. 中永和可經華中橋、中正橋中和中山路一段三段板橋民族路區運路口迴轉電信訓練所  
  5. 北二高北上請於土城交流道 接台65號快速道路往板橋縣民大道右轉民權路左轉民族路電信訓練所
  6. 北二高南下請於中和交流道下閘道左轉中和中山路二段中和中山路三段板橋民族路區運路迴轉電信訓練所
  • 搭捷運火車、高鐵(三鐵共構)後轉搭公車至訓練所

       捷運板南線於板橋站下車,搭火車、高鐵於板橋站下車步行至捷運二號出口出站,於公車轉運站乘坐307台北方向(下一站即是電信訓練所站,到電信訓練所站下車步行至民族路168號到訓練所大門(約70公尺)

  • 搭捷運火車、高鐵(三鐵共構)後步行至訓練所

 搭捷運板南線於板橋站下車,搭火車、高鐵於板橋站下車步行往新北市府地下通道搭手扶梯上平面道路(5分鍾)過馬路到對面遠百後往新北市消防局方向走路過天皇精緻料理沿華南銀行花旗銀行騎樓直走到民族路.過馬路到中華電信板橋營運處 (民族路166) 步行至民族路168號到訓練所大門(約70公尺)


 

第三屆台灣 Hadoop 使用者社群會議 
Hadoop Taiwan User Group Meeting 2011


按這裡填寫報名資訊



   2010 年被譽為台灣雲端元年,2011 年我們看到雲端風潮開始在台灣各行各業持續發酵,其中大量資料分析技術(Big Data)更被 Gartner 視為 2012 關鍵 IT 策略技術之一。Hadoop 在大量資料分析技術中媒體曝光率最高的雲端技術,Hadoop 生態系專案經過四年的醞釀,近期 Hadoop 相關的新創公司如雨後春筍般快速冒出,相信對於已經在使用 Hadoop 的開發者們無疑是劑強心針。2010 年感謝國內 Hadoop 使用者社群的踴躍支持,克服交通不便的障礙,熱情地參與第二屆台灣 Hadoop 使用者社群會議,讓我們倍感榮幸。今年感謝有工研院服務業科技應用中心產業經濟與趨勢研究中心委託我們進行 Hadoop 與雲端運算相關專案。秉持取之於自由軟體,用之於自由軟體的精神,我們今年依慣例將委託金額部份挪出來辦此次活動,希望可以藉此次活動能讓各位聽到更多台灣本土 Hadoop 新奇應用、讓大家了解最近有哪些新的 Hadoop 技術或服務可以使用。

   由於資料庫應用在傳統資訊系統扮演非常重要的角色,加上 Hadoop MapReduce 已整合進微軟的 SQL Server ,連 Oracle 都有類似的整合計畫。因此今年無獨有偶,多數講者都在談論資料庫系統與 Hadoop 的整合。今年的講者群陣容相當堅強,分佈於產、學、研各界,包括:EMC Greenplum中華電信研究所東海大學高效能計算實驗室逢甲大學地理資訊系統研究中心國網中心雲端運算研究小組。希望透過此次會議,讓更多有興趣瞭解 Hadoop 的夥伴相互交流,進行凝聚出台灣區的 Hadoop 社群。

    本會議不收取任何報名費用,歡迎各界踴躍參加。礙於此次會議場地座位有限,請速上網報名(http://registrano.com/events/hadoop-tw-2011),額滿為止。



議程


09:00 ~ 09:30 報  到 (Registration)
09:30 ~ 10:10 講 題:Hadoop大資料處理解決方案 - 資料處理流程應用服務
講 者:洪子翔,中華電信研究所 經營策略研究室 助理研究員
10:20 ~ 11:00

講 題:運用抓抓龍(Crawlzilla)製作個人化書籤搜尋引擎
講 者:王耀聰,國家高速網路與計算中心 副研究員

11:10 ~ 11:50 講 題:Greenplum 整合分析平台 - 以 Recruit Japan 經驗為例
Greenplum Unified Analytical Platform - Recruit Japan Case Study

講 者:Jimmy Chiu 邱垂吉,EMC Greenplum 技術顧問
12:00 ~ 13:00 午  餐 (Lunch) / 大會供應餐盒
13:00 ~ 13:40 講 題:HBASE 於海量級資料之應用 - 以 SELENE 之多光譜感測器為例
講 者:辜文元,逢甲大學地理資訊系統研究中心
13:50 ~ 14:30 講 題:大資料寫入 HBase 案例探討 ─ 以警政監控案與轉動台灣案為例
講 者:黃至德,中華電信研究所寬頻網路技術研究室
14:40 ~ 15:20 講 題:雲端計算平台上醫療影像檔案存取系統
講 者:楊朝棟,東海大學資訊工程學系
15:30 ~ 16:10

講 題:Riak applied: case studies on distributed computing
講 者:Fyodor Yarochkin,台灣大學/阿碼科技(Armorize)

16:20 ~ 16:40 EMC Greenplum 實作展示(暫定)

hadoop-tw.jpg


第三屆台灣 Hadoop 使用者社群會議

Hadoop Taiwan User Group Meeting 2011

首先,感謝 2010 年各位 Hadoop 使用者的熱情參與,不辭辛勞前往交通不甚便利的台中會場,讓第二屆台灣 Hadoop 使用者社群會議圓滿落幕。時序即將進入十一月,也該開始籌備第三屆台灣 Hadoop 使用者社群會議的議程。今年由於邀請國外講者並不順利,前後分別邀請了 KarmaSphereSnapLogic 還有 HortonWorks,都沒能邀請成功。因此,今年想來嘗試新的模式,讓社群會議的議程整個交給社群來決定。倘若您有興趣分享您使用 HadoopPigHiveHBaseCassandraThriftNutchCascadingOozieHadoop4WinCrawlzilla 等專案的經驗或心得,歡迎於 2011 年 11 月 6 日前來信 jazz-mail.png,告知您希望分享的主題、講者姓名與單位名稱、希望排定的時間,或直接請至 Google Docs提交演講提案,謝謝!以下是目前的會議時間規劃、地點與議程時段規劃!目前地點暫定於新竹,倘若有社群夥伴願意贊助在台北的會議場地,亦請與我聯繫(以往通常都會有 120~150 人,若辦在台北,很可能會更多,原則上經費我向來估在 180 人)

09:00 ~ 09:30 報  到 (Registration)
09:30 ~ 10:10 講 題:
講 者:
10:20 ~ 11:00 講 題:
講 者:
11:10 ~ 11:50 講 題:
講 者:
11:50 ~ 13:00 午  餐 (Lunch)
13:00 ~ 13:40 講 題:
講 者:
13:50 ~ 14:30 講 題:
講 者:
14:40 ~ 15:20 講 題:
講 者:
15:30 ~ 16:10 講 題:
講 者:
16:20 ~ 16:40 講 題:
講 者:
  • Job description:
  1. Study and implement cloud computing technologies and provide proposal for critical system availability improvement for hig volume data processing improvement.
  2. Collaborate with project teams to pilot and promote cloud computing technologies.
  3. Develop equipment automation related applications
  4. Support operation system maintenance
  • Job requirement:
    1. MS degree or above in computer science or related disciplines.
    2. At lease 2-year experience in the Hadoop/mapreduce, virtualization, grid computing or cloud computing.
    3. Ability to learn and apply new technologies quickly.
    4. Self motivated, good teamwork and problem solving skill.
    5. Experienced in data center management related fields is a plus.
    6. Fluent English communication skill is a plus (oral and written).
    7. On call for system trouble shooting is required
    8. Location is at Tainan

2011雲端應用系統研討會

  • 日期:2011526日(四)
  • 地點:台北市和平東路二段106號二樓簡報室(科技大樓)
  • 指導單位:行政院國家科學委員會
  • 主辦單位:中華民國開放系統協會(COSA)
  • 協辦單位:國家高速網路與計算中心/中華民國軟體自由協會
  • 報名網址:http://www.cosa.org.tw/csttt/act_neo_class.php

2011 Taiwan Cloud Application 研討會議程表

09:30

主席致詞

09:40

國家高速網路與計算中心 /潘怡倫

Cloud WebOS - 專屬隨需計算資源之雲端線上作業系統

10:20

中華電信研究所 /羅嘉琳

應用資訊安全檢測於雲端運算環境之方法與實作

11:00

休息10分鐘

11:10

國家高速網路與計算中心 /王耀聰

DRBL-Hadoop - 資料探勘平台

12:00

午 餐

13:30

國家高速網路與計算中心 /陳威宇

Crawlzilla - 叢集式搜尋引擎系統

14:10

交通大學/陳昌盛

運用虛擬主機技術提升E-mail系統效能-以常見的前端過濾系統Amavisd改善為例

14:50

休息10分鐘

15:00

中華民國開放系統協會 /吳鴻煦

Intelligent Bi-Direction SMS - Channel Push Approach

15:40

中華電信研究所 /董元昕

一種以需求為基礎的雲端系統測試案例產生方法之研究

16:30

結束

 

今年的 OSDC.TW 特別邀請到 Y! Research 的 Benjamin Reed 來台灣介紹 Apache ZooKeeper , ZooKeeper is a centralized service for maintaining configuration information, naming, providing distributed synchronization, and providing group services. 有興趣的人可以到這邊下載當天的投影片.

 

第二屆台灣 Hadoop 使用者社群會議 
Hadoop Taiwan User Group Meeting 2010


按這裡填寫報名資訊


   繼格網運算之後,雲端運算被視為下一代資訊架構的主流。雲端運算平台 Hadoop 及雲端資料庫平台 HBase 與 Hive 均是目前諸多雲端運算服務的基礎架構。感謝去年國內 Hadoop 使用者社群的踴躍支持,第一屆台灣 Hadoop 使用者社群會議可以募集到如此多參與者,讓我們感到十分意外。今年感謝有業界朋友邀請我們針對 Hadoop 與 HBase 進行教育訓練課程。秉持取之於自由軟體,用之於自由軟體的精神,將委託金額部份挪出來辦此次活動,希望可以藉此次活動聽到更多台灣 Hadoop 使用者的新奇應用。目前已邀請了國內推動 Hadoop 教學、軟體開發、社群建立的幾位同好來進行知識分享,包括舊班底:台灣雅虎台灣大學通訊與多媒體實驗室國網中心雲端運算研究小組,亦邀請到來自成功大學 PhiCloud逢甲大學地理資訊系統研究中心東海大學高效能計算實驗室高雄應用科技大學雲端技術與神經行銷學實驗室的中南部夥伴,還有趨勢科技的業界專家來跟大家分享 Hadoop 與 HBase 方面的研究成果。希望透過此次會議,讓更多有興趣瞭解 Hadoop 的夥伴相互交流,進行凝聚出台灣區的 Hadoop 社群。
    本會議不收取任何報名費用,歡迎各界踴躍參加。礙於此次會議場地座位有限,請速上網報名(http://registrano.com/events/hadoop-tw-2010),額滿為止。



議程


08:30 ~ 09:10 報  到 (Registration)
09:10 ~ 09:50 講 題:抓抓龍:輕鬆打造個人化搜尋引擎
Crawlzilla : Build Search Engine by Yourself Easily

講 者:陳威宇,國網中心軟體技術組
09:50 ~ 10:30

講 題:Hadoop 於 GIS 上之應
Developing GIS Applications using Hadoop
講 者:辜文元,逢甲地理資訊中心

10:30 ~ 10:40 中場休息 (Break)/ 大會供應茶點
10:40 ~ 11:20 講 題:結合雲端分散儲存與 Nutch 搜尋引擎之影音網站
Building Youtube-like portal based on Nutch and Distributed Storage
講 者:東海大學高效能計算實驗室
11:20 ~ 12:00 講 題:Large-scale multimedia data processing on Hadoop
講 者:吳冠龍、謝良奇,台灣大學通訊與多媒體實驗室
12:00 ~ 13:00 午  餐 (Lunch) / 大會供應餐盒
13:00 ~ 13:40 講 題:Toward to next-generation database/datastore
講 者:蘇晏良,成功大學 PhiCloud
13:40 ~ 14:20 講 題:HBase Security and coprocessors
講 者:Gary Helmling / Andrew Purtell, HBase Contributor / Trend Micro USA
14:20 ~ 14:30 中場休息 (Break)/ 大會供應茶點
14:30 ~ 15:10 講 題:Oozie: Server-based Workflow Engine
講 者:陳奕瑋,台灣雅虎
15:10 ~ 15:50 講 題:Processing World Wide Domain Information
講 者:Ray Liao and Jerry J Wu, Trend Micro, Taiwan
15:50 ~ 16:30

講 題:跨雲端平台的虛擬資料層架構設計與實例
A Cloud-independent Architecture and Implementation of Virtual Data Layer

講 者:趙國仁、葉蕙菱,高雄應用科技大學 雲端技術與神經行銷學實驗室

 


交通資訊


台灣高鐵:搭乘高鐵至高鐵台中站

  • 接駁一:在高鐵台中站六號出口搭乘高鐵快捷公車(高鐵台中站-東海大學-中科管理局 )至中科管理局站下車,再搭乘中科巡迴巴士(綠線/西屯線)至格網中心站(東大路科園路口)下車,步行五分鐘即可到達。
  • 接駁二: 在高鐵台中站六號出口搭乘中科巡迴巴士(橘線/高鐵線) 直達中科管理局站,再搭乘中科巡迴巴士(綠線/西屯線)至格網中心站(東大路科園路口)下車,步行五分鐘即可到達。
  • PS. Jazz 分享小撇步:若當天到東海大學站以後,車上有多位要到會場的夥伴,可以凹司機在科園路與東大路的交叉路口讓各位下車,直接步行往科園路,可以節省多轉一次的困擾。
10-12-01_高鐵建議車次.png

自行開車:

北上方向
路線一 [國道一號] 下中港交流道(往沙鹿方向)→銜接至中港路(車行約十分鐘)→右轉東大路(車行約五分鐘)→進入中科。
路線二 [國道三號] 下龍井交流道(往台中方向) →銜接至中棲路(車行約五分鐘)→左轉東大路(車行約五分鐘)→進入中科。
南下方向
路線一 [國道一號] 下大雅交流道(往大雅方向)→銜接至中清路(車行約十分鐘)→左轉科雅路(車行約二分鐘)→進入中科。
路線二 [國道三號] 下沙鹿交流道(往台中大雅方向)→銜接至中清路(車行約十分鐘)→右轉科雅路(車行約二分鐘)→進入中科。
  • PS. Jazz 小撇步:自行開車前往者,可於科園路迴轉,停於中興大學育成中心側邊的免費停車場。

科園路與東大路口.png

東大路與科園路交叉路口街景

格網中心公車站牌.png

東大路格網中心公車站牌街景

近期再審閱留言時才發現工研院雲端中心希望透過敝站對外公開徵才,雖然不全然是與 Hadoop 相關,但只要是有志從事雲端運算相關工作,具備良好程式設計能力者,均歡迎投履歷喔~

工研院雲端中心最新職缺可參考以下連結:
http://www.itri.org.tw/chi/recruiting/join_itri_041.asp

職缺內容大致分為管理職與一般工程師,需求一覽如下:

管理職

Job Title
Software Technical Director/Deputy Director(1)
Job Description
Provides technical guidance/leadership and managerial supervision  
for research projects in the area of data center  
design, management and automation
Requirements
1. Concrete research and development experiences in server/networking hardware, operating systems, compiler, security, virtualization,  and/or network protocol stack.  
2. +2 years of management experience in supervisor positions with more than 5 direct reports. 
3. Ph.D. with 7+ years of experience, or MS with 12+ years of experiences

Job Title
Computer Security Project Leader
Job Description
Provides day-to-day technical management   
for research projects in the area of computer security

Requirements
1. Hands-on research and development experiences in software security, trusted computing, and cryptography.  
2. Ph.D. with 3+ years of experience, or MS with 7+ years of experiences


Job Title
Virtualization Technology Project Leader
Job Description
Provides day-to-day technical management   
for research projects in the area of CPU, memory and I/O virtualization technology

Requirements
1. Hands-on research and development experiences in hardware abstraction layer (HAL)-based, OS-level, application-evel virtualization software.   
2. Ph.D. with 3+ years of experience, or MS with 7+ years of experiences


Job Title
Thermal Management/Cooling Technology Project Leader
Job Description
Provides day-to-day technical management  
for research projects in the area of thermal/cooling subsystem design in data centers

Requirements
1. Hands-on research and development experiences in thermal management and cooling subsystem architecture in  data centers and/or container computers 
2. Ph.D. with 3+ years of experience, or MS with 7+ years of experiences


Job Title
Software Technical Director/Deputy Director(2)
Job Description
Provides technical guidance/leadership and managerial supervision for research projects in the area of data, file and storage management
Requirements
1. Concrete research and development experiences in disk hardware, flash memory, storage area networking, file/storage management, and database software.  
2. +2 years of management experience in supervisor positions with more than 5 direct reports. 
3. Ph.D. with 7+ years of experience, or MS with 12+ years of experiences


Job Title
Hardware Architecture Technical Director/Deputy Director
Job Description
Provides technical guidance/leadership and managerial supervision for research projects in low power CPU-based server design, PCIe switching, and scalable content-based network packet processing.
Requirements
1. Concrete research and development experiences in enterprise server design, including chipset, memory system, systems interconnect, low-latency parallel packet processing.  
2. +2 years of management experience in supervisor positions with more than 5 direct reports. 
3. Ph.D. with 7+ years of experience, or MS with 12+ years of experiences


Job Title
Cloud OS Integration Team Leader
Job Description
This individual will lead a group of integration test engineers and work with R&D developers to test the integration of Cloud OS components. The responsibilities will include: 
1. Understanding Cloud OS requirements and use cases 
2. Reviewing test plan and test cases with R&D developers 
3. Implementing an automated test harness 
4. Designing and implement test scenarios and test scripts 
5. Execute of the test scenarios, problem isolation and diagnosis. Work with developers to resolve these problems.

Requirements
1. Experience with QA engineers (meaning writing test programs, not just executing QA testing) 
2. Lead a team 4-6 Testing engineers 
3. Familiar with automated test tools such as JUnit, Google Test, htmlUnit, WinRunner, QuickTestPro, Selenium, STAF, JMeter, OpenSTA, etc. 
4. Ability to debug programs written in C , C++, Python, or Java.  
5. Familiarity with Software IDE &  Release Engineering tools such as Make, Ecllipse, Cruise Control is a plus


一般工程師

職務名稱 CCMA_ Software Technical Director/Deputy Director(2)
工作地址 新竹縣竹東鎮
學歷要求 大學 碩士 博士
科系要求 無
年資要求 10 年以上
工作內容 
Provides technical guidance/leadership and managerial supervision for research projects in the area of data, file and storage management

其他條件 
1. Concrete research and development experiences in disk hardware, flash memory, storage area networking, file/storage management, and database software. 2. +2 years of management experience in supervisor positions with more than 5 direct reports. 3. Ph.D. with 7+ years of experience, or MS with 12+ years of experiences


職務名稱 CCMA_Cloud Computing Engineer (1)
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 資訊工程相關 電機電子工程相關
年資要求 無
工作內容 
You will join a team that develops a next-generation scalable networking architecture for mega data centers, including design and implementation the associated network interface, network switch/router, sever load balancer, and routing/transport protocol.
其他條件 
1.Good knowledge of Layer 2/3/4 data or storage networking protocols, and embedded system programming in C/C++. 2.Hands-on experences in the development of network interface, network switch and load balancers are a plus.3.Ph.D. or MS with 3+ years of experiences

職務名稱 CCMA_Cloud Computing Engineer (3)
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 資訊工程相關 電機電子工程相關
年資要求 無
工作內容 
You will join a team that develops a new hardware building block for mega data center that consists of low-power CPUs, flash memory as persistent storage, and intelligent power management and virtualization software.
其他條件 
1.Good knowledge of compute server hardware design and implementation at the board/system level.2.Hands-on experience in firmware and device driver programming is a plus.3.Ph.D. or MS with 3+ years of experiences

職務名稱 CCMA_Cloud Computing Engineer (5)
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 資訊工程相關 電機電子工程相關
年資要求 
工作內容 
You will join a team that develops a scalable distributed storage layer for cloud applications running on a mega data center. This distributed storage layer consists of block-level storage management, file management for unstructured data, and database management for structured data in the form of attribute-value pairs.
其他條件 
1.Good knowledge of the design of modern file system, storage management, and database management systems, and their implementation details. 2.Hands-on experiences in distributed storage/file/database management system development are a plus.3.Ph.D. or MS with 3+ years of experiences

職務名稱 CCMA_Cloud Computing Engineer (6)
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 資訊工程相關 電機電子工程相關
年資要求 無
工作內容 
You will join a team that develops attack prevention and confinement mechanisms that effectively stop vulnerable applications with memory error-related bugs or input validation bugs from being exploited.
其他條件 
1.Good knowledge of software vulnerabilities, attack methods, and state of the art in attack detection and prevention techniques.2.Hands-on experiences in compiler (e.g. GCC) and Windows/Linux kernel programming are a plus.3.Ph.D. or MS with 3+ years of experiences

職務名稱 CCMA_Cloud Computing Engineer(2)
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 資訊工程相關 電機電子工程相關
年資要求 無
工作內容 
You will join a team that develops a comprehensive network/system management system for mega data centers that enables data center automation and achieves the goal of managing more than 2000 servers per IT staff.
其他條件 
1.Good knowledge of efficient data structures, basic algorithms, and network and distributed application programming in C/C++.2.Hands-on experences in data center automation or system/network management are a plus.3.Ph.D. or MS with 3+ years of experiences

職務名稱 CCMA_Cloud Computing Engineer(4)
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 資訊工程相關 電機電子工程相關
年資要求 無
工作內容 
You will join a team that develops a software as a service (SaaS) application that aims to support a wide variety of data mining tasks over the Internet for applications such as web analytics, E-commerce transaction data analysis, medical data mining, smart grid, etc.
其他條件
1.Good working knowledge of data backup and archiving algorithms, and their implementations on a compute cluster.2.Hands-on development experiences in one or multiple large-scale data mining applications are a plus.3.Ph.D. or MS with 3+ years of experiences 

職務名稱 CCMA_Cloud Computing Engineer(7)
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 資訊工程相關 電機電子工程相關
年資要求 無
工作內容 
You will join a team that leverages virtualization technology to support application-independent and OS-independent fault tolerance, efficient migration for load balancing and power usage reduction, and attack confinement.
其他條件 
1.Good knowledge of the internals of modern hypervisor technology such as Xen and KVM, and their applications to fault tolerance and cybersecurity. 2.Hands-on experiences in kernel-level programming for Linux, Xen and KVM are a plus.3.Ph.D. or MS with 3+ years of experiences

職務名稱 CCMA_Cloud OS Integration Test Engineers
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 無
年資要求 無
工作內容 
Work with Cloud OS development teams in integrating the subprojects and debugging resolve issues. Develop automated test suites to be used for Cloud OS system regression test.
其他條件 
1.3-5 years Testing experience 2.Familiar with some of the Automated test tools such as JUnit, CUnit, htmlUnit, WinRunner, QuickTestPro, Selenium, Watir, JMeter, OpenSTA, etc. 3.Ability to debug programs written in C or Java. 4.Familiarity with Software IDE & Release Engineering tools such as Make, Ecllipse, Cruise Control is a plus

職務名稱 CCMA_Computer Security Project Leader
工作地址 新竹縣竹東鎮
學歷要求 大學 碩士 博士
科系要求 無
年資要求 7 年以上
工作內容 
Provides day-to-day technical management for research projects in the area of computer security
其他條件 
1. Hands-on research and development experiences in software security, trusted computing, and cryptography. 2. Ph.D. with 3+ years of experience, or BS/MS with 7+ years of experiences

職務名稱 CCMA_Security Engineer for Cloud OS
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 無
年資要求 無
工作內容 
Part of Cloud OS Security development team
其他條件 
1.Strong programming experience in C. Preferably kernel systems programming experience. 2.Knowledge of Server side security issues (packet filters, firewall, Intrusion Detection, and Intrusion Prevention systems) 3.Hands on experience with Web Application Firewall and/or IDS/IPS 4.Knowledge of Virtualization hypervisor (e.g. Xen, HyperV, KVM, & VMware ESX) is a plus

職務名稱 CCMA_Software Technical Director/Deputy Director(1)
工作地址 新竹縣竹東鎮
學歷要求 大學 碩士 博士
科系要求 無
年資要求 10 年以上
工作內容 
Provides technical guidance/leadership and managerial supervision for research projects in the area of data center design, management and automation
其他條件 
1. Concrete research and development experiences in server/networking hardware, operating systems, compiler, security, virtualization, and/or network protocol stack. 2. +2 years of management experience in supervisor positions with more than 5 direct reports. 3. Ph.D. with 7+ years of experience, or BS/MS with 12+ years of experiences

職務名稱 CCMA_Storage Subsystem Engineer for Cloud OS
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 無
年資要求 無
工作內容 
Part of Cloud OS Storage subsystems team
其他條件 
1.Knowledge & hands on experience of Unix I/O subsystem 2.Knowledge & hands on experience of O/S filesystem and rawdisk I/O. Experience with working on Unix filesystem drivers is a plus 3.Some knowledge of Network programming & Unix kernel is preferred

職務名稱 CCMA_Thermal Management/Cooling Technology Project Leader
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 資訊工程相關 電機電子工程相關
年資要求 無
工作內容 
Provides day-to-day technical management for research projects in the area of thermal/cooling subsystem design in data centers.
其他條件 
1. Hands-on research and development experiences in thermal management and cooling subsystem architecture in data centers and/or container computers 2. Ph.D. with 3+ years of experience, or MS with 7+ years of experiences

職務名稱 CCMA_Virtual Resource Management Engineer for Cloud OS
工作地址 新竹縣竹東鎮
學歷要求 碩士 博士
科系要求 無
年資要求 無
工作內容 
Part of Cloud OS Virtual Resource Management team
其他條件 
1.Strong programming experience in C. Preferably kernel systems programming experience. 2.Knowledge & hands on experience with Virtualization hypervisor technologies is required. 3.Knowledge of IaaS systems such as AWS and GoGrid is a strong plus

職務名稱 CCMA_Virtualization Technology Project Leader
工作地址 新竹縣竹東鎮
學歷要求 大學 碩士 博士
科系要求 無
年資要求 7 年以上
工作內容 
Provides day-to-day technical management for research projects in the area of virtualization technology
其他條件 
1. Hands-on research and development experiences in hardware abstraction layer (HAL)-based, OS-level, application-evel virtualization software. 2. Ph.D. with 3+ years of experience, or BS/MS with 7+ years of experiences

對以上職缺有興趣的,請至工研院網站填寫履歷資料進行應徵程序。

- Jazz
淺談雲端運算新趨勢與 Hadoop 平台之崛起
國家高速網路與計算中心 王耀聰

** 本文亦刊登於網管人雜誌第 53 期 ( 2010 年六月號 )

坐看風雲險中生

  隨著網際網路的普及,各種連網裝置讓我們的生活更加地便利。然而隨著人們產生資訊的速度越來越快,數量愈來愈多,大量通訊不僅塞爆了實體的網路頻寬,無形中也正侵蝕著你我大腦的資訊頻寬。為了解決資訊爆炸所造成的困擾,順應隨時隨地連網的趨勢,替企業達成精簡資訊成本的目標,一種嶄新的軟體服務模式與資訊架構革命正以撲天蓋地之姿席捲全球,Google執行長施密特(Eric Schmidt)於2006年8月9日SES'06會議中首次使用「雲端運算(Cloud Computing)」來形容無所不在的網路服務,緊接著Amazon更以 Elastic Compute Cloud(簡稱EC2)命名其虛擬運算資源服務[1],[2]。2007年10月8日,Google與IBM發佈合作新聞稿,擬於美國境內七所大學教授如何處理海量資料的高速計算技術,從此引爆雲端運算的討論熱潮[3]。2008年時值全球金融風暴肆虐,多數人均擔心雲端運算只是一時的口號。2009年4月24日,美國國家標準局(NIST)起草雲端運算的標準定義[4];於同年5月,歐巴馬政府更明白地在2010年度國會預算書上,指出雲端運算是重要施政重點[5]。隨即,英國、日本、韓國等亦相繼宣佈將建立政府雲端的計畫,作為振興經濟的強心針。2010年被媒體喻為台灣的雲端元年,但每當談到雲端運算,不知大家是否心中仍存著諸多疑惑,冷眼看那不同廠商各說各話。底下就讓我們細說從頭,先給大家一個關於雲端運算的正式定義、看看雲端的技術演進史,最後說明為何Hadoop這個處理海量資料的軟體平台會逐漸被國際資訊大廠所重視。

笑談雲端五四三

  漫畫裡的呆伯特對老闆突然丟來的奇怪問題,總能用簡單的一句話敷衍過關。那麼如果要您用一句話簡單說明什麼是雲端運算,那該如何解釋呢?且讓小弟不聰贈送各位正經版與幽默版各一句來當作應對妙招,正經版可答道「雲端運算就是隨時隨地運用各種裝置來存取想要的服務」,幽默版可笑曰「雲端運算談的不外乎五四三(台語)啦~」倘若有人反譏您胡說八道,還有雲端口訣可以背得對方聽:「一個基本精神、兩個極端產業、三個服務模式、四個佈署模型、五個基礎特徵」,這不恰恰就是五四三二一嘛?!關於這雲端口訣的五四三可不是隨便說說,真是取自美國國家標準局(NIST)的雲端標準定義呢[6]!以下為各位看倌逐一說個明白。

  所謂「五個基礎特徵」,包括:(1)隨需自助服務(On-demand self-service)、(2)隨時隨地用任何網路裝置存取(Broad network access)、(3)多人共享資源池(Resource pooling)、(4)快速重新佈署靈活度(Rapid elasticity),和(5)被監控與量測的服務(Measured Service)。這五個基礎特徵的典型代表當然是Amazon Web Service。專家們認為未來進入雲端運算的時代,每個系統管理員將不再需要擔憂採購硬體的時間與流程,而是改以租賃方式,動態地根據需求,自助啟動或關閉所負責的資訊服務,而這些服務都是透過各種網路裝置來存取。此外,由於全球不同企業共享這些軟硬體甚至人力資源,從統計與機率上,若產業異質性高,便能有效地互補彼此尖峰使用的時間,間接降低了不同企業的資訊成本。當然為了達成動態調配共享資源的目的,雲端服務供應商必須具備快速重新佈署的靈活度,好讓各種被釋放出來的資源能馬上被其他客戶使用。最後,任何雲端服務都涉及計價行為,因此所有服務必須能被監控與量測,好統計租賃的帳單金額。

  至於「四個佈署模型」,指的是(1)公用雲端(Public Cloud)、(2)私有雲端(Private Cloud),及不常聽到的(3)社群雲端(Community Cloud)、(4)混合雲端(Hybrid Cloud)。公用雲端顧名思義就是全球一起共用某個雲端服務廠商的資源池,多半適用於資料機敏性低的新創事業或中小企業;而私有雲端則是由企業自行建置共享資源池,故任何資料機敏性高的產業都可能需要自行打造。社群雲端係指由多個組織共享資源池,故較合適具共享研究資料需求的學研單位合資建置;而混合雲端泛指混合了上述三種雲端型態,須基於標準或運用新技術來確保資料與應用程式在不同平台間的移植性。

  關於「三個服務模式」,也可稱之為不同雲端服務商的市場區隔,分別為:(1)架構即服務(Infrastructure as a Service,IaaS)、(2)平台即服務(Platform as a Service,PaaS)與(3)軟體即服務(Software as a Service,SaaS)。Amazon EC2的服務就是典型的架構即服務,讓用戶可自行租賃所需的運算、儲存與網路資源。而Google App Engine則是典型的平台即服務,讓用戶可以在共通的平台上進行程式開發或軟體佈署。大家常用的Yahoo、Gmail、Facebook等都算是軟體即服務的範疇,過去購買套裝軟體的模式,如今已逐漸典範轉移,改依需求變化,動態地變更租賃軟體服務的授權數量,用多少付多少。從企業經營成本面來看,過去採購硬體的固定成本,如今轉變成變動營運成本,在金流調度上將更有彈性。

  口訣最後的「兩個極端產業,一個基本精神」,談的是未來雲端將持續往兩個極端發展,一邊是雲(資料中心)的產業供應鏈,一邊是端(行動裝置)的產業供應鏈。雲的發展將是地理集中而標準化,而端的發展將是位置變異而多元化。而雲端運算之所以能融入各行各業,憑藉的是「形成網路服務」這個基本精神。惟有形成服務,才有商業行為,方能串起供需鏈,進而促進經濟的永續發展。

回顧資通六十載

  談完雲端的五四三,相信各位已對雲端運算有比較清晰的概念。那麼雲端運算代表的是全新技術嗎?其實不然,雲端運算只是軟體演化必然的趨勢。讓我們一同回顧資通產業過去六十年的發展:1960年代運算主力是超級電腦,1970年代才有個人電腦誕生,1980年代制訂TCP/IP通訊協定,1990年初期因為有GNU自由軟體基金會與Linus的貢獻,才產生第一次高速運算革命,讓個人電腦叢集(PC Cluster)以企鵝雄兵打敗超級電腦,大幅降低運算成本,平行運算(Parallel  Computing)頓時蔚為顯學。1990年代後期網路逐漸導入金融機構,分散式物件技術才逐漸流行。演化至2000年初,SETI@Home尋找外星人計畫,向全球電腦用戶借螢幕保護的運算資源,開啟分散式運算(Distributed Computing)的新頁。隨即全球高速電腦中心起而效法分散式運算精神,提倡格網運算(Grid Computing),擬能建立虛擬組織共享全球運算資源。格網運算雖立意良善,卻因遲遲無法形成服務而難以進入產業應用。直至2006年Amazon推出 Elastic Compute Cloud(EC2)才成功地建立隨需運算服務,開啟雲端運算的序曲。

  歷經超級電腦、平行運算、分散運算與格網運算,雲端運算繼承了平行運算的叢集技術、融合了分散運算的容錯特性,發展出「資料中心即電腦(Data Center as a Computer)」的新思維[7]。有別於格網運算將資料搬到有空閒計算資源的思維,雲端運算強調把工作丟到資料所在主機去計算。在雲端的年代,資訊人惟有不斷充實多核心、平行、分散式運算與網頁程式設計等技能,才有機會住進未來那朵大雲裡。

喜獲吉象過重山

  看完以上的趨勢分析,或許您不禁想問:「縱使知道雲端趨勢很重要,若想打造私有雲端,下一步該做什麼呢?總是得腳踏實地,而不是空口畫雲吧~」若您想打造私有雲端,可參考如下圖中所列舉不同技術分層的自由軟體,來建置您專屬的雲端服務。目前有專家學者警告企業導入雲端不該只是採購硬體或導入虛擬化。小弟認為這只是導入雲端第一個階段,後續將視各企業屬性不同而導入平台即服務與軟體即服務的相關技術。倘若您的企業需要架構即服務,擬導入虛擬層與控制層,這裡建議的自由軟體包括:Xen、KVM、OpenNebula與Eucalyptus這幾套。若您需要建置的是資料分析的平台服務,那接下來要介紹的Hadoop與美國資料探勘中心研發的Sector/Sphere都是首選。

  本文最後要談的是Hadoop這個海量資料分析的軟體平台,它有何特殊呢?為何Google與IBM合作教授雲端課程採用它?為何Yahoo搜尋引擎、Facebook社交網站、Last.fm網路電台、Joost網路電視等均採用它來進行資料分析呢?首先,倘若說Google是當今最能引導技術風潮的品牌,想必大家不得不同意。那麼Google的關鍵技術是什麼呢?Google有三大關鍵技術:其一是Google File System,為了提升營運容錯率,Google重新設計了一套分散式檔案系統來存放全球的網頁內容、電子郵件、照片、影片等;其二是MapReduce演算法,Google宣稱多數的資料分析都可以靠此一演算法解決;其三是BigTable分散式資料庫,Google將存在Google File System中的資料,經過MapReduce運算後,轉換成巨大的資料表,這個資料表有別於傳統關聯式資料庫,僅存放成對的Key-Value。因此,當您下達一個查詢網頁或查詢信件的動作前,Google早已將所有網頁、信件進行拆解分類存進BigTable,查詢下達時只是從BigTable查Key等於關鍵字對應的所有Value罷了。

  然而Google的三大關鍵技術沒有原始碼或軟體可讓其他企業安裝使用,好在Google佛心來著,分別公開了Google File Ssystem、MapReduce與BigTable的三篇論文,讓Hadoop這套軟體平台的創始人Doug Cutting能參考論文,重新實作了Hadoop Distributed File System(HDFS)與MapReduce API。諸多過去無法分析的資料,如今有了Hadoop軟體平台後,都開始可以分析了。例如:電信業者如今可以分析手機在基地台漫遊的特性,提供更好的在地費率。信用卡業者如今可以每天定期分析各種信用貸款所產生的風險,動態調整信貸利率。便利超商如今可以分析消費者的購買習慣,動態調整架上存貨數量。甚至新興產業,如生醫資訊、智慧電網等都可以運用Hadoop平台來進行資料探勘與趨勢預測。若您的企業有儲存海量資料的需求,有分析海量資料的需求,或者面臨資料庫過度龐大,正在尋求分散式資料庫或資料倉儲的技術,那Hadoop或許是一個已通過商業驗證的選擇。只要懂得駕馭Hadoop這隻大象,它將能駝著您爬過一座座資料大山,幫您犁出隱藏在群眾中的邏輯。
 

open_source_for_private_cloud.png
▲ 建構私有雲端運散架構的自由軟體

[1] Did Google's Eric Schmidt Coin "Cloud Computing"?
    - http://cloudcomputing.sys-con.com/node/795054/print
[2] Search Engine Strategies Conference 2006
    - http://www.google.com/press/podium/ses2006.html
[3] Google and I.B.M. Join in 'Cloud Computing' Research
    - http://www.nytimes.com/2007/10/08/technology/08cloud.html
[4] The US Federal Government defines Cloud Computing
    - http://www.elasticvapor.com/2009/05/us-federal-government-defines-cloud.html
[5] President Obama's 2010 Budget Highlights Cloud Computing
    - http://kevinljackson.blogspot.com/2009/05/president-obamas-2010-budget-highlights.html
[6] NIST Definition of Cloud Computing v15
    - http://csrc.nist.gov/groups/SNS/cloud-computing/cloud-def-v15.doc
[7] The Datacenter as a Computer
    - http://www.morganclaypool.com/doi/abs/10.2200/S00193ED1V01Y200905CAC006
最近開始有一些廠商透過 e-mail 傳達希望協助徵才的需求,
考量職缺是促進社群蓬勃發展的另一個動力,因此代公佈兩個 Hadoop 相關職缺

一個是 JAVA Architect/Senior JAVA Developer/JAVA Developer
一個是 Java Hadoop / Nutch Developer

各職缺描述如下:

職務名稱:  JAVA Architect/Senior JAVA Developer/JAVA Developer
需求人數:  2~4人
上班地點:  台北市南港軟體園區
上班時段: 上班時間:10:00;下班時間:19:00
休假制度:  週休二日

學歷要求:  大學、碩士

外語條件:  英文(聽/精通、說/精通、讀/精通、寫/精通)


[福利制度]
(1)員工認股制度 stock options
(2)保障年薪14個月

(3)週休二日及優於勞基法的休假制度(
到職當年度可享有7天特休假)
(4)彈性上下班
(5)人性化管理

[Job Descriptioni]

Our R&D center in Taipei, Taiwan is currently looking for experienced
Java developers to join the development team of CodeSecure. The team
is comprised of talented technologies who can think outside of box and
come up with innovative approaches to complex problems.


[Required Attributes]

Professional experience designing, implementing and maintaining
complex & distributed components
A passion to develop high-quality and scalable applications that solve
people's problems
Strong object-oriented design skills and a drive to create structured,
efficient and clean code
Good sense in algorithm and data-structures

Expert-level skills in writing maintainable components in Java
Basic understanding of version control systems (SVN, Mercurial) is a plus
Able to produce good documentation for codes
Basic experience with Linux system is a plus

A result driven team player
Likes coding

Innovative, always in search for better methods to improve
productivity and quality
Keen to learn new skills to adapt business needs
Be able to think independently, coupled with good communication skills

相關網站(官網及影片介紹):
http://www.youtube.com/watch?v=G7nCLP4b6us
http://armorize-cht.blogspot.com/2010/02/caleb-sima.html
http://www.armorize.com

履歷請寄 tina at armorize dot com


職務名稱:  Java Hadoop / Nutch Developer

需求人數:  2人
上班地點:  台北市南港軟體園區
上班時段: 上班時間:10:00;下班時間:19:00
休假制度:  週休二日
學歷要求:  大學、碩士
外語條件:  英文(聽/精通、說/精通、讀/精通、寫/精通)

[福利制度]
(1)員工認股制度 stock options
(2)保障年薪14個月
(3)週休二日及優於勞基法的休假制度(到職當年度可享有7天特休假)
(4)彈性上下班
(5)人性化管理

[Job Descriptioni]

Our R&D center in Taipei, Taiwan is currently looking for experienced
Java developers to join the development team of HackAlert. We are
currently in the process of migrating part of the product onto the
Hadoop platform, to leverage the Nutch crawling engine and distributed
storage like HBase. You will also interface with dynamically created
virtual machines in the cloud.

[Required Attributes]

*Professional experience designing, implementing and maintaining
complex & distributed components
*A passion to develop high-quality and scalable applications that
solve people's problems
*Strong object-oriented design skills and a drive to create
structured, efficient and clean code
*Expert-level skills in writing maintainable components in Java
*Knowledge about distributed systems and parallel computations
desired, experiences with Hadoop/Map-Reduce a big advantage
*A deep understanding of the HTTP protocol, web crawling in general
and previous exposure to Nutch is a big advantage
*Basic understanding of distributed storage systems (Big Table, HBase..) desired
*Basic understanding of version control systems (SVN, Mercurial) is a plus
*Experience with Linux systems and basic web server maintenance and
deployments is a plus
*Experience with remote VM management a plus
*Experience with Agile Methodologies is a plus

相關網站(官網及影片介紹):
http://www.youtube.com/watch?v=G7nCLP4b6us
http://armorize-cht.blogspot.com/2010/02/caleb-sima.html
http://www.armorize.com

履歷請寄 tina at armorize dot com