Hadoop 生態(tài)系統(tǒng)實戰(zhàn)與案例解析培訓(xùn)
|
| |
班級規(guī)模及環(huán)境--熱線:4008699035 手機(jī):15921673576/13918613812( 微信同號) |
| 為了保證培訓(xùn)效果,增加互動環(huán)節(jié),我們堅持小班授部份,每期報名人數(shù)限3到5人,多余人員安排到下一期進(jìn)行。 |
上間和地點 |
上部份地點:【上?!客瑵?jì)大學(xué)(滬西)/新城金郡商務(wù)樓(11號線白銀路站)【深圳分部】:電影大廈(地鐵一號線大劇院站)/深圳大學(xué)成教院【北京分部】:北京中山/福鑫大樓【南京分部】:金港大廈(和燕路)【武漢分部】:佳源大廈(高新二路)【成都分部】:領(lǐng)館區(qū)1號(中和大道)【沈陽分部】:沈陽理工大學(xué)/六宅臻品【鄭州分部】:鄭州大學(xué)/錦華大廈【石家莊分部】:河北科技大學(xué)/瑞景大廈 近開間(周末班/連續(xù)班/晚班):2025年12月29日..學(xué)用相長,注重實踐....以質(zhì)量求發(fā)展....合作共贏....實用實戰(zhàn)....用心服務(wù)......--即將開課--........................(歡迎您垂詢,視教育質(zhì)量為生命!) |
實驗設(shè)備 |
◆:共5天,30學(xué)時 ☆注重質(zhì)量☆邊講邊練 ☆合格學(xué)員免費推薦工作 ★實驗設(shè)備請點擊這兒查看★ |
質(zhì)量保障 |
1、培訓(xùn)過程中,如有部分內(nèi)容理解不透或消化不好,可免費在以后培訓(xùn)班中重聽; 2、課程完成后,授課老師留給學(xué)員手機(jī)和Email,保障培訓(xùn)效果,免費提供半年的技術(shù)支持。 3、培訓(xùn)合格學(xué)員可享受免費推薦就業(yè)機(jī)會?!詈细駥W(xué)員免費頒發(fā)相關(guān)工程師等資格證書,提升職業(yè)資質(zhì)。專注高端技術(shù)培訓(xùn)15年,曙海學(xué)員的能力得到大家的認(rèn)同,受到用人單位的廣泛贊譽(yù),曙海的證書受到廣泛認(rèn)可。 |
部份程大綱 |
| |
- 通過培訓(xùn)您將會:
深刻理解Hadoop原理與調(diào)優(yōu)
深刻理解Hive原理掌握程序開發(fā)
深刻理解Hbase 掌握程序開發(fā)
深刻理解Hadoop 日常運維管理
Hadoop和傳統(tǒng)數(shù)據(jù)庫技術(shù)優(yōu)劣勢對比
Hadoop/Hive 對比 Oracle 在構(gòu)建數(shù)據(jù)倉庫上的優(yōu)劣勢
Hadoop 如何和傳統(tǒng)IT系統(tǒng)配合完成原來不可能的任務(wù)
Hadoop版本講解及Hadoop新舊版本使用對比
案例及實驗
Apache社區(qū)版本:Cloudera 版本、MapR版本、Intel版本、Oracle、Dell、HP版本
Hadoop的來源和動機(jī)
傳統(tǒng)大規(guī)模系統(tǒng)存在的問題
Hadoop概述
Hadoop分布式文件系統(tǒng)
MapReduce工作原理
Hadoop集群剖析
Hadoop生態(tài)系統(tǒng)對一種新的解決方案的需求
Hadoop的行業(yè)應(yīng)用案例分析
Hadoop在云計算和大數(shù)據(jù)的位置和關(guān)系
非結(jié)構(gòu)化數(shù)據(jù)與半結(jié)構(gòu)化數(shù)據(jù)在大數(shù)據(jù)中的應(yīng)用
案例及實驗
某銀行數(shù)據(jù)統(tǒng)一處理平臺,通過Hadoop進(jìn)行系統(tǒng)優(yōu)化
某電信運營商用戶行為分析系統(tǒng)
某電力行業(yè)數(shù)據(jù)采集大數(shù)據(jù)分析案例
聯(lián)通使用Hadoop/Hbase解決3G詳單查詢問題。
Hadoop生態(tài)系統(tǒng)介紹和演示
Hadoop HDFS 和 MapReduce
Hadoop數(shù)據(jù)庫之HBase
HBase架構(gòu)及如何應(yīng)用與編程開發(fā)相結(jié)合
Hadoop數(shù)據(jù)倉庫之Hive
Hive架構(gòu)及如何應(yīng)用與編程開發(fā)相結(jié)合
Hadoop數(shù)據(jù)處理腳本Pig
Pig架構(gòu)及如何應(yīng)用與編程開發(fā)相結(jié)合
Hadoop數(shù)據(jù)接口Sqoop和Flume
Sqoop和Flume架構(gòu)及如何應(yīng)用與編程開發(fā)相結(jié)合
Hadoop工作流引擎 Oozie
Oozie架構(gòu)及如何應(yīng)用與編程開發(fā)相結(jié)合
Hadoop生態(tài)系統(tǒng)各模塊應(yīng)用與編程開發(fā)相結(jié)合
案例及實驗
某銀行如何使用Hadoop統(tǒng)一數(shù)據(jù)平臺
手機(jī)上網(wǎng)日志分析
移動GPRS上網(wǎng)日志查詢系統(tǒng)
國家電網(wǎng)城區(qū)用電量分析
聯(lián)通不良信息檢測系統(tǒng)
電廠海量數(shù)據(jù)監(jiān)控分析系統(tǒng)
某銀行數(shù)據(jù)統(tǒng)一處理平臺
海量指紋比對系統(tǒng)
- Hadoop集群調(diào)優(yōu)
選擇適合hadoop的硬件配置
Hadoop配置項優(yōu)化
Hadoop配置優(yōu)化 - core-site.xml
Hadoop配置優(yōu)化 - hdfs-site.xml
Hadoop配置優(yōu)化 - mapred-site.xml
Hadoop配置優(yōu)化 - 機(jī)架感知
網(wǎng)絡(luò)帶寬參數(shù)調(diào)優(yōu)
系統(tǒng)參數(shù)調(diào)優(yōu)
配置文件管理
嚴(yán)格控制root權(quán)限
Java的GC模式
選擇正確的JDK
hadoop作業(yè)調(diào)優(yōu)
Map side tuning設(shè)置
Map side設(shè)置
Linux操作系統(tǒng)優(yōu)化
其他配置和參數(shù)調(diào)優(yōu)
案例及實驗
Hadoop硬件優(yōu)化
不是所有的硬件都合適拿來直接使用
安裝調(diào)優(yōu)的第一步服務(wù)器硬件的選型的竅門
如何選擇適合業(yè)務(wù)使用的CPU
內(nèi)存越大越好嗎?設(shè)置合理的的內(nèi)存配置
連接網(wǎng)絡(luò)的選擇和優(yōu)化
高速硬盤的選擇注意事項
硬盤為什么不做raid?
設(shè)置網(wǎng)絡(luò)的注意事項
中間結(jié)果壓縮對磁盤和網(wǎng)絡(luò)的優(yōu)化
機(jī)架感知,網(wǎng)絡(luò)和磁盤IO優(yōu)化作用,確定存儲的具體位置,
內(nèi)存參數(shù),map/reduce槽位數(shù)的計算方法。
對磁盤和網(wǎng)絡(luò)的優(yōu)化
Java工具使用,jstack使用
Sun和open之間的區(qū)別,JIT編譯器的使用
inux系統(tǒng)參數(shù)調(diào)優(yōu)
Linux監(jiān)控系統(tǒng)的使用
cacti,
ganglia
常用的linux排錯工具lsof,strace,iostat,vmstat,netstat...
常見異?,F(xiàn)象級處理方法
網(wǎng)卡流量導(dǎo)致連接失敗
權(quán)限錯誤
主機(jī)名IP轉(zhuǎn)換錯誤
NN與DN namespaceID不一致
磁盤滿導(dǎo)致報錯
Jave heap size OOM
Hadoop 2.0
Hadoop 1.0 存在的問題及現(xiàn)有的解決方案
Hadoop 2.0 各廠商版本對比
Apahce and CDH4
Hadoop 2.0 項目結(jié)構(gòu)解析
Hadoop 2.0 環(huán)境搭建
Yarn 與MapReduce的不同
Yarn 原理與架構(gòu)
Apache YARN基本框架
Apache YARN工作流程
Apache YARN設(shè)計細(xì)節(jié)
MapReduce與YARN結(jié)合
如何與Yarn來結(jié)合
yarn的優(yōu)化、資源管理、優(yōu)先級管理。
Hadoop 生態(tài)系統(tǒng)解析
Hadoop 小圖檔方案
Hadoop 2.0 HDFS 運維管理
丟失block的情況分析
常見的故障排查
- HDFS高級程序?qū)崙?zhàn)演練
HDFS實戰(zhàn)-命令行等使用
HDFS命令行工具
啟動、停止HDFS服務(wù)
如何查看HDFS日志
如何查看HDFS Web控制臺
HDFS參數(shù)配置
案例及實驗
HDFS實戰(zhàn)-Java API使用
Eclipse 開發(fā)環(huán)境介紹
HDFS 開發(fā)基本步驟
HDFS Java API詳解
Configuration
Path
FileSystem
Stream、IOUtils
Hadoop HDFS HA方案介紹
Hadoop 1.0 系 HA的一些辦法
Hadoop 2.0 介紹
- MapReduce高級程序?qū)崙?zhàn)演練
使用 Hadoop MapReduce Streaming 編程
MapReduce流程
剖析一個MapReduce程序
基本MapReduceAPI 概念
驅(qū)動代碼 Mapper、Reducer
Hadoop流
API 使用Eclipse進(jìn)行快速開發(fā)
新MapReduce API
MapReduce的優(yōu)化
MapReduce的任務(wù)調(diào)度
MapReduce編程實戰(zhàn)
滿足解決實際數(shù)據(jù)分析問題的高級Hadoop API
案例及實驗
Hadoop Streaming 和 Java MapReduce Api 差異。
MapReduce 實現(xiàn)數(shù)據(jù)庫功能
利用Combiners來減少中間數(shù)據(jù)
編寫Partitioner來優(yōu)化負(fù)載平衡
直接訪問Hadoop分布式文件系統(tǒng)(HDFS)
Hadoop的join操作
輔助排序在Reducer方的合并
定制Writables和WritableComparables
使用SequenceFiles和Avro文件保存二進(jìn)制數(shù)據(jù)
創(chuàng)建InputFormats OutputFormats
Hadoop的二次排序
Hadoop的海量日志分析
在Map方的合并
- Hadoop SQL 接口Hive
Hive基礎(chǔ)
Hive的作用和原理說明
Hadoop倉庫和傳統(tǒng)數(shù)據(jù)倉庫的協(xié)作關(guān)系;Hive與傳統(tǒng)數(shù)據(jù)庫的對接使用
Hadoop/Hive倉庫數(shù)據(jù)數(shù)據(jù)流
Hive Cli 的基本用法
HQL基本語法
自行編寫數(shù)據(jù)庫與Hadoop相互ETL工具的思路
案例及實驗
使用JDBC 連接Hive進(jìn)行查詢和分析
使用正則表達(dá)式加載數(shù)據(jù)
HQL高級語法
編寫UDF函數(shù)
編寫UDAF自定義函數(shù)
執(zhí)行嵌套sql的優(yōu)化
- Hadoop數(shù)據(jù)庫之HBase及HBase優(yōu)化
hbase概念與架構(gòu)
hbase核心知識點
hbase安裝、部署
HBase配置優(yōu)化綜述
表設(shè)計優(yōu)化相關(guān)參數(shù)
監(jiān)控工具使用方法及注意事項
常見異?,F(xiàn)象級處理方法
案例及實驗
hot region造成讀請求瓶頸
region預(yù)劃分
Memstore合并設(shè)置的時機(jī)選擇
合并storefile策略設(shè)置技巧
Memstore flush設(shè)置時機(jī)選擇
Hbase-env.sh、Single、multi-thread、CMS使用及參數(shù)調(diào)整
GC回收垃圾時機(jī)、GC日志打印設(shè)置
GC階段,region無法提供服務(wù)如何如何處理
Split時機(jī)控制(增大、disable)方法
CF數(shù)量多少對讀寫性能的影響
自動關(guān)閉flush的目的
|
|
|
|
|
|
 * |
| |
本部份程部分實驗室實景 |
|
|
|
|
|
|
合作伙伴與授權(quán)機(jī)構(gòu) |
 Altera全球合作培訓(xùn)機(jī)構(gòu) |
 諾基亞Symbian公司授權(quán)培訓(xùn)中心 |
 Atmel公司全球戰(zhàn)略合作伙伴 |
 微軟全球嵌入式培訓(xùn)合作伙伴 |
 英國ARM公司授權(quán)培訓(xùn)中心 |
 ARM工具關(guān)鍵合作單位 |
|
|
|
我們培訓(xùn)過的企業(yè)客戶評價: |
曙海的andriod系統(tǒng)與應(yīng)用培訓(xùn)完全符合了我公司的要求,達(dá)到了我公司培訓(xùn)的目的。特別值得一提的是授部份講師針對我們公司的開發(fā)的項目專門提供了一些很好程序的源代碼,基本滿足了我們的項目要求。 ——上海貝爾,李工 曙海培訓(xùn)DSP2000的老師,上部份思路清晰,口齒清楚,由淺入深,重點突出,培訓(xùn)效果是不錯的, 達(dá)到了我們想要的效果,希望繼續(xù)合作下去。 ——中國電子科技集團(tuán)技術(shù)部主任馬工 曙海的FPGA培訓(xùn)很好地填補(bǔ)了高校FPGA培訓(xùn)空白,不錯??傊?,有利于學(xué)生的發(fā)展,有利于教師的發(fā)展,有利于部份程的發(fā)展,有利于社會的發(fā)展。 ——上海電子,馮老師 曙海給我們公司提供的Dsp6000培訓(xùn),符合我們項目的開發(fā)要求,解決了很多困惑我們很久的問題,與曙海的合作非常愉快。 ——公安部第三研究所,項目部負(fù)責(zé)人李先生 MTK培訓(xùn)-我在網(wǎng)上找了很久,就是找不到。在曙海居然有MTK驅(qū)動的培訓(xùn),老師經(jīng)驗很豐富,知識面很廣。下一個還想培訓(xùn)IPHONE蘋果手機(jī)。跟他們合作很愉快,老師很有人情味,態(tài)度很和藹。 ——臺灣雙揚(yáng)科技,研發(fā)處經(jīng)理,楊先生 曙海對我們公司的iPhone培訓(xùn),實驗項目很多,確實學(xué)到了東西。受益無窮?。√貏e是對于那種正在開發(fā)項目的,確實是物超所值。 ——臺灣歐澤科技,張工 通過參加Symbian培訓(xùn),再做Symbian相關(guān)的項目感覺更加得心應(yīng)手了,理論加實踐的授部份方式,很有針對性,非常的適合我們。學(xué)完之后,很輕松的就完成了我們的項目。 ——IBM公司,沈經(jīng)理 有曙海這樣的DSP開發(fā)培訓(xùn)單位,是教育行業(yè)的財富,聽了他們的部份,茅塞頓開。 ——上海醫(yī)療器械高等學(xué)校,羅老師
|
我們新培訓(xùn)過的企業(yè)客戶以及培訓(xùn)的主要內(nèi)容: |
| |
一汽海馬汽車DSP培訓(xùn) 蘇州金屬研究院DSP培訓(xùn) 南京南瑞集團(tuán)技術(shù)FPGA培訓(xùn) 西安愛生技術(shù)集團(tuán)FPGA培訓(xùn),DSP培訓(xùn) 成都熊谷加世電氣DSP培訓(xùn) 福斯賽諾分析儀器(蘇州)FPGA培訓(xùn) 南京國電工程FPGA培訓(xùn) 北京環(huán)境特性研究所達(dá)芬奇培訓(xùn) 中國科微系統(tǒng)與信息技術(shù)研究所FPGA高級培訓(xùn) 重慶網(wǎng)視只能流技術(shù)開發(fā)達(dá)芬奇培訓(xùn) 無錫力芯微電子股份IC電磁兼容 河北科研究所FPGA培訓(xùn) 上海微小衛(wèi)星工程中心DSP培訓(xùn) 廣州航天航空POWERPC培訓(xùn) 桂林航天工DSP培訓(xùn) 江蘇五維電子科技達(dá)芬奇培訓(xùn) 無錫步進(jìn)電機(jī)自動控制技術(shù)DSP培訓(xùn) 江門市安利電源工程DSP培訓(xùn) 長江力偉股份CADENCE培訓(xùn) 愛普生科技(無錫)數(shù)字模擬電路 河南平高電氣DSP培訓(xùn) 中國航天員科研訓(xùn)練中心A/D仿真 常州易控汽車電子WINDOWS驅(qū)動培訓(xùn) 南通大學(xué)DSP培訓(xùn) 上海集成電路研發(fā)中心達(dá)芬奇培訓(xùn) 北京瑞志合眾科技WINDOWS驅(qū)動培訓(xùn) 江蘇金智科技股份FPGA高級培訓(xùn) 中國重工第710研究所FPGA高級培訓(xùn) 蕪湖伯特利汽車安全系統(tǒng)DSP培訓(xùn) 廈門中智能軟件技術(shù)Android培訓(xùn) 上海科慢車輛部件系統(tǒng)EMC培訓(xùn) 中國電子科技集團(tuán)第五十研究所,軟件無線電培訓(xùn) 蘇州浩克系統(tǒng)科技FPGA培訓(xùn) 上海申達(dá)自動防范系統(tǒng)FPGA培訓(xùn) 四川長虹佳華信息MTK培訓(xùn) 公安部第三研究所--FPGA初中高技術(shù)開發(fā)培訓(xùn)以及DSP達(dá)芬奇芯片視頻、圖像處理技術(shù)培訓(xùn) 上海電子信息職業(yè)技術(shù)--FPGA高級開發(fā)技術(shù)培訓(xùn) 上海點逸網(wǎng)絡(luò)科技有限公司--3G手機(jī)ANDROID應(yīng)用和系統(tǒng)開發(fā)技術(shù)培訓(xùn) 格科微電子有限公司--MTK應(yīng)用(MMI)和驅(qū)動開發(fā)技術(shù)培訓(xùn) 南昌航空大學(xué)--fpga高級開發(fā)技術(shù)培訓(xùn) IBM公司--3G手機(jī)ANDROID系統(tǒng)和應(yīng)用技術(shù)開發(fā)培訓(xùn) 上海貝爾--3G手機(jī)ANDROID系統(tǒng)和應(yīng)用技術(shù)開發(fā)培訓(xùn) 中國雙飛--Vxworks應(yīng)用和BSP開發(fā)技術(shù)培訓(xùn)
|
上海水務(wù)建設(shè)工程有限公司--Alter/XilinxFPGA應(yīng)用開發(fā)技術(shù)培訓(xùn) 恩法半導(dǎo)體科技--AllegroCandencePCB仿真和信號完整性技術(shù)培訓(xùn) 中國計量--3G手機(jī)ANDROID應(yīng)用和系統(tǒng)開發(fā)技術(shù)培訓(xùn) 冠捷科技--FPGA芯片設(shè)計技術(shù)培訓(xùn) 芬尼克茲節(jié)能設(shè)備--FPGA高級技術(shù)開發(fā)培訓(xùn) 川奇光電--3G手機(jī)ANDROID系統(tǒng)和應(yīng)用技術(shù)開發(fā)培訓(xùn) 東華大學(xué)--Dsp6000系統(tǒng)開發(fā)技術(shù)培訓(xùn) 上海理工大學(xué)--FPGA高級開發(fā)技術(shù)培訓(xùn) 同濟(jì)大學(xué)--Dsp6000圖像/視頻處理技術(shù)培訓(xùn) 上海醫(yī)療器械高等??茖W(xué)校--Dsp6000圖像/視頻處理技術(shù)培訓(xùn) 中航工業(yè)無線電電子研究所--Vxworks應(yīng)用和BSP開發(fā)技術(shù)培訓(xùn) 北京交通大學(xué)--Powerpc開發(fā)技術(shù)培訓(xùn) 浙江理工大學(xué)--Dsp6000圖像/視頻處理技術(shù)培訓(xùn) 臺灣雙陽科技股份有限公司--MTK應(yīng)用(MMI)和驅(qū)動開發(fā)技術(shù)培訓(xùn) 滾石移動--MTK應(yīng)用(MMI)和驅(qū)動開發(fā)技術(shù)培訓(xùn) 冠捷半導(dǎo)體--Linux系統(tǒng)開發(fā)技術(shù)培訓(xùn) 奧波--CortexM3+uC/OS開發(fā)技術(shù)培訓(xùn) 迅時通信--WinCE應(yīng)用與驅(qū)動開發(fā)技術(shù)培訓(xùn) 海鷹醫(yī)療電子系統(tǒng)--DSP6000圖像處理技術(shù)培訓(xùn) 博耀科技--Linux系統(tǒng)開發(fā)技術(shù)培訓(xùn) 華路時代信息技術(shù)--VxWorksBSP開發(fā)技術(shù)培訓(xùn) 臺灣歐澤科技--iPhone開發(fā)技術(shù)培訓(xùn) 寶康電子--AllegroCandencePCB仿真和信號完整性技術(shù)培訓(xùn) 上海天能電子有限公司--AllegroCandencePCB仿真和信號完整性技術(shù)培訓(xùn) 上海亨通光電科技有限公司--andriod應(yīng)用和系統(tǒng)移植技術(shù)培訓(xùn) 上海智搜文化傳播有限公司--Symbian開發(fā)培訓(xùn) 先先信息科技有限公司--brew手機(jī)開發(fā)技術(shù)培訓(xùn) 鼎捷集團(tuán)--MTK應(yīng)用(MMI)和驅(qū)動開發(fā)技術(shù)培訓(xùn) 傲然科技--MTK應(yīng)用(MMI)和驅(qū)動開發(fā)技術(shù)培訓(xùn) 中軟國際--Linux系統(tǒng)開發(fā)技術(shù)培訓(xùn) 龍旗控股集團(tuán)--MTK應(yīng)用(MMI)和驅(qū)動開發(fā)技術(shù)培訓(xùn) 研祥智能股份有限公司--MTK應(yīng)用(MMI)和驅(qū)動開發(fā)技術(shù)培訓(xùn) 羅氏診斷--Linux應(yīng)用開發(fā)技術(shù)培訓(xùn) 西東控制集團(tuán)--DSP2000應(yīng)用技術(shù)及DSP2000在光伏并網(wǎng)發(fā)電中的應(yīng)用與開發(fā) 科大訊飛--MTK應(yīng)用(MMI)和驅(qū)動開發(fā)技術(shù)培訓(xùn) 東北農(nóng)業(yè)大學(xué)--IPHONE蘋果應(yīng)用開發(fā)技術(shù)培訓(xùn) 中國電子科技集團(tuán)--Dsp2000系統(tǒng)和應(yīng)用開發(fā)技術(shù)培訓(xùn) 中國船舶重工集團(tuán)--Dsp2000系統(tǒng)開發(fā)技術(shù)培訓(xùn) 晶方半導(dǎo)體--FPGA初中高技術(shù)培訓(xùn) 肯特智能儀器有限公司--FPGA初中高技術(shù)培訓(xùn) 哈爾濱大學(xué)--IPHONE蘋果應(yīng)用開發(fā)技術(shù)培訓(xùn) 昆明電器科學(xué)研究所--Dsp2000系統(tǒng)開發(fā)技術(shù) 奇瑞汽車股份--單片機(jī)應(yīng)用開發(fā)技術(shù)培訓(xùn)
|
|
|