?濟(jì)南大數(shù)據(jù)開(kāi)發(fā)工程師培訓(xùn)班

【課程名稱】

大數(shù)據(jù)開(kāi)發(fā)工程師

【課程大綱】

LINUX

基本命令

常見(jiàn)配置文件

文件操作命令和權(quán)限

安裝軟件

Shell腳本

AWK和sed腳本

內(nèi)核加載流程

Docker介紹和操作

服務(wù)器調(diào)優(yōu)項(xiàng)

分布式存儲(chǔ)

Hadoop概述

HBase背景、簡(jiǎn)介以及系統(tǒng)架構(gòu)和原理

HBase邏輯模型：行鍵、列族、timeStamp，HBase物理模型。

HBase環(huán)境搭建：偽分布式安裝、完全分布式安裝

HBase Shell 、HBase客戶端API 、HBase表結(jié)構(gòu)設(shè)計(jì)

HBase之Mapreduce、HDFS數(shù)據(jù)導(dǎo)入HBase

HBase二級(jí)索引、WAL機(jī)制、HBase集群遷移方案、導(dǎo)入方案、協(xié)處理器

HBase性能調(diào)優(yōu)：JVM優(yōu)化、查詢優(yōu)化、寫優(yōu)化、配置參數(shù)優(yōu)化

Zookeeper

Zookeeper概述

Zookeeper系統(tǒng)架構(gòu)

Zookeeper數(shù)據(jù)模型

Zookeeper寫數(shù)據(jù)流程

Zookeeper安裝部署

Zookeeper中shell操作

Zookeeper選舉機(jī)制

Zookeeper監(jiān)聽(tīng)操作

Zookeeper 分布式鎖實(shí)踐

Zookeeper應(yīng)用場(chǎng)景

API操作

YARN

YARN介紹

YARN系統(tǒng)架構(gòu)

YARN作業(yè)提交流程

YARN三種調(diào)度策略

YARN隊(duì)列配置

YARN的Node Label機(jī)制

MapReduce

MapReduce介紹

MapReduce基礎(chǔ)案例

MapReduce分片

MapReduce運(yùn)行流程及shuftle

MapReduce案例

MapReduce相關(guān)參數(shù)

Scala

Scala介紹

Scala基礎(chǔ)語(yǔ)法

數(shù)組和集合

泛型

隱式轉(zhuǎn)換

IO操作

Spark

Spark概述、整體架構(gòu)、Spark vs Mapreduce 、Spark vs Hive 、Spark Streaming vs Storm等

Spark 環(huán)境搭建：hive搭建、kafka搭建、安裝apark

Spark 核心編程：基本工作原理、RDD彈性數(shù)據(jù)集

開(kāi)發(fā)wordcount程序

Spark 創(chuàng)建RDD、各種算子操作(Transformation、Actions)、共享變量(廣播、累加)

復(fù)雜一些的Spark編程：排名、二次排序、TopN分析

Spark架構(gòu)分析：寬窄依賴、基于YARN的提交模式、SparkContext原理剖析、注冊(cè)機(jī)制原理、Executor原理剖析、Task原理剖析、shuffer優(yōu)化、BlockManager原理剖析、CacheManager原理剖析、Checkpoint原理剖析等

Spark Core調(diào)優(yōu)：內(nèi)存、判斷耗時(shí)、優(yōu)化數(shù)據(jù)結(jié)構(gòu)、RDD與checkpoint、序列化、JVM、提高并行度、廣播共享等

SparkSql

概述、Spark SQL與DataFrame 常用操作

RDD轉(zhuǎn)換DataFrame的兩種方式：反射方式、編程方式

通用的load和save操作

數(shù)據(jù)源：Parquet數(shù)據(jù)源、JSON數(shù)據(jù)源、Hive數(shù)據(jù)源、JDBC數(shù)據(jù)源

各種復(fù)雜案例

Spark Streaming

簡(jiǎn)介概述 與storm和spark對(duì)比、helloword

StreamingContext、DStream與Receiver

DStream基于數(shù)據(jù)源與HDFS的實(shí)時(shí)程序

DStream之Kafka數(shù)據(jù)源、Direct模式 、Transformation操作、與SparkSQL結(jié)合使用

Hive

Hive背景、介紹

Hive環(huán)境安裝：內(nèi)嵌模式、獨(dú)立模式

Hive 的DDL

Hive 的 DML

Hive常見(jiàn)內(nèi)置函數(shù)

Hive高級(jí)數(shù)據(jù)類型

Hive窗口函數(shù)

Hive自定義函數(shù)（UDF、UDAF、UDTF）

Hive 分區(qū)表、桶操作

Hive數(shù)據(jù)裝載與導(dǎo)出

Hive動(dòng)態(tài)分區(qū)、Hive高級(jí)查詢、Hive索引、Hive視圖

Hive之IO負(fù)載策略、HIVE sql優(yōu)化、壓縮、分布式緩存

數(shù)據(jù)采集

Sqoop介紹

Sqoop導(dǎo)入和導(dǎo)出命令

Sqoop增量和全量操作

Sqoop優(yōu)化

Flume介紹

Flume離線采集、實(shí)時(shí)采集、多路采集

Flume攔截器

Flume優(yōu)化

離線數(shù)倉(cāng)

某大型電商項(xiàng)目數(shù)據(jù)倉(cāng)庫(kù)介紹

數(shù)據(jù)倉(cāng)庫(kù)規(guī)范

數(shù)據(jù)粒度

數(shù)據(jù)倉(cāng)庫(kù)模型以及分層

建模介紹

維度建模（維度建模和范式建模）

事實(shí)、星座模型

數(shù)據(jù)需求分析介紹

數(shù)據(jù)應(yīng)用操作

數(shù)據(jù)抽取

數(shù)據(jù)清洗

數(shù)據(jù)轉(zhuǎn)化

數(shù)據(jù)加載

調(diào)度

Azkaban介紹

Azkaban系統(tǒng)結(jié)構(gòu)

Azkaban定時(shí)案例

Azkaban性能優(yōu)化

【師資簡(jiǎn)介】

大數(shù)據(jù)資深講師 張老師

8年工作經(jīng)驗(yàn)+教學(xué)經(jīng)驗(yàn)，畢業(yè)于北京航空航天大學(xué)，大數(shù)據(jù)培訓(xùn)講師，在工作場(chǎng)景當(dāng)中從開(kāi)發(fā)工程師到項(xiàng)目經(jīng)理以及架構(gòu)師等等，參與過(guò)多個(gè)大型項(xiàng)目背景，關(guān)系型數(shù)據(jù)庫(kù)以及大數(shù)據(jù)有深入的研究，關(guān)系型數(shù)據(jù)庫(kù)Oracle理論體系結(jié)構(gòu)均有非常深厚的功底以及大數(shù)據(jù)Hadoop和spark有深入的研究。

教課心得：

場(chǎng)景教學(xué)，學(xué)以致用，善于將復(fù)雜的技術(shù)簡(jiǎn)單化，能引導(dǎo)學(xué)生更快捷的學(xué)習(xí)方式

Oracle Dba資深講師 孫老師

教學(xué)：10年工作經(jīng)驗(yàn)+教學(xué)經(jīng)驗(yàn)，畢業(yè)于山東海洋大學(xué)，Oracle培訓(xùn)講師，擁有大型OLTP系統(tǒng)數(shù)據(jù)庫(kù)性能調(diào)優(yōu)、實(shí)施、咨詢經(jīng)驗(yàn)，數(shù)據(jù)庫(kù)崩潰災(zāi)難恢復(fù)經(jīng)驗(yàn)。擁有多個(gè)大型項(xiàng)目開(kāi)發(fā)、架構(gòu)設(shè)計(jì)、集群經(jīng)驗(yàn)，并針對(duì)很多項(xiàng)目進(jìn)行運(yùn)維。

參與多家互聯(lián)網(wǎng)一線大廠億級(jí)流量架構(gòu)設(shè)計(jì)：從架構(gòu)到底層全方位涉獵。

教課心得：

課堂實(shí)戰(zhàn)均是項(xiàng)目中的模擬場(chǎng)景，以幽默風(fēng)趣的方式表達(dá)出來(lái)。

【教學(xué)現(xiàn)場(chǎng)】

【學(xué)員心得】

經(jīng)過(guò)幾個(gè)月的學(xué)習(xí),我收獲了很多,也學(xué)到了很多,整個(gè)的學(xué)習(xí)體驗(yàn)總體來(lái)說(shuō)還是比較好的。并且在前幾周的比賽上,還僥幸地獲得了一等獎(jiǎng)。

經(jīng)過(guò)喬老師的悉心教導(dǎo)以及高老師每天提醒上課和關(guān)心我們,我在這學(xué)習(xí)的一個(gè)月很開(kāi)心,并且我對(duì) 大數(shù)據(jù) 的理解又高了一個(gè)層次 ,張老師講的這些東西還是比較簡(jiǎn)單的。張老師一直把我當(dāng)做“種子選手”,我自我覺(jué)得我不是很配,我只是比大家早學(xué)了一點(diǎn)東西而已,等大家的基礎(chǔ)上去之后,我的優(yōu)勢(shì)也就沒(méi)了。所以呢,以后我要更加努力的學(xué)習(xí)、打磨技術(shù),把自己的優(yōu)勢(shì)保持住,多跟老師以及班里的技術(shù)大佬們請(qǐng)教。由于這個(gè)月講的東西都比較基礎(chǔ),所以挑戰(zhàn)性都比較小,調(diào)動(dòng)不起斗志,希望以后的課程能夠激發(fā)我的斗志,為每天枯燥的學(xué)校課程里增添一點(diǎn)“樂(lè)趣”。

【機(jī)構(gòu)環(huán)境】

【機(jī)構(gòu)簡(jiǎn)介】

“黑之貓”是一種文化符號(hào)，代表著神秘和智慧，在很多文化中，黑貓也代表著好運(yùn)、幸運(yùn)以及智慧等，象征著公司追求高品質(zhì)、高效率和高智能的發(fā)展理念以及更廣闊的職業(yè)發(fā)展前景。未來(lái)，存在無(wú)限可能。

濟(jì)南黑之貓智能科技有限公司是專注于IT技術(shù)培訓(xùn)公司，公司目前在北京、濟(jì)南等地均設(shè)有校區(qū)，致力于為客戶提供高品質(zhì)、高效率、更全面的培訓(xùn)數(shù)據(jù)庫(kù)開(kāi)發(fā)/ETL開(kāi)發(fā)/大數(shù)據(jù)開(kāi)發(fā)/Java開(kāi)發(fā)的培訓(xùn)課程。我們以技術(shù)為核心，以客戶為中心，不斷追求卓越的業(yè)務(wù)品質(zhì)和客戶體驗(yàn)，以幫助學(xué)習(xí)者更好地了解較新的技術(shù)趨勢(shì)和市場(chǎng)需求。

我們擁有一支高素質(zhì)、專業(yè)的團(tuán)隊(duì)，他們具備豐富的行業(yè)經(jīng)驗(yàn)和專業(yè)技能以及各大高校畢業(yè)，確保了我們能夠?yàn)榭蛻籼峁┹^優(yōu)質(zhì)的服務(wù)。

企業(yè)愿景和使命：

黑之貓將堅(jiān)守以下價(jià)值觀：

-創(chuàng)新：不斷創(chuàng)新，追求卓越。

-合作：互相信任、互相尊重，實(shí)現(xiàn)雙贏。

-品質(zhì)：以客戶為中心，堅(jiān)持高品質(zhì)。

-服務(wù)：客戶至上，追求卓越的客戶體驗(yàn)。

-團(tuán)隊(duì)：相信、支持、尊重和激勵(lì)團(tuán)隊(duì)成員。