?濟南大數(shù)據(jù)開發(fā)工程師培訓(xùn)班

【課程名稱】

大數(shù)據(jù)開發(fā)工程師

【課程大綱】

LINUX

基本命令

常見配置文件

文件操作命令和權(quán)限

安裝軟件

Shell腳本

AWK和sed腳本

內(nèi)核加載流程

Docker介紹和操作

服務(wù)器調(diào)優(yōu)項

分布式存儲

Hadoop概述

HBase背景、簡介以及系統(tǒng)架構(gòu)和原理

HBase邏輯模型：行鍵、列族、timeStamp，HBase物理模型。

HBase環(huán)境搭建：偽分布式安裝、完全分布式安裝

HBase Shell 、HBase客戶端API 、HBase表結(jié)構(gòu)設(shè)計

HBase之Mapreduce、HDFS數(shù)據(jù)導(dǎo)入HBase

HBase二級索引、WAL機制、HBase集群遷移方案、導(dǎo)入方案、協(xié)處理器

HBase性能調(diào)優(yōu)：JVM優(yōu)化、查詢優(yōu)化、寫優(yōu)化、配置參數(shù)優(yōu)化

Zookeeper

Zookeeper概述

Zookeeper系統(tǒng)架構(gòu)

Zookeeper數(shù)據(jù)模型

Zookeeper寫數(shù)據(jù)流程

Zookeeper安裝部署

Zookeeper中shell操作

Zookeeper選舉機制

Zookeeper監(jiān)聽操作

Zookeeper 分布式鎖實踐

Zookeeper應(yīng)用場景

API操作

YARN

YARN介紹

YARN系統(tǒng)架構(gòu)

YARN作業(yè)提交流程

YARN三種調(diào)度策略

YARN隊列配置

YARN的Node Label機制

MapReduce

MapReduce介紹

MapReduce基礎(chǔ)案例

MapReduce分片

MapReduce運行流程及shuftle

MapReduce案例

MapReduce相關(guān)參數(shù)

Scala

Scala介紹

Scala基礎(chǔ)語法

數(shù)組和集合

泛型

隱式轉(zhuǎn)換

IO操作

Spark

Spark概述、整體架構(gòu)、Spark vs Mapreduce 、Spark vs Hive 、Spark Streaming vs Storm等

Spark 環(huán)境搭建：hive搭建、kafka搭建、安裝apark

Spark 核心編程：基本工作原理、RDD彈性數(shù)據(jù)集

開發(fā)wordcount程序

Spark 創(chuàng)建RDD、各種算子操作(Transformation、Actions)、共享變量(廣播、累加)

復(fù)雜一些的Spark編程：排名、二次排序、TopN分析

Spark架構(gòu)分析：寬窄依賴、基于YARN的提交模式、SparkContext原理剖析、注冊機制原理、Executor原理剖析、Task原理剖析、shuffer優(yōu)化、BlockManager原理剖析、CacheManager原理剖析、Checkpoint原理剖析等

Spark Core調(diào)優(yōu)：內(nèi)存、判斷耗時、優(yōu)化數(shù)據(jù)結(jié)構(gòu)、RDD與checkpoint、序列化、JVM、提高并行度、廣播共享等

SparkSql

概述、Spark SQL與DataFrame 常用操作

RDD轉(zhuǎn)換DataFrame的兩種方式：反射方式、編程方式

通用的load和save操作

數(shù)據(jù)源：Parquet數(shù)據(jù)源、JSON數(shù)據(jù)源、Hive數(shù)據(jù)源、JDBC數(shù)據(jù)源

各種復(fù)雜案例

Spark Streaming

簡介概述 與storm和spark對比、helloword

StreamingContext、DStream與Receiver

DStream基于數(shù)據(jù)源與HDFS的實時程序

DStream之Kafka數(shù)據(jù)源、Direct模式 、Transformation操作、與SparkSQL結(jié)合使用

Hive

Hive背景、介紹

Hive環(huán)境安裝：內(nèi)嵌模式、獨立模式

Hive 的DDL

Hive 的 DML

Hive常見內(nèi)置函數(shù)

Hive高級數(shù)據(jù)類型

Hive窗口函數(shù)

Hive自定義函數(shù)（UDF、UDAF、UDTF）

Hive 分區(qū)表、桶操作

Hive數(shù)據(jù)裝載與導(dǎo)出

Hive動態(tài)分區(qū)、Hive高級查詢、Hive索引、Hive視圖

Hive之IO負載策略、HIVE sql優(yōu)化、壓縮、分布式緩存

數(shù)據(jù)采集

Sqoop介紹

Sqoop導(dǎo)入和導(dǎo)出命令

Sqoop增量和全量操作

Sqoop優(yōu)化

Flume介紹

Flume離線采集、實時采集、多路采集

Flume攔截器

Flume優(yōu)化

離線數(shù)倉

某大型電商項目數(shù)據(jù)倉庫介紹

數(shù)據(jù)倉庫規(guī)范

數(shù)據(jù)粒度

數(shù)據(jù)倉庫模型以及分層

建模介紹

維度建模（維度建模和范式建模）

事實、星座模型

數(shù)據(jù)需求分析介紹

數(shù)據(jù)應(yīng)用操作

數(shù)據(jù)抽取

數(shù)據(jù)清洗

數(shù)據(jù)轉(zhuǎn)化

數(shù)據(jù)加載

調(diào)度

Azkaban介紹

Azkaban系統(tǒng)結(jié)構(gòu)

Azkaban定時案例

Azkaban性能優(yōu)化

【師資簡介】

大數(shù)據(jù)資深講師 張老師

8年工作經(jīng)驗+教學(xué)經(jīng)驗，畢業(yè)于北京航空航天大學(xué)，大數(shù)據(jù)培訓(xùn)講師，在工作場景當中從開發(fā)工程師到項目經(jīng)理以及架構(gòu)師等等，參與過多個大型項目背景，關(guān)系型數(shù)據(jù)庫以及大數(shù)據(jù)有深入的研究，關(guān)系型數(shù)據(jù)庫Oracle理論體系結(jié)構(gòu)均有非常深厚的功底以及大數(shù)據(jù)Hadoop和spark有深入的研究。

教課心得：

場景教學(xué)，學(xué)以致用，善于將復(fù)雜的技術(shù)簡單化，能引導(dǎo)學(xué)生更快捷的學(xué)習(xí)方式

Oracle Dba資深講師 孫老師

教學(xué)：10年工作經(jīng)驗+教學(xué)經(jīng)驗，畢業(yè)于山東海洋大學(xué)，Oracle培訓(xùn)講師，擁有大型OLTP系統(tǒng)數(shù)據(jù)庫性能調(diào)優(yōu)、實施、咨詢經(jīng)驗，數(shù)據(jù)庫崩潰災(zāi)難恢復(fù)經(jīng)驗。擁有多個大型項目開發(fā)、架構(gòu)設(shè)計、集群經(jīng)驗，并針對很多項目進行運維。

參與多家互聯(lián)網(wǎng)一線大廠億級流量架構(gòu)設(shè)計：從架構(gòu)到底層全方位涉獵。

教課心得：

課堂實戰(zhàn)均是項目中的模擬場景，以幽默風(fēng)趣的方式表達出來。

【教學(xué)現(xiàn)場】

【學(xué)員心得】

經(jīng)過幾個月的學(xué)習(xí),我收獲了很多,也學(xué)到了很多,整個的學(xué)習(xí)體驗總體來說還是比較好的。并且在前幾周的比賽上,還僥幸地獲得了一等獎。

經(jīng)過喬老師的悉心教導(dǎo)以及高老師每天提醒上課和關(guān)心我們,我在這學(xué)習(xí)的一個月很開心,并且我對 大數(shù)據(jù) 的理解又高了一個層次 ,張老師講的這些東西還是比較簡單的。張老師一直把我當做“種子選手”,我自我覺得我不是很配,我只是比大家早學(xué)了一點東西而已,等大家的基礎(chǔ)上去之后,我的優(yōu)勢也就沒了。所以呢,以后我要更加努力的學(xué)習(xí)、打磨技術(shù),把自己的優(yōu)勢保持住,多跟老師以及班里的技術(shù)大佬們請教。由于這個月講的東西都比較基礎(chǔ),所以挑戰(zhàn)性都比較小,調(diào)動不起斗志,希望以后的課程能夠激發(fā)我的斗志,為每天枯燥的學(xué)校課程里增添一點“樂趣”。

【機構(gòu)環(huán)境】

【機構(gòu)簡介】

“黑之貓”是一種文化符號，代表著神秘和智慧，在很多文化中，黑貓也代表著好運、幸運以及智慧等，象征著公司追求高品質(zhì)、高效率和高智能的發(fā)展理念以及更廣闊的職業(yè)發(fā)展前景。未來，存在無限可能。

濟南黑之貓智能科技有限公司是專注于IT技術(shù)培訓(xùn)公司，公司目前在北京、濟南等地均設(shè)有校區(qū)，致力于為客戶提供高品質(zhì)、高效率、更全面的培訓(xùn)數(shù)據(jù)庫開發(fā)/ETL開發(fā)/大數(shù)據(jù)開發(fā)/Java開發(fā)的培訓(xùn)課程。我們以技術(shù)為核心，以客戶為中心，不斷追求卓越的業(yè)務(wù)品質(zhì)和客戶體驗，以幫助學(xué)習(xí)者更好地了解較新的技術(shù)趨勢和市場需求。

我們擁有一支高素質(zhì)、專業(yè)的團隊，他們具備豐富的行業(yè)經(jīng)驗和專業(yè)技能以及各大高校畢業(yè)，確保了我們能夠為客戶提供較優(yōu)質(zhì)的服務(wù)。

企業(yè)愿景和使命：

黑之貓將堅守以下價值觀：

-創(chuàng)新：不斷創(chuàng)新，追求卓越。

-合作：互相信任、互相尊重，實現(xiàn)雙贏。

-品質(zhì)：以客戶為中心，堅持高品質(zhì)。

-服務(wù)：客戶至上，追求卓越的客戶體驗。

-團隊：相信、支持、尊重和激勵團隊成員。