導讀:現在大數據已經成為這個時代非常熱門的話題。大數據運營商以自身用戶數據為基礎,利用云計算系統(tǒng)和數據模型解析,獲取準確的用戶數據。結合運營商大數據強大的用戶分析能力和數據漏斗技術,對用戶數據進行綜合分析和數據采集技術。只要是互聯(lián)網相關的行業(yè),都會用到大數據。好學校后臺有許多學員私聊小編表示-濟南哪里有大數據開發(fā)培訓課程?怎么樣?小編與學員溝通過后,給學員推薦濟南黑之貓it培訓基地。接下來讓我們一起來看看課程詳情吧~
【課程名稱】
大數據開發(fā)工程師
【課程大綱】
LINUX
基本命令
常見配置文件
文件操作命令和權限
安裝軟件
Shell腳本
AWK和sed腳本
內核加載流程
Docker介紹和操作
服務器調優(yōu)項
分布式存儲
Hadoop概述
HBase背景、簡介以及系統(tǒng)架構和原理
HBase邏輯模型:行鍵、列族、timeStamp,HBase物理模型。
HBase環(huán)境搭建:偽分布式安裝、完全分布式安裝
HBase Shell 、HBase客戶端API 、HBase表結構設計
HBase之Mapreduce、HDFS數據導入HBase
HBase二級索引、WAL機制、HBase集群遷移方案、導入方案、協(xié)處理器
HBase性能調優(yōu):JVM優(yōu)化、查詢優(yōu)化、寫優(yōu)化、配置參數優(yōu)化
Zookeeper
Zookeeper概述
Zookeeper系統(tǒng)架構
Zookeeper數據模型
Zookeeper寫數據流程
Zookeeper安裝部署
Zookeeper中shell操作
Zookeeper選舉機制
Zookeeper監(jiān)聽操作
Zookeeper 分布式鎖實踐
Zookeeper應用場景
API操作
YARN
YARN介紹
YARN系統(tǒng)架構
YARN作業(yè)提交流程
YARN三種調度策略
YARN隊列配置
YARN的Node Label機制
MapReduce
MapReduce介紹
MapReduce基礎案例
MapReduce分片
MapReduce運行流程及shuftle
MapReduce案例
MapReduce相關參數
Scala
Scala介紹
Scala基礎語法
數組和集合
泛型
隱式轉換
IO操作
Spark
Spark概述、整體架構、Spark vs Mapreduce 、Spark vs Hive 、Spark Streaming vs Storm等
Spark 環(huán)境搭建:hive搭建、kafka搭建、安裝apark
Spark 核心編程:基本工作原理、RDD彈性數據集
開發(fā)wordcount程序
Spark 創(chuàng)建RDD、各種算子操作(Transformation、Actions)、共享變量(廣播、累加)
復雜一些的Spark編程:排名、二次排序、TopN分析
Spark架構分析:寬窄依賴、基于YARN的提交模式、SparkContext原理剖析、注冊機制原理、Executor原理剖析、Task原理剖析、shuffer優(yōu)化、BlockManager原理剖析、CacheManager原理剖析、Checkpoint原理剖析等
Spark Core調優(yōu):內存、判斷耗時、優(yōu)化數據結構、RDD與checkpoint、序列化、JVM、提高并行度、廣播共享等
SparkSql
概述、Spark SQL與DataFrame 常用操作
RDD轉換DataFrame的兩種方式:反射方式、編程方式
通用的load和save操作
數據源:Parquet數據源、JSON數據源、Hive數據源、JDBC數據源
各種復雜案例
Spark Streaming
簡介概述 與storm和spark對比、helloword
StreamingContext、DStream與Receiver
DStream基于數據源與HDFS的實時程序
DStream之Kafka數據源、Direct模式 、Transformation操作、與SparkSQL結合使用
Hive
Hive背景、介紹
Hive環(huán)境安裝:內嵌模式、獨立模式
Hive 的DDL
Hive 的 DML
Hive常見內置函數
Hive高級數據類型
Hive窗口函數
Hive自定義函數(UDF、UDAF、UDTF)
Hive 分區(qū)表、桶操作
Hive數據裝載與導出
Hive動態(tài)分區(qū)、Hive高級查詢、Hive索引、Hive視圖
Hive之IO負載策略、HIVE sql優(yōu)化、壓縮、分布式緩存
數據采集
Sqoop介紹
Sqoop導入和導出命令
Sqoop增量和全量操作
Sqoop優(yōu)化
Flume介紹
Flume離線采集、實時采集、多路采集
Flume攔截器
Flume優(yōu)化
離線數倉
某大型電商項目數據倉庫介紹
數據倉庫規(guī)范
數據粒度
數據倉庫模型以及分層
建模介紹
維度建模(維度建模和范式建模)
事實、星座模型
數據需求分析介紹
數據應用操作
數據抽取
數據清洗
數據轉化
數據加載
調度
Azkaban介紹
Azkaban系統(tǒng)結構
Azkaban定時案例
Azkaban性能優(yōu)化
【師資簡介】
大數據資深講師 張老師
8年工作經驗+教學經驗,畢業(yè)于北京航空航天大學,大數據培訓講師,在工作場景當中從開發(fā)工程師到項目經理以及架構師等等,參與過多個大型項目背景,關系型數據庫以及大數據有深入的研究,關系型數據庫Oracle理論體系結構均有非常深厚的功底以及大數據Hadoop和spark有深入的研究。
教課心得:
場景教學,學以致用,善于將復雜的技術簡單化,能引導學生更快捷的學習方式
Java大數據講師王老師
教學:12年工作經驗+教學經驗,畢業(yè)于山東理工大學,曾在互聯(lián)網大廠擔任項目經理,從入行開始研究的是JavaEE的工作流,擅長pringMVC、Spring、MYbatis等等框架,對前端vue、lonic更是深入研究。Hadoop大數據相關組件,如HBASE,hive,kafka,flink等等更是精通。
教課心得(特色):
條理清晰,環(huán)環(huán)相扣,邏輯鬼才,細節(jié)嚴謹,能感染學生,知識廣博
【教學現場】
【行業(yè)優(yōu)勢】
1市場需求量大。
隨著信息產業(yè)的快速發(fā)展,行業(yè)對人才的需求也在逐年擴大。據國之內權威統(tǒng)計,未來五年,我國對信息技術人才的需求總量將達到1500—2000萬。以大數據分析為例,我國對大數據人才的需求正以每年20%的速度增長,每年新增人才近100萬。
2就業(yè)面廣。
一般來說,小規(guī)模的企業(yè)都有自己的IT部門。如果一個企業(yè)有比較大的信息量,數據庫管理、企業(yè)信息管理等。都是必要的。同學們除了去新興行業(yè),還可以去這些比較有規(guī)模的行業(yè)。企業(yè),作為信息化部門的重要崗位。
3高薪工作。
在市場經濟高速發(fā)展的今天,大數據產業(yè)以其強勁的發(fā)展勢頭成為較具發(fā)展前景的高薪行業(yè)之一。大數據分析、大叔開發(fā)等大數據人才必將成為市場上的緊缺人才。工資也漲了。據相關數據顯示,大數據行業(yè)是目前平均收入較高的行業(yè)。公司員工平均年薪超過100,000元,經驗豐富的大數據工程師平均年薪普遍超過120,000元。
4升降速度快。
大數據人才需要一定的技術技能。但高校培養(yǎng)的人才與企業(yè)所需人才嚴重脫節(jié),導致大數據人才短缺。因此,一個技術精湛的大數據技術工程師尤其受到用人單位的重視。
5.漫長的職業(yè)生涯。
很多人都說大數據工程師的職業(yè)生涯短暫,但這其實是一個誤區(qū)。大數據工程師是全方位的人才,不受行業(yè)發(fā)展的限制,也不受年齡和體力的影響。醫(yī)生和律師一樣,會變老,更有經驗,也更有價值。
6較強的職場適應能力。
大數據人才不僅是核心人才,更是一般人才。他們不怕任何地方,所以他們可以去任何一個快速增長的行業(yè),這在更大程度之上增加了人才的價值,降低了職業(yè)風險。
7優(yōu)良的工作環(huán)境。
伴隨著新一輪全球產業(yè)結構調整和轉移的浪潮,我國信息產業(yè)發(fā)展迅速,已成為繼美國、日本后的第三大電子信息產業(yè)大國。北京、上海、廣州、深圳和沿岸發(fā)達城市已成為我國信息產業(yè)的人口密集區(qū)。一般來說,從事信息產業(yè)的企業(yè)大多集中在寫字樓或、省級軟件科技園區(qū)。工作環(huán)境優(yōu)越,生活設施齊全,同行業(yè)人才云集,有利于建立廣泛的人脈網絡,為自己的職業(yè)生涯打下堅實的基礎。
【機構簡介】
“黑之貓”是一種文化符號,代表著神秘和智慧,在很多文化中,黑貓也代表著好運、幸運以及智慧等,象征著公司追求高品質、高效率和高智能的發(fā)展理念以及更廣闊的職業(yè)發(fā)展前景。未來,存在無限可能。
濟南黑之貓智能科技有限公司是專注于IT技術培訓公司,公司目前在北京、濟南等地均設有校區(qū),致力于為客戶提供高品質、高效率、更全面的培訓數據庫開發(fā)/ETL開發(fā)/大數據開發(fā)/Java開發(fā)的培訓課程。我們以技術為核心,以客戶為中心,不斷追求卓越的業(yè)務品質和客戶體驗,以幫助學習者更好地了解較新的技術趨勢和市場需求。
我們擁有一支高素質、專業(yè)的團隊,他們具備豐富的行業(yè)經驗和專業(yè)技能以及各大高校畢業(yè),確保了我們能夠為客戶提供較優(yōu)質的服務。
企業(yè)愿景和使命:
黑之貓將堅守以下價值觀:
-創(chuàng)新:不斷創(chuàng)新,追求卓越。
-合作:互相信任、互相尊重,實現雙贏。
-品質:以客戶為中心,堅持高品質。
-服務:客戶至上,追求卓越的客戶體驗。
-團隊:相信、支持、尊重和激勵團隊成員。
【機構環(huán)境】