新手入门大数据 Hadoop基础与电商行为日志分析

冰点也疯狂

第1章 大数据概述
! i. y' Q, n* }% r; ]本章将从故事说起，让大家明白大数据是与我们的生活息息相关的，并不是遥不可及的，还会介绍大数据的特性，以及大数据对我们带来的技术变革，大数据处理过程中涉及到的技术以及大数据典型应用。
5 a6 {) P0 h$ L2 ~6 J2 @) X9 ~ 1-1 课程导学
9 Q' t0 M/ V: A$ B4 K 1-2 学前必读（助你平稳踩坑，畅学无忧，课程学习与解决问题指南）
3 f* T/ z' ^! Q7 c: O" Q+ C1 e5 E2 n: u 1-3 课程目录
, x0 k, o% p8 m$ L3 j# f. i; w 1-4 从一个案例说起
1-5 什么是大数据以及大数据的4V特征 试看
& Z" f3 E2 }1 j 1-6 大数据带来的技术变革
: ?4 L- m" I3 e" ^$ O" d5 b! R 1-7 大数据现存的模式
1-8 大数据的技术概念
2 Y5 o' L7 g& I6 o. @( l 1-9 大数据带来的挑战
1-10 如何对大数据进行存储和分析
1-11 大数据典型应用

第2章 初识Hadoop
6 T/ p. E9 i7 c本章节将带领大家认识Hadoop以及Hadoop生态系统、Hadoop的发展史、Hadoop的优势、Hadoop的三个核心组件、Hadoop发行版的选择，为后续深入讲解Hadoop打下坚实的基础。
2-1 课程目录
2-2 Hadoop概述
3 H- `2 m+ x, u+ I 2-3 Hadoop核心组件之HDFS概述
2-4 Hadoop核心组件之MapReduce
2-5 Hadoop核心组件之YARN
2-6 Hadoop优势
2-7 Hadoop发展史
& Z5 @  y1 E0 A 2-8 Hadoop生态圈
2-9 Hadoop发行版选型
2-10 OOTB环境的使用

, X0 Y5 w/ N% _2 c7 l6 _第3章 分布式文件系统HDFS
本章将从Hadoop的设计目标、架构及文件系统命令空间出发，快速搭建单节点伪分布式HDFS的实验环境，通过讲解使用hdfs shell以及Java API的方式操作HDFS文件系统，详细分析HDFS文件的读写流程，并通过HDFS API来实现词频统计案例，使得大家对Hadoop分布式文件系统HDFS有深刻的认识以及实战。 ...
3-1 HDFS概述
3-2 HDFS设计目标
0 x6 f4 K. c2 u7 T" z* w( I 3-3 HDFS架构详解
1 k3 w6 X- q) R- |, X# F 3-4 文件系统NameSpace详解
4 x  I0 P; R* A/ n8 o 3-5 HDFS副本机制
- j! Q& h1 R6 n, \ 3-6 本课程使用的Linux环境介绍
3-7 Hadoop部署前置介绍
3-8 JDK1.8部署详解
$ z8 m& ~( j% P) d2 ] 3-9 ssh无密码登陆部署详解
3-10 Hadoop安装目录详解及hadoop-env配置
: F# L( c( T$ e" h0 K0 j$ N0 h' L 3-11 HDFS格式化以及启动详解
0 {( ^' ]: q7 [* P5 K 3-12 HDFS常见文件之防火墙干扰
* P* }- r3 K& |7 \. Y  D 3-13 Hadoop停止集群以及如何单个进程启动
3 j, E' P5 d2 a  j 3-14 Hadoop命令行操作详解
8 ?6 P" X4 v. w/ K0 h5 x% E 3-15 深度剖析Hadoop文件的存储机制
: B. A1 [! V) u* C, q* R9 k 3-16 HDFS API编程之开发环境搭建
  q) C, L) f( t  B 3-17 HDFS API编程之第一个应用程序的开发
4 T6 A3 C5 v0 B& ?" Y3 E: j 3-18 HDFS API编程之jUnit封装
3-19 HDFS API编程之查看HDFS文件内容
& ~) ]1 M& Z9 U  k& I  w* o9 e" \8 ]+ @4 m 3-20 HDFS API编程之创建文件并写入内容
3-21 HDFS API编程之副本系数深度剖析
0 D* B- L" h+ ?% K: N 3-22 HDFS API编程之重命名
9 L$ f$ K8 K5 K3 c9 U$ I 3-23 HDFS API编程之copyFromLocalFile
& k( L5 ^# d/ o; J1 Q& M 3-24 HDFS API编程之带进度的上传大文件
! H. q2 }6 K9 K+ h* x" K; r 3-25 HDFS API编程之下载文件
- {$ y  E4 I0 ^1 A* ]6 x 3-26 HDFS API编程之列出文件夹下的所有内容
3-27 HDFS API编程之递归列出文件夹下的所有文件
3-28 HDFS API编程之查看文件块信息
3-29 HDFS API编程之删除文件
3-30 HDFS项目实战之需求分析
3-31 HDFS项目实战之代码框架编写
% N% Y; a8 C; d" y 3-32 HDFS项目实战之自定义上下文
3-33 HDFS项目实战之自定义处理类实现
3-34 HDFS项目实战之功能实现
3-35 HDFS项目实战之使用自定义配置文件重构代码
8 m: f/ D4 \8 R2 J7 h3 O% C" q 3-36 HDFS项目实战之使用反射创建自定义Mapper对象
3-37 HDFS项目实战之可插拔的业务逻辑处理
3-38 HDFS Replica Placement Policy
5 E. h: ?. h2 R3 L: f2 j! T) ]8 _ 3-39 HDFS写数据流程图解
) n) |3 E6 z2 F5 d& Y 3-40 HDFS读数据流程图解
5 h" b6 @( l. O  H8 n" v$ B 3-41 HDFS Checkpoint详解
3-42 HDFS SaveMode

第4章 分布式计算框架MapReduce
本章将从架构、编程模型等角度带大家认识Hadoop的分布式计算框架MapReduce，掌握MapReduce各个核心组件编程，并通过两个案例让大家深入掌握MapReduce编程的方方面面。
( w2 a2 e7 f  M# u0 C, \ 4-1 课程目录
4-2 MapReduce概述
9 ^+ _# }5 w* B' a& ~; z 4-3 MapReduce编程模型详解
. v# R. ?2 H0 M% S8 W9 b 4-4 MapReduce编程模型核心概念详解
4-5 词频统计之自定义Mapper实现
* C! M- v3 ]  M1 m, ^  Q9 M$ ~ 4-6 词频统计之自定义Reducer实现
) r4 t; N8 }4 U/ H1 B# q; D9 X 4-7 词频统计之自定义Driver类实现
' N  ?8 z& Z. a" t: T 4-8 词频统计之本地方式运行
& d7 c8 J) u9 w' W+ l1 p3 Q' B 4-9 词频统计之通过Debug方式进一步了解偏移量以及重构代码
4-10 词频统计升级之Combiner操作 试看
- a* `- n, m/ y) S( A6 `3 n" T 4-11 流量统计实战之需求
4-12 流量统计实战之自定义复杂数据类型
4-13 流量统计实战之自定义Mapper类
4-14 流量统计实战之自定义Reducer实现
4-15 流量统计实战之Driver开发
4-16 流量统计实战之代码重构及NullWritable的使用
5 w+ P! z0 N7 a8 [, F4 v' [' ?* u 4-17 流量统计实战升级之自定义Partitioner
' i& c* F$ j  m3 E4 x# ]
+ d5 u  _1 H! a3 Y1 ?第5章 资源调度框架YARN
& M# ]; c6 Y) B8 T5 l. y' J本章将从YARN的产生背景、YARN的架构及执行流程的角度带大家认知Hadoop的资源调度框架YARN，快速搭建单节点伪分布式YARN的实验环境并掌握如何提交MapReduce作业提交到YARN上运行。
+ B0 ^" ]3 a9 c" W& ~0 D' H; z2 ?+ G 5-1 课程目录
5 }9 a* n" H" _+ A! R9 @ 5-2 YARN产生背景
5-3 YARN概述
5-4 YARN架构详解
5-5 YARN执行流程
5-6 YARN环境部署
  n% \( C* r9 u2 Q 5-7 提交example案例到YARN上运行
9 Y* e- F0 Z' Z# o 5-8 提交流量统计案例到YARN上运行
8 z5 u% U2 ]& `" A; E1 o- r3 p
第6章 电商项目实战Hadoop实现
本章将通过电商用户行为日志分析的项目实战，来将前面几个章节讲解的知识点串联起来，综合使用Hadoop的技术进行离线统计分析。
6-1 课程目录
2 r+ J7 `' O9 q 6-2 用户行为日志概述
2 J: b8 @: d3 s" z& P! K 6-3 为什么要记录用户行为日志
2 t7 N* w# Y) ]7 _( n2 W0 a0 d1 M9 N 6-4 日志内容介绍
6-5 用户行为日志分析的意义所在
6-6 电商常用术语
9 p# j9 S. e6 L7 C: ? 6-7 项目需求描述
* g! ^7 h- y$ G: N& m3 n 6-8 数据处理流程及技术架构
6-9 浏览量统计功能实现
6-10 省份浏览量统计之IP库解析
! y9 M. I7 G  g2 H! K 6-11 省份浏览量统计之日志解析
6-12 省份浏览量统计之功能实现
6-13 页面浏览量统计之页面编号获取
0 g. S# T* X7 D! G, k0 i 6-14 页面浏览量统计之功能实现
9 [$ X7 G5 E+ G0 Z 6-15 数据处理过程中ETL的重要性
0 l; x! F, `6 }2 i  k 6-16 原始日志ETL操作
# {* @) u$ o2 u: H* q% I 6-17 浏览量统计功能升级
6-18 省份浏览量统计功能升级
6-19 页面浏览量统计功能升级思路
8 v  x7 q9 w3 v1 n1 E 6-20 打包到服务器上运行
  D9 h; _4 ^' ?" f 6-21 项目扩展

第7章 数据仓库Hive
. V  {( G/ a; g$ s本章将从Hive的产生背景、体系架构、Hive部署、DDL以及DML来掌握Hive使用的方方面面。
; V6 [) K0 |2 [: r' l5 b8 }$ ` 7-1 课程目录
7-2 Hive产生背景
* u, e9 a% g! E& s0 D0 z% A2 T- c) k 7-3 Hive是什么
  n) z0 _( Q1 ]$ k$ W( c 7-4 为什么要使用Hive
7-5 Hive在Hadoop生态圈中的位置
+ u. L/ C# ]+ u8 w' n0 w 7-6 Hive体系架构
7-7 Hive部署架构
7-8 Hive与RDBMS的区别
7-9 Hive部署
7-10 Hive快速入门
7-11 Hive DDL之数据库操作
7-12 Hive DDL之表操作
7-13 Hive DML之加载和导出数据
  v( }2 H, o! O5 \6 H 7-14 Hive QL基本统计
7-15 Hive QL之聚合函数
7-16 Hive QL之分组函数
* f) G. j) F8 H& y  j 7-17 Hive QL之join的使用
0 B( L. d/ \; e$ V! M  d 7-18 Hive QL执行计划

第8章 电商项目实战Hive实现
本章将使用Hive对电商用户行为日志分析进行重新实现，让大家对MapReduce编程和Hive实现的方式进行对比，体会Hive在生产上使用的便捷性。
8-1 课程目录
( A: N' i9 s8 Z4 i) Q# W! O/ O 8-2 外部表在Hive中的使用
0 ]7 M; U* S0 t" v, B, c" C 8-3 track_info分区表的创建
5 S) k' j1 J; ?6 t8 _9 E 8-4 将ETL的数据加载到Hive表
6 q5 u: w( h5 k1 G 8-5 使用Hive完成统计分析功能
# z; w, C. r  |  ^; H) N' y 8-6 Hive实现项目的方便性体现

( h1 m/ C; x: w第9章 Hadoop分布式集群搭建
6 q* x2 F7 q8 Q9 X本章将带领大家搭建一个三个节点的分布式Hadoop集群环境，让大家对于Hadoop集群的安装有更深入的认识，并将项目实战案例运行在分布式集群环境中。
9-1 课程目录
6 y& g9 H3 Q4 ^$ d+ P1 @ 9-2 Hadoop集群规划
9-3 前置条件安装
. Z5 Z4 T& c- B 9-4 JDK安装
' E: b' \  [; L) J# F' T. l 9-5 Hadoop集群部署
9-6 提交作业到Hadoop集群上运行
. u+ s8 s$ d4 x2 n" [7 |! L  H 9-7 课程总结
4 Q* _3 \: ^- H& T; S" O$ m3 V7 _
& ^) v0 U1 `+ B; G# q