|
|
课程介绍:6 E. i2 ~& s1 k8 M1 z. k0 y/ E
这是一门培养专业爬虫工程师的课程。本课程以大数据业务需求为导向,旨在掌握分布式爬虫的原理、理解互联网技术和各类数据分析挖掘的应用技巧。 5 T4 Q8 Z0 g9 G8 _, A+ e
1.围绕微博的抓取、存储、提取和文本分析来展开
1 n. G" Y1 m& C# ~7 a0 k/ o/ v0 }! e: v* F2.增强了计算机架构与分布式系统的设计,例如负载均衡和任务队列的大篇幅介绍3 Y: r# P& Z# W1 |8 a2 G s
3.增加了对于数据库性能及优化的关键方法和原理的介绍,例如深翻页、查询优化、索引优化,Redis 队列原理及优化等5 O# r+ C5 U8 J2 R& Y- }2 ^
4.在第一期使用简单Socket实现消息队列的基础上,增加了对成熟分布式架构(ZooKeeper)、消息队列(RabbitMQ)等的介绍,便于学员根据系统复杂度的提高而升级
$ ?# w7 d3 z, L2 I* d$ ^, U$ i6 e w! x: b$ Q* w5 ]! M
课程目录:
: V% y4 {4 M0 T- e" }0 L00.讲义与源码& v( h. t, G; E" s" X8 a. {: O$ ?$ o
01.静态网页爬虫:爬虫的基础技术
& r4 [5 ]/ w, g# J02.登录及动态网页的抓取
2 N l& `1 L2 C- d03.微博的抓取
( d2 I+ m1 u$ I* j& V04.多线程与多进程的爬虫. |/ D0 J0 p7 l. Y5 l" |2 S
05.微博数据的存储:分布式数据库及应用" k$ ^& O, `5 q% f
06.多机并行的微博抓取:分布式系统设计0 T, V+ o" k$ }+ B8 W
07.应对反爬虫的策略
9 `8 O G; [. p& p08.分布式系统的高可用与高并发处理( x6 X4 O$ H3 b- C% Y9 ]6 A) k
09.日志系统、以及基于Page Rank的顺序调整
* u# ]( _3 S, X3 N10.日志、守护线程以及验证码处理
( k$ X6 V' _9 k4 u4 _3 s" O11.分布式数据库架构分析、优化及要点
( j; l3 R6 u; ^6 X7 D. c% K: o12.自动摘要及正文抽取6 m0 T* d" p: F- T$ {4 K
13.网页分类与针对文本的机器学习应用
3 |! X" ?2 z) q, i14.信息检索_搜索引擎原理及应用3 I7 ^0 g" ] @# H6 W
15.Scrapy录播视频
* t" E- W2 P v4 C7 F8 W16.Scrapy进阶录播视频2 \# p& ^# s7 x) V2 J6 L& f* z
& Y: c" n/ O' F# S! B |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|