【爬虫成长之路】(一)爬虫成长之路系列文章阅读指导

本系列文章共十篇:

【爬虫成长之路】(一)爬虫系列文章导读
【爬虫成长之路】(二)各篇需要用到的库和工具
【爬虫成长之路】(三)【大众点评】selenium爬虫
【爬虫成长之路】(四)【大众点评】selenium登录+requests爬取数据
【爬虫成长之路】(五)【大众点评】浏览器扫码登录+油猴直接爬取数据
【爬虫成长之路】(六)【大众点评】mitmproxy中间人代理爬虫
【爬虫成长之路】(七)【大众点评】PC微信小程序+requests爬取数据
【爬虫成长之路】(八)【大众点评】安卓APP爬虫

一、爬虫系列教程共十篇,可分为如下六个部分:

序号 章节 介绍
1 第一章 对本系列文章做一个总体上的介绍,便于读者了解篇章结构,按需阅读
2 第二章 介绍本系列文章需要用到的技术和工具,以及相关的技术教程
3 第三~七章 对大众点评WEB端所采用的一系列爬虫技术
4 第八章 大众点评PC端小程序爬虫
5 第九章 大众点评APP端爬虫
6 第十章 对实战环节用的文章中用到的加解密算法&反爬技术做一个总结,读者日后开发网站时也可借鉴

二、系列文章说明

爬虫技术涉及到的知识非常多,文章不会对所有爬虫技术做细致全面的讲解,所以本系列的文章也不适合零基础的同学,零基础的同学可以先学完基础知识后再来阅读本系列文章。

  • 本系列文章适合以下读者:

    1. 有了解过爬虫技术,会Python的基础语法,知道HTTP通信过程;
    2. 写过简单的静态页面,希望技术能进一步提高;
    3. 熟悉Java、JavaScript基本语法;
    4. 有安卓逆向基础;
  • 本系列文章不适合以下读者

    1. 完全不了解计算机网络相关知识,尤其是HTTP通信过程(参考学习:1.HTTP 协议入门2.关于HTTP协议,一篇就够了3.计算机网络自学指南,简直太全了!);
    2. 不会Python基础语法(参考学习:1.Python 基础语法2.Python基础);
  • 为什么选择大众点评作为爬取对象

    1. 大众点评用户群体活跃,善于发表评价,所以数据总量足够满足用于机器学习等任务;
    2. 大众点评的反爬技术比其他网站更为复杂,具有代表性;

三、什么是爬虫技术

爬虫是指用程序模拟浏览器向服务器发起请求的程序。爬虫技术并不是什么很厉害的技术,但是随着爬虫和反爬技术对抗升级,现在的需要爬取到有价值的数据变得十分困难,尤其是机器学习需要用到大量数据的时候,购买第三方的数据十分昂贵且不一定会卖。所以对需要用到数据分析和机器学习的同学来说,学习爬虫技术还是有一定的必要性的。

四、阅读声明

  1. 技术从来都是一把双刃剑,使用爬虫技术可以获取到自己想要获取到的数据,但绝不可在短时间内向对方服务器发起大量请求,这会导致对方服务器崩溃,数据爬取的过程中不可影响对方服务器正常运行。对于需要大量数据的同学应该尽量拉长时间,慢慢爬取。
  2. 文中仅对爬虫技术以及爬取思路进行讲解,不透露程序中的加密参数的相关秘钥,防止被人滥用,造成对方服务器宕机。
  3. 本系列文章主要是为想学习爬虫技术的同学提供当前最新的教程,爬虫文章的时效性太强了,所以写文章的时候还可以用的方法,可能过些时日就行不通了,加上大众点评更新频率很高,这种这种情况更为明显,所以如果失效了大家学习下思路就好。
  4. 爬取到的数据仅供自己学习研究使用。

FQA

如果你在学习过程中遇到任何问题,可在评论中留言、私信或发送邮件给我,看到会回复

注:

  1. 如果您不希望我在文章提及您文章的链接,或是对您的服务器造成了损害,请联系我对文章进行修改;
  2. 本文仅爬取公开数据,不涉及到用户隐私;
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,716评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,558评论 1 294
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,431评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,127评论 0 209
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,511评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,692评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,915评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,664评论 0 202
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,412评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,616评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,105评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,424评论 2 254
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,098评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,096评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,869评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,748评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,641评论 2 271

推荐阅读更多精彩内容