造数翻页规则详细说明

常见网站的多页情况

一、 翻页规律为1、2、3、4等递增变化时,翻页规律为每页增加1,则其多页采集时,以10页为目标,采集规则为{{1-10;1}}

二、 翻页规律为奇数/偶数变化时,即每页网址页码为:1、3、5、7等奇数页码或者0、2、4、6、8等偶数页码时,其翻页规律为每页增加2的翻页规律.
以10页为采集目标,奇数页码规则为{{1-19;2}} 同理,当目标网站翻页规则为偶数页码时,多页采集规则为{{0-18;2}}

三、 翻页规律为一定数字/步长的,每页网站页码的变化为一个固定数字,即每增加一页,页码增加一个固定数字N
以淘宝网-手机搜索结果的页码变化为例:淘宝网的页码变化规律为每增加一页,增加48.则采集淘宝前10页的数据时翻页规律为{{0-432;48}}


举例说明

一、翻页规律为1、2、3、4等递增变化时,翻页规律为每页增加1,则其多页采集时,以N页为目标,采集规则为{{1-N;1}}

以链家网-二手房网页多页翻页规则为例:

第一页:https://bj.lianjia.com/ershoufang/pg1/

第二页:https://bj.lianjia.com/ershoufang/pg2/

第三页:https://bj.lianjia.com/ershoufang/pg3/

以10页为采集目标,其多页采集设置为:https://bj.lianjia.com/ershoufang/pg{{1-10;1}}/

二、翻页规律为奇数/偶数变化时,即每页网址页码为:1、3、5、7等奇数页码或者0、2、4、6、8等偶数页码时,其翻页规律为每页增加2的翻页规律.
奇数页码翻页规则为2N-1,N=目标页码

以京东为例:

第一页 (2N-1);N=1时,第一页的页码为2*1-1=1

https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=1&s=1&click=0

第二页 N=2时,page2= 2*2-1=3

https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=3&s=60&click=0

第三页 N=3时,page3=2*3-1=5:

https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=5&s=114&click=0

则以10页为采集目标,京东多页采集规则设置为{{1-19;2}} 在造数多页采集时应该设置的网址链接为:

https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page={{1-19;2}}&s=114&click=0

同理,当目标网站翻页规则为偶数页码时,翻页规则为2(N-1),N=网页页码
多页采集规则为:{{0-2(N-1);2}},N=网页页码


三、翻页规律为一定数字/步长的,即每页网站页码的变化为一个固定数字。

以淘宝网-手机搜索结果的页码变化为例:

淘宝网的页码变化规律为每增加一页,页码数字增加48

第一页 页码=0:

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest

实际第一页的隐藏页码链接为页码=48*(1-1)=0

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s=0

第二页 页码=48*(2-1)=48

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s=48

第三页页码=48*(3-1)=96

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s=96

第四页页码=48*(4-1)=144

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s=144

第10页页码=48(10-1)=432
第N页页码=48
(N-1)

则前10页的多页采集规则为:{{0-432;48}} 在造数多页采集时应该设置的网址链接为:

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s={{0-432;48}}


更多示例

1、京东搜索手机时多页设置

网址是:

http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=3

http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=5

http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=7

那么京东的翻页规则就是:

http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page={{1-19;2}}

2、百度造数时的多页设置

网址是:

https://www.baidu.com/s?wd=造数&pn=10
https://www.baidu.com/s?wd=造数&pn=20
https://www.baidu.com/s?wd=造数&pn=30

那么百度的翻页规则就是:

https://www.baidu.com/s?wd=造数&pn={{0-90;10}}

3、拉勾搜索JAVA时多页设置

网址是:

https://www.lagou.com/zhaopin/Java/2/
https://www.lagou.com/zhaopin/Java/3/
https://www.lagou.com/zhaopin/Java/4/

那么拉勾的翻页规则就是:

https://www.lagou.com/zhaopin/Java/{{1-10}}/

4、大众点评搜索火锅时多页设置

网址是:

http://www.dianping.com/search/category/16/10/g110p2
http://www.dianping.com/search/category/16/10/g110p3
http://www.dianping.com/search/category/16/10/g110p4

那么大众点评的翻页规则就是:

http://www.dianping.com/search/category/16/10/g110p{{1-10}}

5、知乎精华问题的多页设置

网址是:

https://www.zhihu.com/topic/19551147/top-answers?page=2
https://www.zhihu.com/topic/19551147/top-answers?page=3
https://www.zhihu.com/topic/19551147/top-answers?page=4

那么知乎的翻页规则就是:

https://www.zhihu.com/topic/19551147/top-answers?page={{1-10}}

6、亚马逊搜索手机时多页设置

网址是:

https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=2&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070
https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=3&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070
https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=4&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070

那么亚马逊的翻页规则就是:

https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page={{1-10}}&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070

7、阿里巴巴物流多页设置

网址是:

http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=&notFirst=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642795306&sizePerPage=&pageIndex=2&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab
http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=&notFirst=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex=3&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab
http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=&notFirst=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex=4&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab

那么阿里巴巴物流的翻页规则就是:

http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=&notFirst=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex={{1-10}}&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab

8、豆瓣电影雷神3影评的多页设置

网址是:

https://movie.douban.com/subject/25821634/comments?start=20&limit=20&sort=new_score&status=P&percent_type=
https://movie.douban.com/subject/25821634/comments?start=40&limit=20&sort=new_score&status=P&percent_type=
https://movie.douban.com/subject/25821634/comments?start=60&limit=20&sort=new_score&status=P&percent_type=

那么豆瓣电影的翻页规则就是:

https://movie.douban.com/subject/25821634/comments?start={{0-180;20}}&limit=20&sort=new_score&status=P&percent_type=

9、淘宝搜索零食的多页设置

网址是:

https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=44
https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=88
https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=132

那么淘宝的翻页规则就是:

https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s={{0-396;44}}

10、V2EX程序员类别的多页设置

网址是:

https://www.v2ex.com/go/programmer?p=2
https://www.v2ex.com/go/programmer?p=3
https://www.v2ex.com/go/programmer?p=4

那么V2EX的翻页规则就是:

https://www.v2ex.com/go/programmer?p={{1-10}}

11、胡歌所有微博多页设置

网址是:

https://weibo.cn/hu_ge?page=2
https://weibo.cn/hu_ge?page=3
https://weibo.cn/hu_ge?page=4

那么微博的翻页规则就是:

https://weibo.cn/hu_ge?page={{1-10}}

12、北京链家二手房多页设置

网址是:

https://bj.lianjia.com/ershoufang/pg2
https://bj.lianjia.com/ershoufang/pg3
https://bj.lianjia.com/ershoufang/pg4

那么链家的翻页规则就是:

https://bj.lianjia.com/ershoufang/pg{{1-10}}
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,560评论 4 361
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,104评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,297评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,869评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,275评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,563评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,833评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,543评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,245评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,512评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,011评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,359评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,006评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,062评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,825评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,590评论 2 273
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,501评论 2 268

推荐阅读更多精彩内容