Python爬虫抓取PVideo中豆瓣TOP250电影资源

http://www.181bt.com/

#top250 电影资源


import requests
from bs4 import BeautifulSoup
import time
import codecs
import re


#生成一个包含电影资源页链接list
def movie_page_list():
    list = []
    for i in range(1,11):
        url = 'http://www.181bt.com/movie/top250_douban?page=' + str(i)
        print('正在解析:' + url)
        try:
            list.append(find_movie_page(url))
        except:
            return list
    return list


# http://www.181bt.com/movie/top250_douban?page=1
# 中找到真实页面http://www.181bt.com/movie/912.html    
def find_movie_page(url):
    # 此时PVideo链接为'http://www.181bt.com/'
    home_link = 'http://www.181bt.com/'
    data = requests.get(url).content
    
    html_bs = BeautifulSoup(data)
    #

   
    #
    
    
    # 搜索页面
    # 搜素页面列表
    html_list = []
    for a in html_bs.findAll('h4'):
        search_link = home_link + a.find('a')['href']
        
        html_list.append(search_link)

    

    
    # 在搜索页面中找到真实页面
    movie_true_link_list = []
    for i in html_list:
        movie_true_data = requests.get(i).content
        movie_true_bs = BeautifulSoup(movie_true_data)
        movie_true_bs_result = movie_true_bs.findAll('div', {'class': 'result-item'})
        for a in movie_true_bs_result:
            movie_true_bs_find = a.find('a', {'target': '_blank'})
            movie_true_link = movie_true_bs_find['href']
            movie_true_link_list.append(movie_true_link)
        
        
        
        
        
    return movie_true_link_list
    
    
# 解析电影资源页面内数据
def parse_movie_link(url):
    # 源代码中网址变化
    # 搜索结果中的链接: http://www.id97.com/movie/201610.html
    # 实际电影链接: http://www.181bt.com/movie/201610.html
    # HXR: http://www.181bt.com/videos/resList/202876
    
    pattern_url = re.compile('http://www.id97.com/.*?/(\d+).html')
    url_num_match = pattern_url.match(url)
    
    url_num_response = url_num_match.group(1)
    url_response = 'http://www.181bt.com/videos/resList/' + str(url_num_response)
    print(url_response)
    
    data = requests.get(url_response).content
    html_bs = BeautifulSoup(data)
    # 下载框find
    download_blank_find = html_bs.find('table', {'class': 'table table-hover'})
    links = []
    
    try:
        for i in download_blank_find.findAll('tr'):
            if i.find('td', {'align': 'center'}).find('span').get_text() == '网盘':
                link_find = i.find('div', {'style': 'height:1.5em;line-height:1.5;overflow:hidden;'})
                link_wangpan = link_find.find('a', {'target': '_blank'})['href'] + link_find.find('a', {'target': '_blank'}).get_text() +link_find.find('strong', {'style': 'color:red;'}).get_text()
                #
                
                links.append(link_wangpan)
            else:
                download_link_find = i.find('a', {'rel': 'nofollow'})
                links.append(download_link_find.get_text())
                links.append(download_link_find['href'])
                #
                # print(download_link_find)
    except:
        pass

# 保存链接
    data_movie = requests.get(url.replace('id97', '181bt')).content
    html_old_bs = BeautifulSoup(data_movie)
    
    
    movie_name = html_old_bs.find('h1').get_text() #+ html_bs.find('span', {'class': 'year'}).get_text()
    pattern = re.compile('^(.*?) ')
    movie_name_match = pattern.match(movie_name)
    movie_name_dic = 'F:\\PVideoTop250' +'\\' + movie_name_match.group().replace('/','')
    print('正在保存...' + movie_name_match.group())
    
    with codecs.open(movie_name_dic, 'wb', encoding='utf-8') as f:
        
        for a in links:
            f.write(a + '\n')
    # except:
        # pass
def main():
    list = []
    list.append(movie_page_list())
#前面list写的比较混乱    
    for i in list:
        for i_i in i:
            for i_i_i in i:
                for i_i_i_i in i_i_i:
                    parse_movie_link(i_i_i_i)

if __name__ == '__main__':
    start=time.time()
    main()
    end=time.time()
    print (end-start)
      
    

To enjoy and have fun

石头的书桌 (2).jpg
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,015评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,262评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,727评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,986评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,363评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,610评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,871评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,582评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,297评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,551评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,053评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,385评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,035评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,079评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,841评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,648评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,550评论 2 270

推荐阅读更多精彩内容