2020-11-25

# encoding=utf-8
import asyncio
import time
import numpy, random
import requests
import sys

from datetime import datetime
from pymongo import MongoClient
from pyppeteer import launch
from pyppeteer.network_manager import Response
from apscheduler.schedulers.blocking import BlockingScheduler


mongo_url = ''
mongo_client = MongoClient(mongo_url)
database = mongo_url.split('/')[-1]
mongodb = getattr(mongo_client, database)

COOKIE = []


def random_linspace(num, length):
    # 数列的起始值 、 结束值。 这里以平均值的 0.5 作为起始值,平均值的 1.5倍作为结束值。
    start, end = 0.5 * (length / num), 1.5 * (length / num)
    # 借助三方库生成一个标准的等差数列,主要是得出标准等差 space
    origin_list = numpy.linspace(start, end, num)
    space = origin_list[2] - origin_list[1]
    # 在标准等差的基础上,设置上下浮动的大小,(上下浮动10%)
    min_random, max_random = -(space / 10), space / 10
    result = []
    # 等差数列的初始值不变,就是我们设置的start
    value = start
    # 将等差数列添加到 list
    result.append(value)
    # 初始值已经添加,循环的次数 减一
    for i in range(num - 1):
        # 浮动的等差值 space
        random_space = space + random.uniform(min_random, max_random)
        value += random_space
        result.append(value)
    return result


def slide_list(total_length):
    '''等差数列生成器,根据传入的长度,生成一个随机的,先递增后递减,不严格的等差数列'''
    # 具体分成几段是随机的
    total_num = random.randint(10, 15)

    # 中间的拐点是随机的
    mid = total_num - random.randint(3, 5)

    # 第一段、第二段的分段数
    first_num, second_num = mid, total_num - mid

    # 第一段、第二段的长度,根据总长度,按比例分成
    first_length, second_length = total_length * (first_num / total_num), total_length * (second_num / total_num)

    # 调用上面的辅助函数,生成两个随机等差数列
    first_result = random_linspace(first_num, first_length)
    second_result = random_linspace(second_num, second_length)

    # 第二段等差数列进行逆序排序
    slide_result = first_result + second_result[::-1]

    # 由于随机性,判断一下总长度是否满足,不满足的再补上一段
    if sum(slide_result) < total_length:
        slide_result.append(total_length - sum(slide_result))
    return slide_result


def open_url(url):

    async def get_content(response: Response):
        global COOKIE
        if 'mtop.taobao.detail.getdetail' in response.url:
            _cookie = response.headers
            COOKIE.append(_cookie['bx-x5sec'].split(';')[0])
            print(COOKIE)

    async def mouse_slide(page=None):
        await asyncio.sleep(1)
        await page.evaluate('window.scrollBy(400,0)')
        frame = page.frames[1]
        try:
            await frame.hover('#nc_1_n1z')
        except:
            return 1, page
        try:
            await page.mouse.down()
            await page.evaluateOnNewDocument('() =>{ Object.defineProperties(navigator,'
                                             '{ webdriver:{ get: () => undefined } }) }')
            steps = random.randint(30, 80)
            print("steps:{}".format(steps))
            slides = slide_list(300)
            x = 550
            for distance in slides:
                time.sleep(0.1)
                x += distance
                await page.mouse.move(x, 0, )
            await page.mouse.up()
        except Exception as e:
            print('{}:验证失败'.format(e))
            return None, page
        else:
            slider_again = await page.querySelector('.nc_iconfont.icon_warn')
            if slider_again != None:
                print("验证失败")
                return None
            else:
                print('验证通过')
                return page

    async def get_data(url):
        browser = await launch(headless=False, args=['--disable-infobars',
                                                       '--no-sandbox',
                                                       '--no-default-browser-check',
                                                       '--disable-extensions',
                                                       '--hide-scrollbars',
                                                       '--disable-bundled-ppapi-flash',
                                                       '--mute-audio',
                                                       '--disable-setuid-sandbox',
                                                       '--disable-gpu',
                                                       "--window-size=1920,1080",
                                                       "--disable-infobars",
                                                       # '--proxy-server=http://http-dyn.abuyun.com:9020'
                                                                               ])
        page = await browser.newPage()
        await page.setViewport({"width": 1366, "height": 720})
        await page.setJavaScriptEnabled(enabled=True)
        # await page.authenticate({
        #     'username': '',
        #     'password': ''
        # })

        await page.setUserAgent(
            'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 Edge/16.16299')
        login_url = url
        await page.goto(login_url)
        await page.evaluateOnNewDocument('() =>{ Object.defineProperties(navigator,'
                                         '{ webdriver:{ get: () => undefined } }) }')

        time.sleep(2)
        frame = page
        await frame.waitForSelector('#fm-login-id')
        await frame.type('#fm-login-id', '', {'delay': 120})
        time.sleep(random.random()+0.5)

        await frame.type('#fm-login-password', '!', {'delay': 120})
        await frame.click("[type=submit]")
        time.sleep(3)
        await page.goto("https://h5.m.taobao.com/awp/core/detail.htm?id=557776930020")
        time.sleep(2)
        try:
            # # 验证滑块
            await asyncio.sleep(1)
            await page.evaluate('window.scrollBy(400,0)')
            frame = page.frames[1]
            await frame.hover('#nc_1_n1z')
            slider = True
        except:
            slider = False
        if slider:
            page = await mouse_slide(page=page)
        else:
            pass
        await page.setRequestInterception(True)
        time.sleep(6)
        page.on('response', get_content)
        cookies = await page.cookies()
        await page.close()
        await browser.close()
        time.sleep(3)

        return cookies

    loop = asyncio.new_event_loop()
    asyncio.set_event_loop(loop)
    return loop.run_until_complete(get_data(url))


def get_abuyun_tunnel():
    # use abuyun proxy
    proxyUser = ""
    proxyPass = ""
    proxyHost = ""
    proxyPort = "9020"
    proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
        "host": proxyHost,
        "port": proxyPort,
        "user": proxyUser,
        "pass": proxyPass,
    }

    proxies = {
        "http": proxyMeta,
        "https": proxyMeta,
    }
    return proxies


def cookie_live(cookie):
    headers = {
        'authority': 'h5api.m.taobao.com',
        'user-agent': 'Mozilla/5.0 (iPhone; CPU iPhone OS 13_2_3 like Mac OS X) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/13.0.3 Mobile/15E148 Safari/604.1',
        'accept': '*/*',
        'sec-fetch-site': 'same-site',
        'sec-fetch-mode': 'no-cors',
        'sec-fetch-dest': 'script',
        'referer': 'https://h5.m.taobao.com/',
        'accept-language': 'en-US,en;q=0.9,zh-CN;q=0.8,zh;q=0.7',
        'cookie': cookie,
    }

    proxies = get_abuyun_tunnel()
    response = requests.get('https://h5api.m.taobao.com/h5/mtop.taobao.detail.getdetail/6.0/?jsv=2.6.1&appKey=12574478&t=1606209893980&sign=e3f978ec205660e16b2a123c1d1a4e4b&api=mtop.taobao.detail.getdetail&v=6.0&isSec=0&ecode=0&AntiFlood=true&AntiCreep=true&H5Request=true&ttid=2018%40taobao_h5_9.9.9&type=jsonp&dataType=jsonp&callback=mtopjsonp1&data=%7B%22id%22%3A%22557776930020%22%2C%22itemNumId%22%3A%22557776930020%22%2C%22itemId%22%3A%22557776930020%22%2C%22exParams%22%3A%22%7B%5C%22id%5C%22%3A%5C%22557776930020%5C%22%7D%22%2C%22detail_v%22%3A%228.0.0%22%2C%22utdid%22%3A%221%22%7D', headers=headers, proxies = proxies)
    if '调用成功' in response.text:
        return True
    else:
        return False


def get_cookie():
    url = "https://login.m.taobao.com/login.htm?"
    cookies = open_url(url)
    cookie = []
    for c in cookies:
        cookie.append(c['name'] + '=' + c['value'])
    if COOKIE:
        cookie.append(COOKIE[0])
    format_cookie = ';'.join(cookie)
    return format_cookie


def update_cookie():
    col = mongodb.get_collection('cookie_info')
    cookie = col.find_one({'store': 'Taobao'})
    if not cookie:
        cookie = col.insert_one({'store': 'Taobao', 'update_time': datetime.now(), 'cookie': get_cookie()})
    if not cookie_live(cookie['cookie']):
        col.update_one({'store': 'Taobao'}, {'$set': {'update_time': datetime.now(), 'cookie': get_cookie()}},
                       {'multi': 'true'})
        print("cookie can't request to page, updated the cookie info")
    else:
        print('cookie can request to page, not need to update cookie')


if __name__ == '__main__':
    if len(sys.argv) == 2 and sys.argv[1] == '--update':
        update_cookie()
    else:
        print('task_init..........')
        sched = BlockingScheduler()
        sched.add_job(update_cookie, trigger='cron', hour='12,13,14,22,23', minute='*/19')
        sched.start()
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,569评论 4 363
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,499评论 1 294
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,271评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,087评论 0 209
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,474评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,670评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,911评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,636评论 0 202
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,397评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,607评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,093评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,418评论 2 254
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,074评论 3 237
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,092评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,865评论 0 196
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,726评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,627评论 2 270

推荐阅读更多精彩内容