用Python给自己做一个SEO流量查询工具

0.336字数 719阅读 581

可能因为职业原因,每看到一个网址,都好奇它的流量情况,不知道你是否和我一样。

这时一般做法都是打开爱站网,输入网址查询。

15048396565284.jpg

对别人来说可能不是一个很大的需求,但我就是想简化这个过程。

之前想过一个解决办法:做个浏览器插件,想看当前网站流量数据时,点击弹窗显示。

理论上这个方法可行,但需要花时间研究Chrome插件开发。
http://open.chrome.360.cn/extension_dev/overview.html

后来我选择了一种变通方法,能实现类似效果,还可以脱离浏览器运行。

工具实现思路

希望实现的效果

复制任意网址(不一定网站首页),然后按某个快捷键,自动提取域名(可以到子域名一级)提交给爱站网查询,然后把结果返回弹窗显示。

经过琢磨研究做出来的效果如下:

15048378295822.jpg

如何实现呢?

开发环境:Macbook + 系统自动Automator + Python(或PHP)

Python代码实现按网址查流量

# coding = utf-8
__author = 'joe'
# 导入 requests库,一般简单采集都推荐使用这个库
import requests
# 导入BeautifulSoup做DOM解析,避免有些网站代码不规范让lxml不好用
from bs4 import BeautifulSoup as bs
# 导入正则库
import re
# 导入随机数库
import random
# 这个库可以从URL中解析域名
from tld import get_tld
# 判断是否为URL的库
import validators
# 导入系统库
import sys
import io
# 解决编码问题
sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='utf-8')

# 定义一个获取HTML代码的方法
def get_html(url):
    # 定义http的请求Header
    headers = {}
    # random.randint(1,99) 为了生成1到99之间的随机数,让UserAgent变的不同。
    headers['User-Agent'] = "Mozilla/5.0 (Windows NT 5.1; rv:31.0) Gecko/20100101 Firefox/31.0" + str(random.randint(1,99))
    # Referer地址使用待查询的网址
    headers['Referer'] = url
    # 如果是一个URL,则执行
    if validators.url(url):
        # 通过URL获取域名
        domain = get_tld(url)
        # 构造爱站网查询地址
        aizhan_url = "http://baidurank.aizhan.com/baidu/" + domain + "/"
        # 发送请求,获取页面HTML
        html = requests.get(aizhan_url, headers = headers, timeout=10).text
        # 输出网址域名
        print("网站:" + domain)
        # 分析页面元素,提取需要字段
        get_data(html)
        # 更多内容查看爱站
        print("更多查看:" + aizhan_url)
    else:
        # 提示错误URL
        print("wrong url")

# 定义提取页面元素的方法
def get_data(html):
    # 使用lxml解析器,这样效率更高
    soup = bs(html, "lxml")
    # 提取页面中的总流量数据
    all_pv = soup.select("span.blue")[0].get_text()
    # 提取页面中的总PC流量数据
    pc_pv = soup.select(".ip strong")[0].get_text()
    # 提取页面中的总移动流量数据
    mobile_pv = soup.select(".ip strong")[1].get_text()
    # 提取PC权重
    pc_weight = soup.select(".fl .br strong")[0].get_text()
    # 提取移动权重
    mobile_weight = soup.select(".fl .br strong")[1].get_text()
    # 提取PC关键词量,数值越大,说明网站越强
    pc_words = soup.select("a#cc1 strong")[0].get_text()
    # 提取M关键词量,越大越好
    mobile_words = soup.select("a#cc2 strong")[0].get_text()
    
    # 下面是输出
    print("总流量:" + all_pv)
    print("PC总流量:" + pc_pv)
    print("M总流量:" + mobile_pv)
    print("PC权重:" + pc_weight)
    print("M权重:" + mobile_weight)
    print("PC关键词量:" + pc_words)
    print("M关键词量:" + mobile_words)

    print("流量大的目录:")
    # 循环读取流量大的目录URL,显示5条。
    for index,item in enumerate(soup.select("ul.urlpath li a")):
        if(index <= 5):         
            print(item.get_text().strip())

# 主程序
if __name__ == "__main__":
    # 测试网址
    url = "http://www.huangye88.com"
    # 通过命令行获取第1个参数作为待查询网址
    post_url = sys.argv[1]
    # 校验网址是否为URL
    if validators.url(post_url):        # 执行查询程序
        get_html(post_url)
    else:
        # 提示错误网址
        print("wrong url")

如何通过快捷键执行程序?

步骤1:打开Mac电脑下的Automator,新建文件,文稿类型选“服务”。点击资源库下的“实用工具”,然后再双击 “运行AppleScript”

15048395501722.jpg

输入如下内容:

set website to (the clipboard as text)

set x to do shell script "/Users/admin/.pyenv/shims/python3 /Users/admin/Documents/newstart/php/phpspider/projects/just4fun/projects/python/getsiteinfo/get_site_info.py " & website

display dialog x

第一行的意思是:把剪贴板里的数据当做纯文本,赋值给变量website
第二行的意思是:把脚本执行的结果赋值给x(注意:&是连接字符串,这样可以把网址传给脚本)
第三行的意思是:把结果输出到对话框中。

你可以复制一个网站,然后点击运行测试,看是否会弹出包含正确内容的对话框。
把这个服务文件保存,命名为:getAizhan

注意,如果安装了多Python版本运行环境,要设置希望使用的版本。比如我这里用的Python3

步骤2:

下面我们设置快捷键,打开Mac OSX中的系统偏好设置,点击键盘->服务。

找到我们刚才创建的服务“getAizhan”,勾选上后设置一个自己喜欢的快捷键,如下图所示。(Ctrl+ALt+Command+M)

15048401829029.jpg

到此为止,一切搞定,以后查网站流量,做SEO分析都省事不少。

这个工具的PHP版本:https://zhuanlan.zhihu.com/p/24577887

借助这个思路,还可以开发其他好用的小工具,比如用印象笔记API存有价值的句子:

https://zhuanlan.zhihu.com/p/24545638

推荐阅读更多精彩内容