Node 服务端接口 & 爬虫

本来想用 Node 写爬虫和服务端接口的, 不过感觉 cheerio 的 CSS selector 用起来特别不爽, 而 Python 的 Scrapy 库, 写爬虫特别好用, 遂用 Python 写了 V2EX 的爬虫 V2EX_Crawler

Node 爬虫不错的教程
Scraping the Web With Node.js
Simple web scraping with Node.js / JavaScript
MongoDB For Beginners: Introduction And Installation (Part 1/3)

Api

  1. 由于完全没有接触过服务端, 学起来还是一脸懵逼的... 找了一门稍微熟悉一点的语言 JS, 来写服务端
    吐槽下前端这两年一直在搞事情, 弄出来不少幺蛾子... 学的我屁股都大了...

    • Vue, React
    • ES6
    • Webpack
  2. 当年整过的一些 SQL 各种 join 查询忘得也差不多了..
    遂折腾下 NOSql - MongoDB, 听说了一段时间了, 但始终没有尝试过

  3. 学习写接口主要是下面 2 个教程, 先看了第一个.. 对服务端涉及的知识点有个大概了解, 然后通读并写了写第二本书的代码, 第二本书很棒棒哦, 非常全面, 深度对我这 Node 新手来说也刚好, 感谢作者把它开源 ~

    • 学起来倒也没有坎, 路由之前做 iOS 的模块化时接触过 JLRoutes, 所以看 express 的 router 很熟悉
    • MongoDB 对新手也很友好, 上手很快, 文档式的存储结构写小项目很方便, 用起来和 ORM 差不多, 666

极力推荐的教程
《Node.js 包教不包会》 by alsotang
Practical Node.js, 1st and 2nd Editions [Apress]

RESTFul

我写的 Api 比较简单, 就是查数据库, 吐 JSON, 每接触到分布式, 多线程, Session, 各种缓存啥的

接口是 RESTFul 风格的.. 这个是一个很成熟的规范了.. 以为能找到一个好用的框架, 直接结合 mongoose 帮我实现默认的 RESTFul 接口呢, 不过没找到合适的, 但手写也非常简单...

GraphQL

  1. 无聊用 Charles 抓了下 手机版的 Lynda, 一个类似网易云课堂的在线课程网站, 发现他的各种接口请求贼奇怪, 传了很多像数据库字段的东西
  2. 后来想到, 之前看过 Github v4 API 出了新格式之类的东西, 看了半天没懂, 一查果然是这个东西
  3. GraphQL 国外已经在用了, 我还没写过 Demo, 不过大概了解了一下思路

例子 : 比如微信用户数据库, 存储用户的各种详细信息

  1. 接口 1 : 加好友, 要用户的基本数据, 名字, 头像, 性别等
  2. 接口 2 : 用户点击好友, 查看好友全部详细资料, 年龄, 地区, 相册等,
  • 这就需要服务端提供 2 个接口, 接口1 返回用户的部分字段, 接口2 返回用户的全部字段

GraphQL 实现 : 相当于客户端传过来一个 SQL 语句, 告诉我查哪个表, 要哪些字段

  • 这么一来, 服务端不管处理什么都一个接口足够了, 客户端告诉我要哪些数据, 我去执行查询就行了, (当然这里肯定有校验, SQL 防注入之类的),
  • 这大大减轻了服务端的压力, 前端, 移动端, 经常需要的数据不同, 所以 服务端要维护好多接口, 甚至还要有好多版本 V1,V2 等等
  • So, 以后有时间一定要实践下 GraphQL

Heroku 部署 Node 工程

Heroku 是非常好用的后端部署平台, 提供各种运行环境, Node, python , PHP 等, 可以直接把代码部署运行在 Heroku 上, 非常方便

我现在的使用方式是 :

  1. 代码 commit push 到 github
  2. CI 跑 unit test (根本不写测试代码)
  3. Heroku 关联 github 项目, push 触发 Heroku deploy hook, 自动 pull 并部署代码
  4. 完成后 Slack 通知我部署状态

How to Deploy Your Slack Bots to Heroku

学习成果

就是最基本的 MongoDB 实现的 RESTFul API

V2EX_Nodejs : V2EX 最近的文章, 登录, 注销接口
类似云课堂的接口 : 这个代码质量还不错... 部署在我的 Vultr VPS 上

不错的文章

RESTful API design with Node.js
10 Best Practices for Writing Node.js REST APIs

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,736评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,167评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,442评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,902评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,302评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,573评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,847评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,562评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,260评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,531评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,021评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,367评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,016评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,068评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,827评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,610评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,514评论 2 269

推荐阅读更多精彩内容