零散专题35 AST抽象语法树.md

什么是抽象语法树

抽象语法树(abstract syntax tree,AST,或者简称语法树)是源代码的抽象语法结构的树状表现形式,它以树状的形式表现编程语言的语法结构,树上的每个节点都表示源代码中的一种结构。

之所以说是抽象的,是因为这里的语法并不会表示出真实语法中出现的每个细节,比如嵌套括号被隐含在树结构中,并不会以节点的形式呈现出来。而类似于if...else这样的条件语句,可以使用两个分支的节点来表示。

比如下面这段代码:

while (b !== 0) {
  if (a > b) {
      a = a - b
  } else {
      b = b - a
  }
}
return a;

它的对应的抽象语法树如下:

image

可以通过astexplorer这个网站,将我们输入的代码转换为AST展示出来,可以展示为书结构,也可以直接以JSON格式展示,比如在左侧输入let a = 123;,对应的语法树:

image

也可以直接输入JSON:

{
  "type": "Program",
  "start": 0,
  "end": 12,
  "body": [
    {
      "type": "VariableDeclaration",
      "start": 0,
      "end": 12,
      "declarations": [
        {
          "type": "VariableDeclarator",
          "start": 4,
          "end": 11,
          "id": {
            "type": "Identifier",
            "start": 4,
            "end": 5,
            "name": "a"
          },
          "init": {
            "type": "Literal",
            "start": 8,
            "end": 11,
            "value": 123,
            "raw": "123"
          }
        }
      ],
      "kind": "let"
    }
  ],
  "sourceType": "module"
}

语法树中每个元素可以成为一个节点(node),类型包括:

(parameter) node: 
Identifier | SimpleLiteral | RegExpLiteral | Program | FunctionDeclaration | FunctionExpression |
ArrowFunctionExpression | SwitchCase | CatchClause | VariableDeclarator | ExpressionStatement |
BlockStatement | EmptyStatement | DebuggerStatement | WithStatement | ReturnStatement |
LabeledStatement | BreakStatement | ContinueStatement | IfStatement | SwitchStatement | ThrowStatement | 
TryStatement | WhileStatement | DoWhileStatement | ForStatement | ForInStatement | ForOfStatement |
VariableDeclaration | ClassDeclaration | ThisExpression | ArrayExpression | ObjectExpression |
YieldExpression | UnaryExpression | UpdateExpression | BinaryExpression | AssignmentExpression |
LogicalExpression | MemberExpression | ConditionalExpression | SimpleCallExpression | NewExpression |
SequenceExpression | TemplateLiteral | TaggedTemplateExpression | ClassExpression | MetaProperty |
AwaitExpression | Property | AssignmentProperty | Super | TemplateElement | SpreadElement |
ObjectPattern | ArrayPattern | RestElement | AssignmentPattern | ClassBody | MethodDefinition |
ImportDeclaration | ExportNamedDeclaration | ExportDefaultDeclaration | ExportAllDeclaration |
ImportSpecifier | ImportDefaultSpecifier | ImportNamespaceSpecifier | ExportSpecifier

使用场景

平时我们好像从来没有接触过AST,但是实际上它的适用场景一直相伴左右,比如:

  • JS反编译,语法解析
  • Babel编译ES6语法
  • 代码高亮
  • 关键字匹配
  • 作用域判断
  • 代码压缩

AST分析

使用刚才提到的astexplorer这个网站,解析1 + 2 * 3,得到的AST语法树

image

从语法树我们开出来,body里面的exporession(表达式)是BinaryExpress(二院表达式),startend标识了我们这个表达式字符的起止位置,operator+,然后left属性的值是一个Literal字面量,value2right属性的值又是另外一个BinaryExpressleft的值是2operator*right右侧值是3

这样,通过一个树状结构,将我们输入的表达式明明白白展示出来了。

将表达式添加一个括号,变成(1 + 2) * 3,得到的新的语法树:

image

可以看出来,left值变为了一个BinaryExpressoperator*right值是3

比较两个表达式的语法树,可以发现:

  1. 在确定类型为ExpressionSatatement后,会按照代码执行的先后顺序,将表达式BinaryExpression分解为leftoperatorright三部分
  2. 每部分都标明了类型、起止位置、值等信息
  3. 标明了操作符类型

再来看一下常用的箭头函数:

const fn = (a, b) => {
  return a + b
};

AST的JSON结果:

{
  "type": "Program",
  "start": 0,
  "end": 40,
  "body": [
    {
      "type": "VariableDeclaration",
      "start": 0,
      "end": 40,
      "declarations": [
        {
          "type": "VariableDeclarator",
          "start": 6,
          "end": 39,
          "id": {
            "type": "Identifier",
            "start": 6,
            "end": 8,
            "name": "fn"
          },
          "init": {
            "type": "ArrowFunctionExpression",
            "start": 11,
            "end": 39,
            "id": null,
            "expression": false,
            "generator": false,
            "params": [
              {
                "type": "Identifier",
                "start": 12,
                "end": 13,
                "name": "a"
              },
              {
                "type": "Identifier",
                "start": 15,
                "end": 16,
                "name": "b"
              }
            ],
            "body": {
              "type": "BlockStatement",
              "start": 21,
              "end": 39,
              "body": [
                {
                  "type": "ReturnStatement",
                  "start": 25,
                  "end": 37,
                  "argument": {
                    "type": "BinaryExpression",
                    "start": 32,
                    "end": 37,
                    "left": {
                      "type": "Identifier",
                      "start": 32,
                      "end": 33,
                      "name": "a"
                    },
                    "operator": "+",
                    "right": {
                      "type": "Identifier",
                      "start": 36,
                      "end": 37,
                      "name": "b"
                    }
                  }
                }
              ]
            }
          }
        }
      ],
      "kind": "const"
    }
  ],
  "sourceType": "module"
}

耐下性子,仔细读一下语法树,其实也不难理解,首先bodytype变为了VariableDeclarationdeclarations是一个数组,首先声明了fn这个变量,然后在init里面是一个typeArrowFunctionExpression的节点,里面有paramsbodyReturnStatement等各种用来标识箭头函数的属性值,

实现

从上面可以看出来,抽象语法树其实就是将一类标签转化成通用标识符,从而归纳出的一个类似于树形结构的语法树。

那么这个过程是如何实现的呢?

简单学习了一下,首先需要几个工具包用来解析JS语法、遍历树结构以及生成新的树结构:

const esprima = require('esprima'); // 解析js的语法的包
const estraverse = require('estraverse'); // 遍历树的包
const escodegen = require('escodegen'); // 生成新的树的包

let code = `function getAST(){}`;

//解析js的语法
let tree = esprima.parseScript(code);
//遍历树
estraverse.traverse(tree, {
  enter(node) {
    console.log('enter: ' + node.type);
  },
  leave(node) {
    console.log('leave: ' + node.type);
  }
});

//生成新的树
let r = escodegen.generate(tree);
console.log(r);

通过遍历、修改抽象语法树,我们可以去改变任何输出结果,也就是说,在编译的过程中,借助抽象语法树,我们可以去改变原来的输入,得到想要的结果。

这也就是Babel转义JavaScript代码的原理。

关于Babel

Babel使用一个基于ESTree并修改过的AST,它的内核说明文档可以在这里找到。

Babel的三个主要处理步骤分别是: 解析(parse),转换(transform),生成(generate)。

(1)解析

接受代码并输出AST,这个步骤又分为两个阶段:词法分析(Lexical Aanalysis)和语法分析(Syntactic Analysis)

词法分析阶段把字符串形式的代码转换为令牌流,可以将令牌看做一个扁平的语法片段数组

n * n;

↓

[
  { type: { ... }, value: "n", start: 0, end: 1, loc: { ... } },
  { type: { ... }, value: "*", start: 2, end: 3, loc: { ... } },
  { type: { ... }, value: "n", start: 4, end: 5, loc: { ... } },
  ...
]

其中每一个type都有一组数形来描述该令牌,和AST节点一样也有startend等属性:

{
  type: {
    label: 'name',
    keyword: undefined,
    beforeExpr: false,
    startsExpr: true,
    rightAssociative: false,
    isLoop: false,
    isAssign: false,
    prefix: false,
    postfix: false,
    binop: null,
    updateContext: null
  },
  ...
}

语法分析阶段会吧一个令牌转换成AST的形式,这个阶段会使用令牌中的信息把他们转换成一个AST的表述结构,便于后续操作

(2)转换

接受AST并对其进行遍历,此过程中对节点进行添加、更新和移除等操作。这是Babel最复杂的过程,也是Babel插件接入工作的部分。

(3)生成

深度优先遍历将经过一系列转换后的AST,并将其转换成字符串形式的代码,同时还会创建源码映射。

单元测试覆盖率

JavaScript单元测试覆盖率统计方法的核心思想,是在源代码响应的位置注入设定的统计代码,当执行测试代码的时候,代码运行到注入的地方,就会执行对应的统计代码,生成覆盖率统计报告。大概步骤如下:

(1)对源代码进行语法分析、解析,然后生成抽象语法树

(2)在语法树相应的位置注入统计代码。

在程序执行到这个位置的时候对相应的全局变量赋值,确保执行之后能够根据全局变量知道代码的执行流程。

(3)通过注入统计代码的抽象语法树,生成对应的JavaScript代码

(4)将生成好的JavaScript代码交给执行环境(Node或者浏览器)运行

(5)执行单元测试,产生的统计信息,放到全局变量里面。

(6)根据全局变量中的覆盖率信息生成特定格式的报告。

总结

大致学习了一下AST的知识,并没有很深入,只是了解到AST是对源代码的一种树状结构的表示形式,可以用来在编译阶段对代码进行处理。Babel之所以能够实现JavaScript的转换,就是利用了AST,经历了解析、转换、生成三个步骤,其中转换是最复杂的步骤,各种Babel的插件也是在这个步骤中发挥作用。

参考

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,233评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,013评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,030评论 0 241
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,827评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,221评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,542评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,814评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,513评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,225评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,497评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,998评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,342评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,986评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,055评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,812评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,560评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,461评论 2 266

推荐阅读更多精彩内容