形式语言理论
形式语言理论是用数学方法研究自然语言和人工语言如程序设计语言的语法的理论。它只研究语言的组成规则，不研究语言的含义。形式语言理论在自然语言的理解和翻译、计算机语言的描述和编译、社会和自然现象的模拟、语法制导的模式识别等方面有广泛的应用。
形式语言的形式文法
形式文法被严格地定义为四元组G=（N，T，P，S），
- S：start 开始符号
- P：productions 生成式集合
- T：terminal 终结符集合
- N：Nonterminal 非终结符集合
重点研究的四类文法：
根据P中生成式a→β的特点，可以将形式文法及其产生的形式语言分类，构成所谓的形式语言谱系。形式语言理论中重点研究四类文法和语言：
0型文法。又称为无限制文法。这种文法对生成式a→β不作特殊限制，a和β可以是任意的文法符号串，当然a不能是空字符串。0型文法是形式语言谱系中最大的文法类。由0型文法产生的形式语言恰是图灵机所识别的语言类，即递归可枚举语言。
1型文法。又称为上下文有关文法。这种文法要求生成式a→β满足|a|≤|β|，即β要至少和a一样长。由1型文法产生的语言称为1型语言或上下文有关语言。1型语言恰是非确定型线性有界自动机所识别的语言类。
2型文法。又称为上下文无关文法。这种文法要求生成式a→β中的a必须是变元。由2型文法产生的语言称为2型语言或上下文无关语言。2型语言恰是由下推自动机所识别的语言类。
3型文法。又称为正则文法。这种文法分为两种类型：第一类要求生成式的形式必须是A→ωB或A→ω，其中A，B都是变元，ω是终结符串（可以是空串），这种特殊的正则文法称为右线性文法。第二类正则文法称为左线性文法，它要求生成式必须是A→Bω，或A→ω的形式。由正则文法生成的语言称为正则语言，它恰是有穷自动机所识别的语言类。
上述定义的4种语言类具有依次包含关系，即对于i=0，1，2，在不考虑空字符串时，i型语言都真包含i+1型语言。
上下文无关文法（2型文法）
每一个不生成空串的上下文无关文法都可以转化为等价的Chomsky 范式或Greibach 范式。这里两个文法等价的含义指它们生成相同的语言。
由于 Chomsky 范式在形式上非常简单，所以它在理论和实践上都有应用。比如，对每一个上下文无关语言，我们可以利用 Chomsky 范式构造一个多项式算法，用它来判断一个给定字串是否属于这个语言（CKY算法[限制：P满足Chomsky范式]，chart算法[Generalize the CKY algorithm for all CFG]）。
CYK算法是基于动态规划思想设计的一种对上下文无关语言进行自底向上语法分析算法。
算法解析
在一个形式文法是Chomsky 范式的，当且仅当所有产生规则都有如下形式：
- A→BC或
- A→ α 或
- S→ ε
这里的A,B和C是非终结符，α 是终结符（表示常量值的符号），S是开始符号，而 ε 是空串。还有，B和C都不可以是开始符号。
所有的 Chomsky 范式的文法都是上下文无关，反过来，所有上下文无关文法都可以有效的变换成等价的 Chomsky 范式的文法。
还有一种范式Greibach Normal Form，满足以下规则：
A→aα，α∈N*(非终结符集合)
上下文无关文法与正则文法的区别
正则定义与上下文无关文法的重要区别在于，在正则定义中是不允许递归定义的，例如A → aA|b不是一个正则定义，为其左边的A必须是一个新的符号，也就是说不能在其他地方定义过，但是其右边要求每一个符号都是定义过的，因此这个定义无法满足。而上下文无关文法则没有这个约束，因此A → aA|b是一个上下文无关文法的产生式，但不是正则定义的定义式。
正则表达式在编译器构建中一般用来进行词法分析，通过NFA、DFA就可以识别，而更复杂的文法就需要以来其他算法了。
