Go 语言编译过程概述

我就是我 2022-03-06 20:12 247阅读 0赞

Golang 是一门需要编译才能运行的编程语言，也就说代码在运行之前需要通过编译器生成二进制机器码，随后二进制文件才能在目标机器上运行，如果我们想要了解 Go 语言的实现原理，理解它的编译过程就是一个没有办法绕过的事情。

这一节会先对 Go 语言编译的过程进行概述，从顶层介绍编译器执行的几个步骤，随后的章节会分别剖析各个步骤完成的工作和实现原理，同时也会对一些需要预先掌握的知识进行介绍和准备，确保后面的章节能够被更好的理解。

## 目录 ##

*  [编译原理概述][Link 1]
 *  [词法和语法分析器][Link 2]
 *  [类型检查][Link 3]
 *  [中间代码生成][Link 4]
 *  [机器码生成][Link 5]

## 预备知识 ##

想要深入了解 Go 语言的编译过程，需要提前了解一下编译过程中涉及的一些术语和专业知识。这些知识其实在我们的日常工作和学习中比较难用到，但是对于理解编译的过程和原理还是非常重要的。这一小节会简单挑选几个常见并且重要的概念提前进行介绍，减少后面章节的理解压力。

### 抽象语法树 ###

[抽象语法树（AST）][AST]是源代码语法的结构的一种抽象表示，它用树状的方式表示编程语言的语法结构。抽象语法树中的每一个节点都表示源代码中的一个元素，每一颗子树都表示一个语法元素，例如一个 if else 语句，我们可以从 `2 * 3 + 7` 这一表达式中解析出下图所示的抽象语法树。

![abstract-syntax-tree][]

作为编译器常用的数据结构，抽象语法树抹去了源代码中不重要的一些字符 - 空格、分号或者括号等等。编译器在执行完语法分析之后会输出一个抽象语法树，这棵树会辅助编译器进行语义分析，我们可以用它来确定结构正确的程序是否存在一些类型不匹配或不一致的问题。

### 静态单赋值 ###

静态单赋值（SSA）是中间代码的一个特性，如果一个中间代码具有静态单赋值的特性，那么每个变量就只会被赋值一次，在实践中我们通常会用添加下标的方式实现每个变量只能被赋值一次的特性，这里以下面的代码举一个简单的例子：

x := 1
    x := 2
    y := x

根据分析，我们其实能够发现上述的代码其实并不需要第一个将 `1` 赋值给 `x` 的表达式，也就是这一表达式在整个代码片段中是没有作用的：

x1 := 1
    x2 := 2
    y1 := x2

从使用 SSA 的『中间代码』我们就可以非常清晰地看出变量 `y1` 的值和 `x1` 是完全没有任何关系的，所以在机器码生成时其实就可以省略第一步，这样就能减少需要执行的指令来优化这一段代码。

根据 [Wikipedia][] 对 SSA 的介绍来看，在中间代码中使用 SSA 的特性能够为整个程序实现以下的优化：

1.  常数传播（constant propagation）
2.  值域传播（value range propagation）
3.  稀疏有条件的常数传播（sparse conditional constant propagation）
4.  消除无用的程式码（dead code elimination）
5.  全域数值编号（global value numbering）
6.  消除部分的冗余（partial redundancy elimination）
7.  强度折减（strength reduction）
8.  寄存器分配（register allocation）

从 SSA 的作用我们就能看出，因为它的主要作用就是代码的优化，所以是编译器后端（主要负责目标代码的优化和生成）的一部分；当然，除了 SSA 之外代码编译领域还有非常多的中间代码优化方法，优化编译器生成的代码是一个非常古老并且复杂的领域，这里就不会展开介绍了。

### 指令集架构 ###

最后要介绍的一个预备知识就是指令集的架构了，很多开发者都会遇到在生产环境运行的结果和本地不同的问题，导致这种情况的原因其实非常复杂，不同机器使用不同的指令也是可能的原因之一。

我们大多数开发者都会使用 x86\_64 的 Macbook 作为工作上主要使用的硬件，在命令行中输入 `uname -m` 就能够获得当前机器上硬件的信息：

$ uname -m
    x86_64

x86\_64 是目前比较常见的指令集架构之一，除了 x86\_64 之外，还包含其他类型的指令集架构，例如 amd64、arm64 以及 mips 等等，不同的处理器使用了大不相同的机器语言，所以很多编程语言为了在不同的机器上运行需要将源代码根据架构翻译成不同的机器代码。

复杂指令集计算机（CISC）和精简指令集计算机（RISC）是目前的两种 CPU 区别，它们的在设计理念上会有一些不同，从名字我们就能看出来这两种不同的设计有什么区别，复杂指令集通过增加指令的数量减少需要执行的质量数，而精简指令集能使用更少的指令完成目标的计算任务；早期的 CPU 为了减少机器语言指令的数量使用复杂指令集完成计算任务，这两者之前的区别其实就是设计上的权衡，我们会在后面的章节 [机器码生成][Link 5] 中详细介绍指令集架构，当然各位读者也可以自行搜索和学习。

## 编译原理 ##

Go 语言编译器的源代码在 `cmd/compile` 目录中，目录下的文件共同构成了 Go 语言的编译器，学过编译原理的人可能听说过编译器的前端和后端，编译器的前端一般承担着词法分析、语法分析、类型检查和中间代码生成几部分工作，而编译器后端主要负责目标代码的生成和优化，也就是将中间代码翻译成目标『机器』能够运行的机器码。

![complication-process][]

Go 的编译器在逻辑上可以被分成四个阶段：词法与语法分析、类型检查和 AST 转换、通用 SSA 生成和最后的机器代码生成，在这一节我们会使用比较少的篇幅分别介绍这四个阶段做的工作，后面的章节会具体介绍每一个阶段的具体内容。

### 词法与语法分析 ###

所有的编译过程其实都是从解析代码的源文件开始的，词法分析的作用就是解析源代码文件，它将文件中的字符串序列转换成 Token 序列，方便后面的处理和解析，我们一般会把执行词法分析的程序称为词法解析器（lexer）。

而语法分析的输入就是词法分析器输出的 Token 序列，这些序列会按照顺序被语法分析器进行解析，语法的解析过程就是将词法分析生成的 Token 按照语言定义好的文法（Grammar）自下而上或者自上而下的进行规约，每一个 Go 的源代码文件最终会被归纳成一个 `SourceFile` 结构：

SourceFile = PackageClause ";" { ImportDecl ";" } { TopLevelDecl ";" } .

标准的 Golang 语法解析器使用的就是 LALR(1) 的文法，语法解析的结果其实就是上面介绍过的抽象语法树（AST），每一个 AST 都对应着一个单独的 Go 语言文件，这个抽象语法树中包括当前文件属于的包名、定义的常量、结构体和函数等。

![golang-files-and-ast][]

如果在语法解析的过程中发生了任何语法错误，都会被语法解析器发现并将消息打印到标准输出上，整个编译过程也会随着错误的出现而被中止。

我们会在这一章后面的小节 [词法与语法分析][Link 2] 中介绍 Go 语言的文法和它的词法与语法解析过程。

### 类型检查 ###

当拿到一组文件的抽象语法树 AST 之后，Go 语言的编译器会对语法树中定义和使用的类型进行检查，类型检查分别会按照顺序对不同类型的节点进行验证，按照以下的顺序进行处理：

1.  常量、类型和函数名及类型；
2.  变量的赋值和初始化；
3.  函数和闭包的主体；
4.  哈希键值对的类型；
5.  导入函数体；
6.  外部的声明；

通过对每一棵抽象节点树的遍历，我们在每一个节点上都会对当前子树的类型进行验证保证当前节点上不会出现类型错误的问题，所有的类型错误和不匹配都会在这一个阶段被发现和暴露出来。

类型检查的阶段不止会对树状结构的节点进行验证，同时也会对一些内建的函数进行展开和改写，例如 `make` 关键字在这个阶段会根据子树的结构被替换成 `makeslice` 或者 `makechan` 等函数。

![golang-keyword-make][]

我们其实能够看出类型检查不止做了验证类型的工作，还做了对 AST 进行改写，处理 Go 语言内置关键字的活，所以，这一过程在整个编译流程中还是非常重要的，没有这个步骤很多关键字其实就没有办法工作，后面的章节 [类型检查][Link 3] 会介绍这一步骤。

### 中间代码生成 ###

当我们将源文件转换成了抽象语法树、对整棵树的语法进行解析并进行类型检查之后，就可以认为当前文件中的代码基本上不存在无法编译或者语法错误的问题了，Go 语言的编译器就会将输入的 AST 转换成中间代码。

Go 语言编译器的中间代码使用了 [SSA(Static Single Assignment Form)][SSA_Static Single Assignment Form] 的特性，如果我们在中间代码生成的过程中使用这种特性，就能够比较容易的分析出代码中的无用变量和片段并对代码进行优化。

在类型检查之后，就会通过一个名为 `compileFunctions` 的函数开始对整个 Go 语言项目中的全部函数进行编译，这些函数会在一个编译队列中等待几个后端工作协程的消费，这些 Goroutine 会将所有函数对应的 AST 转换成使用 SSA 特性的中间代码。

[中间代码生成][Link 4] 这一章节会详细介绍中间代码的生成过程并简单介绍 Golang 是如何在中间代码中使用 SSA 的特性的，在这里就不展开介绍其他的内容了。

### 机器码生成 ###

Go 语言源代码的 `cmd/compile/internal` 中包含了非常多机器码生成相关的包，不同类型的 CPU 分别使用了不同的包进行生成 amd64、arm、arm64、mips、mips64、ppc64、s390x、x86 和 wasm，也就是说 Go 语言能够在上述的 CPU 指令集类型上运行，其中比较有趣的就是 [WebAssembly][] 了。

作为一种在栈虚拟机上使用的二进制指令格式，它的设计的主要目标就是在 Web 浏览器上提供一种具有高可移植性的目标语言。Go 语言的编译器既然能够生成 WASM 格式的指令，那么就能够运行在常见的主流浏览器中。

$ GOARCH=wasm GOOS=js go build -o lib.wasm main.go

我们可以使用上述的命令将 Go 的源代码编译成能够在浏览器上运行的『汇编语言』，除了这种新兴的指令之外，Go 语言还支持了几乎全部常见的 CPU 指令集类型，也就是说它编译出的机器码能够在使用上述指令集的机器上运行。

[机器码生成][Link 5] 一节会详细介绍将中间代码翻译到不同目标机器的过程，在这个章节中也会简单介绍不同的指令集架构的区别。

## 编译器入口 ##

Go 语言的编译器入口在 `src/cmd/compile/internal/pc` 包中的 main.go 文件，这个 600 多行的 `Main` 函数就是 Go 语言编译器的主程序，这个函数会先获取命令行传入的参数并更新编译的选项和配置，随后就会开始运行 `parseFiles` 函数对输入的所有文件进行词法与语法分析得到文件对应的抽象语法树：

func Main(archInit func(*Arch)) {
        // ...
    
        lines := parseFiles(flag.Args())

接下来就会分九个阶段对抽象语法树进行更新和编译，就像我们在上面介绍的，整个过程会经历类型检查、SSA 中间代码生成以及机器码生成三个部分：

1.  检查常量、类型和函数的类型；
2.  处理变量的赋值；
3.  对函数的主体进行类型检查；
4.  决定如何捕获变量；
5.  检查内联函数的类型；
6.  进行逃逸分析；
7.  将闭包的主体转换成引用的捕获变量；
8.  编译顶层函数；
9.  检查外部依赖的声明；

了解了剩下的编译过程之后，我们重新回到词法和语法分析后的具体流程，在这里编译器会对生成语法树中的节点执行类型检查，除了常量、类型和函数这些顶层声明之外，它还会对变量的赋值语句、函数主体等结构进行检查：

for i := 0; i < len(xtop); i++ {
            n := xtop[i]
            if op := n.Op; op != ODCL && op != OAS && op != OAS2 && (op != ODCLTYPE || !n.Left.Name.Param.Alias) {
                xtop[i] = typecheck(n, ctxStmt)
            }
        }
    
        for i := 0; i < len(xtop); i++ {
            n := xtop[i]
            if op := n.Op; op == ODCL || op == OAS || op == OAS2 || op == ODCLTYPE && n.Left.Name.Param.Alias {
                xtop[i] = typecheck(n, ctxStmt)
            }
        }
    
        for i := 0; i < len(xtop); i++ {
            n := xtop[i]
            if op := n.Op; op == ODCLFUNC || op == OCLOSURE {
                typecheckslice(Curfn.Nbody.Slice(), ctxStmt)
            }
        }
    
        checkMapKeys()
    
        for _, n := range xtop {
            if n.Op == ODCLFUNC && n.Func.Closure != nil {
                capturevars(n)
            }
        }
    
        escapes(xtop)
    
        for _, n := range xtop {
            if n.Op == ODCLFUNC && n.Func.Closure != nil {
                transformclosure(n)
            }
        }

类型检查会对传入节点的子节点进行遍历，这个过程会对 `make` 等关键字进行展开和重写，类型检查结束之后并没有输出新的数据结构，只是改变了语法树中的一些节点，同时这个过程的结束也意味着源代码中已经不存在语法错误和类型错误，中间代码和机器码也都可以正常的生成了。

initssaconfig()
    
        peekitabs()
    
        for i := 0; i < len(xtop); i++ {
            n := xtop[i]
            if n.Op == ODCLFUNC {
                funccompile(n)
            }
        }
    
        compileFunctions()
    
        for i, n := range externdcl {
            if n.Op == ONAME {
                externdcl[i] = typecheck(externdcl[i], ctxExpr)
            }
        }
    
        checkMapKeys()
    }

在主程序运行的最后，会将顶层的函数编译成中间代码并根据目标的 CPU 架构生成机器码，不过这里其实也可能会再次对外部依赖进行类型检查以验证正确性。

## 总结 ##

Go 语言的编译过程其实是非常有趣并且值得学习的，通过对 Go 语言四个编译阶段的分析和对编译器主函数的梳理，我们能够对 Golang 的实现有一些基本的理解，掌握编译的过程之后，Go 语言对于我们来讲也不再是一个黑盒，所以学习其编译原理的过程还是非常让人着迷的。

## 相关文章 ##

*  [编译原理概述][Link 1]
 *  [词法和语法分析器][Link 2]
 *  [类型检查][Link 3]
 *  [中间代码生成][Link 4]
 *  [机器码生成][Link 5]

## Reference ##

*  [Introduction to the Go compiler][]
 *  [Go 1.5 Bootstrap Plan][]
 *  [Go grammar questio][]
 *  [what type of grammar GO programming language?][what type of grammar GO programming language]

[Link 1]: https://draveness.me/golang-compile-intro
[Link 2]: https://draveness.me/golang-lexer-and-parser
[Link 3]: https://draveness.me/golang-typecheck
[Link 4]: https://draveness.me/golang-ir-ssa
[Link 5]: https://draveness.me/golang-machinecode
[AST]: https://en.wikipedia.org/wiki/Abstract_syntax_tree
[abstract-syntax-tree]: /images/20220307/4598a2017edf4e89848bc6ce3c756c32.png
[Wikipedia]: https://zh.wikipedia.org/wiki/%E9%9D%99%E6%80%81%E5%8D%95%E8%B5%8B%E5%80%BC%E5%BD%A2%E5%BC%8F
[complication-process]: /images/20220307/65cb6dba63214e47b55a1fca45b9e046.png
[golang-files-and-ast]: /images/20220307/051dad3278374bcc81e48d704039bba2.png
[golang-keyword-make]: /images/20220307/6a09339b00e245fc9cfe50c5cab65529.png
[SSA_Static Single Assignment Form]: https://en.wikipedia.org/wiki/Static_single_assignment_form
[WebAssembly]: https://webassembly.org/
[Introduction to the Go compiler]: https://github.com/golang/go/tree/master/src/cmd/compile
[Go 1.5 Bootstrap Plan]: https://docs.google.com/document/d/1OaatvGhEAq7VseQ9kkavxKNAfepWy2yhPUBs96FGV28/edit
[Go grammar questio]: https://groups.google.com/forum/#!topic/golang-nuts/4G56k9TvQaQ
[what type of grammar GO programming language]: https://groups.google.com/forum/#!msg/golang-nuts/jVjbH2-emMQ/UdZlSNhd3DwJ