详解逃逸分析
Go是一门带有垃圾回收的现代语言,它抛弃了传统C/C++的开发者需要手动管理内存的方式,实现了内存的主动申请和释放的管理。Go的垃圾回收,让堆和栈的概念对程序员保持透明,它增加的逃逸分析与GC,使得程序员的双手真正地得到了解放,给了开发者更多的精力去关注软件设计本身。
就像《CPU缓存体系对Go程序的影响》文章中说过的一样,“你不一定需要成为一名硬件工程师,但是你确实需要了解硬件的工作原理”。Go虽然帮我们实现了内存的自动管理,我们仍然需要知道其内在原理。内存管理主要包括两个动作:分配与释放。逃逸分析就是服务于内存分配,为了更好理解逃逸分析,我们先谈一下堆栈。
堆和栈
应用程序的内存载体,我们可以简单地将其分为堆和栈。
在Go中,栈的内存是由编译器自动进行分配和释放,栈区往往存储着函数参数、局部变量和调用函数帧,它们随着函数的创建而分配,函数的退出而销毁。一个goroutine对应一个栈,栈是调用栈(call stack)的简称。一个栈通常又包含了许多栈帧(stack frame),它描述的是函数之间的调用关系,每一帧对应一次尚未返回的函数调用,它本身也是以栈形式存放数据。
举例:在一个goroutine里,函数A()正在调用函数B(),那么这个调用栈的内存布局示意图如下。
与栈不同的是,应用程序在运行时只会存在一个堆。狭隘地说,内存管理只是针对堆内存而言的。程序在运行期间可以主动从堆上申请内存,这些内存通过Go的内存分配器分配,并由垃圾收集器回收。
栈是每个goroutine独有的,这就意味着栈上的内存操作是不需要加锁的。而堆上的内存,有时需要加锁防止多线程冲突(为什么要说有时呢,因为Go的内存分配策略学习了TCMalloc的线程缓存思想,他为每个处理器P分配了一个mcache,从mcache分配内存也是无锁的)。
而且,对于程序堆上的内存回收,还需要通过标记清除阶段,例如Go采用的三色标记法。但是,在栈上的内存而言,它的分配与释放非常廉价。简单地说,它只需要两个CPU指令:一个是分配入栈,另外一个是栈内释放。而这,只需要借助于栈相关寄存器即可完成。
另外还有一点,栈内存能更好地利用CPU的缓存策略。因为它们相较于堆而言是更连续的。
逃逸分析
我们如何知道一个对象是应该放在堆内存,还是栈内存之上呢?可以官网的FAQ(地址:https://golang.org/doc/faq
)中找到答案。
如果可以,Go编译器会尽可能将变量分配到到栈上。但是,当编译器无法证明函数返回后,该变量没有被引用,那么编译器就必须在堆上分配该变量,以此避免悬挂指针(dangling pointer)。另外,如果局部变量非常大,也会将其分配在堆上。
那么,Go是如何确定的呢?答案就是:逃逸分析。编译器通过逃逸分析技术去选择堆或者栈,逃逸分析的基本思想如下:检查变量的生命周期是否是完全可知的,如果通过检查,则可以在栈上分配。否则,就是所谓的逃逸,必须在堆上进行分配。
Go语言虽然没有明确说明逃逸分析规则,但是有以下几点准则,是可以参考的。
- 逃逸分析是在编译器完成的,这是不同于jvm的运行时逃逸分析;
- 如果变量在函数外部没有引用,则优先放到栈中;
- 如果变量在函数外部存在引用,则必定放在堆中;
我们可通过go build -gcflags '-m -l'
命令来查看逃逸分析结果,其中-m 打印逃逸分析信息,-l禁止内联优化。下面,我们通过一些案例,来熟悉一些常见的逃逸情况。
情况一:变量类型不确定
1package main
2
3import "fmt"
4
5func main() {
6 a := 666
7 fmt.Println(a)
8}
逃逸分析结果如下
1 $ go build -gcflags '-m -l' main.go
2# command-line-arguments
3./main.go:7:13: ... argument does not escape
4./main.go:7:13: a escapes to heap
分析结果告诉我们变量a
逃逸到了堆上。但是我们并没有外部引用,为什么也会有逃逸呢?为了看到更多细节,可以在语句中再添加一个-m
参数。得到信息如下
1 $ go build -gcflags '-m -m -l' main.go
2# command-line-arguments
3./main.go:7:13: a escapes to heap:
4./main.go:7:13: flow: {storage for ... argument} = &{storage for a}:
5./main.go:7:13: from a (spill) at ./main.go:7:13
6./main.go:7:13: from ... argument (slice-literal-element) at ./main.go:7:13
7./main.go:7:13: flow: {heap} = {storage for ... argument}:
8./main.go:7:13: from ... argument (spill) at ./main.go:7:13
9./main.go:7:13: from fmt.Println(... argument...) (call parameter) at ./main.go:7:13
10./main.go:7:13: ... argument does not escape
11./main.go:7:13: a escapes to heap
a逃逸是因为它被传入了fmt.Println
的参数中,这个方法参数自己发生了逃逸。
1func Println(a ...interface{}) (n int, err error)
2
因为fmt.Println
的函数参数为interface
类型,编译期不能确定其参数的具体类型,所以将其分配于堆上。
情况二:暴露给外部指针
1package main
2
3func foo() *int {
4 a := 666
5 return &a
6}
7
8func main() {
9 _ = foo()
10}
逃逸分析如下,变量a发生了逃逸。
1 $ go build -gcflags '-m -m -l' main.go
2# command-line-arguments
3./main.go:4:2: a escapes to heap:
4./main.go:4:2: flow: ~r0 = &a:
5./main.go:4:2: from &a (address-of) at ./main.go:5:9
6./main.go:4:2: from return &a (return) at ./main.go:5:2
7./main.go:4:2: moved to heap: a
这种情况直接满足我们上述中的原则:变量在函数外部存在引用。这个很好理解,因为当函数执行完毕,对应的栈帧就被销毁,但是引用已经被返回到函数之外。如果这时外部从引用地址取值,虽然地址还在,但是这块内存已经被释放回收了,这就是非法内存,问题可就大了。所以,很明显,这种情况必须分配到堆上。
情况三:变量所占内存较大
1func foo() {
2 s := make([]int, 10000, 10000)
3 for i := 0; i < len(s); i++ {
4 s[i] = i
5 }
6}
7
8func main() {
9 foo()
10}
逃逸分析结果
1$ go build -gcflags '-m -m -l' main.go
2# command-line-arguments
3./main.go:4:11: make([]int, 10000, 10000) escapes to heap:
4./main.go:4:11: flow: {heap} = &{storage for make([]int, 10000, 10000)}:
5./main.go:4:11: from make([]int, 10000, 10000) (too large for stack) at ./main.go:4:11
6./main.go:4:11: make([]int, 10000, 10000) escapes to heap
当我们创建了一个容量为10000的int
类型的底层数组对象时,由于对象过大,它也会被分配到堆上。这里我们不禁要想一个问题,为啥大对象需要分配到堆上。
这里需要注意,在上文中没有说明的是:在Go中,执行用户代码的goroutine是一种用户态线程,其调用栈内存被称为用户栈,它其实也是从堆区分配的,但是我们仍然可以将其看作和系统栈一样的内存空间,它的分配和释放是通过编译器完成的。与其相对应的是系统栈,它的分配和释放是操作系统完成的。在GMP模型中,一个M对应一个系统栈(也称为M的g0
栈),M上的多个goroutine会共享该系统栈。
不同平台上的系统栈最大限制不同。
1$ ulimit -s
28192
以x86_64架构为例,它的系统栈大小最大可为8Mb。我们常说的goroutine初始大小为2kb,其实说的是用户栈,它的最小和最大可以在runtime/stack.go
中找到,分别是2KB和1GB。
1// The minimum size of stack used by Go code
2_StackMin = 2048
3...
4var maxstacksize uintptr = 1 << 20 // enough until runtime.main sets it for real
而堆则会大很多,从1.11之后,Go采用了稀疏的内存布局,在Linux的x86-64架构上运行时,整个堆区最大可以管理到256TB的内存。所以,为了不造成栈溢出和频繁的扩缩容,大的对象分配在堆上更加合理。那么,多大的对象会被分配到堆上呢。
通过测试,小菜刀发现该大小为64KB(这在Go内存分配中是属于大对象的范围:>32kb),即s :=make([]int, n, n)
中,一旦n
达到8192,就一定会逃逸。注意,网上有人通过fmt.Println(unsafe.Sizeof(s))
得到s
的大小为24字节,就误以为只需分配24个字节的内存,这是错误的,因为实际还有底层数组的内存需要分配。
情况四:变量大小不确定
我们将情况三种的示例,简单更改一下。
1package main
2
3func foo() {
4 n := 1
5 s := make([]int, n)
6 for i := 0; i < len(s); i++ {
7 s[i] = i
8 }
9}
10
11func main() {
12 foo()
13}
得到逃逸分析结果如下
1$ go build -gcflags '-m -m -l' main.go
2# command-line-arguments
3./main.go:5:11: make([]int, n) escapes to heap:
4./main.go:5:11: flow: {heap} = &{storage for make([]int, n)}:
5./main.go:5:11: from make([]int, n) (non-constant size) at ./main.go:5:11
6./main.go:5:11: make([]int, n) escapes to heap
这次,我们在make
方法中,没有直接指定大小,而是填入了变量n
,这时Go逃逸分析也会将其分配到堆区去。可见,为了保证内存的绝对安全,Go的编译器可能会将一些变量不合时宜地分配到堆上,但是因为这些对象最终也会被垃圾收集器处理,所以也能接受。
总结
本文只列举了逃逸分析的部分例子,实际的情况还有很多,理解思想最重要。这里就不过多列举了。
既然Go的堆栈分配对于开发者来说是透明的,编译器已经通过逃逸分析为对象选择好了分配方式。那么我们还可以从中获益什么?
答案是肯定的,理解逃逸分析一定能帮助我们写出更好的程序。知道变量分配在栈堆之上的差别,那么我们就要尽量写出分配在栈上的代码,堆上的变量变少了,可以减轻内存分配的开销,减小gc的压力,提高程序的运行速度。
所以,你会发现有些Go上线项目,它们在函数传参的时候,并没有传递结构体指针,而是直接传递的结构体。这个做法,虽然它需要值拷贝,但是这是在栈上完成的操作,开销远比变量逃逸后动态地在堆上分配内存少的多。当然该做法不是绝对的,如果结构体较大,传递指针将更合适。
因此,从GC的角度来看,指针传递是个双刃剑,需要谨慎使用,否则线上调优解决GC延时可能会让你崩溃。