绑定完请刷新页面
取消
刷新

分享好友

×
取消 复制
探索 Go 中接口的性能
2020-05-05 15:26:24

问题

在 Go 中使用接口(interface{})好像有性能问题,但是真的如此吗,或者我们有哪些可以提升的空间,来看一下 golang 的一个 issue。例子中跑了三个 benchmark,一个是接口调用,一个是直接调用,后面我又加了一个接口断言后调用。

import (
    "testing"
)

type D interface {
    Append(D)
}

type Strings []string

func (s Strings) Append(d D) {}

func BenchmarkInterface(b *testing.B) {
    s := D(Strings{})
    for i := 0 ; i < b.N ; i += 1 {
        s.Append(Strings{""})
    }
}

func BenchmarkConcrete(b *testing.B) {
    s := Strings{} // only difference is that I'm not casting it to the generic interface
    for i := 0 ; i < b.N ; i += 1 {
        s.Append(Strings{""})
    }
}

func BenchmarkInterfaceTypeAssert(b *testing.B) {
    s := D(Strings{})
    for i := 0 ; i < b.N ; i += 1 {
        s.(Strings).Append(Strings{""})
    }
}
复制代码

我用的版本是 go version 1.13,执行结果如下,

执行了多遍结果没啥大的偏差,可以看到直接使用接口调用确实效率比直接调用低了非 常多。但是,当我们将类型断言之后,可以发现这个效率基本没有差别的。这是为什么呢?答案是内联和内存逃逸,注意红框内的内存分配。

内联 inline

什么是内联

内联是一个基本的编译器优化,它用被调用函数的主体替换函数调用。以消除调用开销,但更重要的是启用了其他编译器优化。这是在编译过程中自动执行的一类基本优化之一。它对于我们程序性能的提升主要有两方面

  1. 消除了函数调用本身的开销
  2. 允许编译器更有效地应用其他优化策略(例如常量折叠,公共子表达式消除,循环不变代码移动和更好的寄存器分配)

可以通过一个例子直观看一下内联的作用

package main

import "testing"

//go:noinline
func max(a, b int) int {
    if a > b {
        return a
    }
    return b
}

var Result int

func BenchmarkMax(b *testing.B) {
    var r int
    for i := 0; i < b.N; i++ {
        r = max(-1, i)
    }
    Result = r
}
复制代码

执行一下

go test -bench=. -benchmem -run=none
复制代码

可以看到结果

然后我们允许 max 函数内联,也就是把 //go:noinline 这行代码删除,再执行一遍。可以看到

对比使用内联的前后,我们可以看到性能有极大的提升,从 2.31 ns/op -> 0.519 ns/op

内联做了什么

首先,减少了相关函数的调用,将 max 的内容嵌入调用方减少了处理器执行指令的数量,消除了调用分支。

由于 r = max(-1, i)i是从 0 开始的,所以i > -1 ,那么 max 函数的 a > b 分支永远不会发生。编译器可以把这部分代码直接内联至调用方,优化后的代码如下。

func BenchmarkMax(b *testing.B) {
    var r int
    for i := 0; i < b.N; i++ {
        if -1 > i {
            r = -1
        } else {
            r = i
        }
    }
    Result = r
}
复制代码

替换成上述的代码,在执行一下可以看到性能是差不多的

上面讨论的这种情况是叶子内联,将调用栈底部的函数内联到直接调用方的行为。内联是一个递归的过程,一旦函数被内联到其调用方,编译器就可以将结果代码嵌入至调用方,以此类推。

内联的限制

并不是任何函数都是可以内联的,从 golang 的 wiki 可以看到下面这句话

Function Inlining

Only short and simple functions are inlined. To be inlined a function must contain less than ~40 expressions and does not contain complex things like loops, labels, closures, panic's, recover's, select's, switch'es, etc.

  • gc: 1.0+
  • gccgo: -O1 and above.

也就是说,仅能内联简短和简单的函数。 要内联,函数必须包含少于〜40个表达式,并且不包含复杂的语句,例如loop, label, closure, panic, recover, select, switch 等。

当然这种是有提示的,比如 for 语句,可以从提示里看到不支持内联。

堆栈中间内联 mid-stack

Go 1.8 开始,编译器默认不内联堆栈中间(mid-stack)函数(即调用了其他不可内联的函数)。堆栈中间内联(mid-stack)由 David Lazar 在 GO1.9 中引入 proposal,经过压测表明这种栈中内联可以将性能提高 9%,带来的副作用是编译的二进制文件大小会增加 15%。继续看一个例子

package main

import (
    "fmt"
    "strconv"
)

type Rectangle struct {}

//go:noinline
func (r *Rectangle) Height() int {
    h, _ := strconv.ParseInt("7", 10, 0)
    return int(h)
}

func (r *Rectangle) Width() int {
    return 6
}

func (r *Rectangle) Area() int { return r.Height() * r.Width() }

func main() {
    var r Rectangle
    fmt.Println(r.Area())
}
复制代码

在这个例子中,r.Area() 调用了r.Width()r.Height(),前者可以内联,后者由于添加了 //go:noinline 不能内联。我们执行下面的命令来看一下内联的情况。

go build -gcflags='-m=2' square.go  
复制代码

在输出的第 3、4 行可以看到,widthArea 函数都是可以被内联的,并且红框内是内联后的语句。

在第 6 行输出了以下内容,说明是不符合内联的条件的,有一个 budget 限制,这一块可以参考Go语言inline内联的策略与限制

./square.go:22:6: cannot inline main: function too complex: cost 150 exceeds budget 80
复制代码

因为与调用 r.Area() 的开销相比,r.Area() 执行的乘法是比较简单的,所以内联 r.Area() 的单个表达式,即使它调用的 r.Height() 不符合内联条件。

快速路径内联

由于 mid-stack 的优化,导致可以内联其他调用了不可内联的函数,快速路径内联就采用的这个思想,也就是说将复杂函数的复杂部分拆分称分支函数,这样快速路径就可以被内联了。例子来源于golang code-review,作者使用快速路径内联的手段将 RUnlock 能够被内联,从而实现了性能提升。

由于左侧的老代码包含了很多条件,导致 RUnlock 函数不能被内联。这里作者把条件复杂的逻辑拆分出去一个函数,称为慢路径函数。这里我们可以拿一个例子试试,这是个没有意义的例子,只为证明内联优化的存在。

package main

import (
    "sync"
)

var rw sync.RWMutex

func test(num int) int {
    rw.RLock()
    num += 1
    rw.RUnlock()
    return num
}
复制代码

使用 go 1.9 版本的输出,

使用 go 1.13 版本的输出,

从上面的输出,可以看到快路径优化后,内联生效了,据作者的压测表明,性能节省了 9%,当然我们可以自己压一下试试,经过多次测试,能有 18 ns/op -> 15 ns/op 的提升。

// go version 1.9
BenchmarkRlock-4        100000000               18.9 ns/op             0 B/op          0 allocs/op

// go version 1.13
BenchmarkRlock-4        76204650                15.3 ns/op             0 B/op          0 allocs/op
复制代码

逃逸分析 escape-analysis

什么是内存逃逸

首先我们知道,内存分为堆内存(heap)和栈内存(stack)。对于堆内存来说,是需要清理的。比如 c 语言中的 malloc 就是用来分配堆内存的,申请了堆内存之后一定要手动释放,不然就造成内存泄露。但是 Go 语言是有 GC 的,所以不需要手动释放。所以对于这一点而言,使用堆的成本比栈高,会给 GC 带来压力,因为堆上没有被指针引用的值都需要删除。随着检查和删除的值越多,GC 每次执行的工作就越多。

如果一个函数返回对一个变量的引用,那么它就会发生逃逸。因为在别的地方会引用这个变量,如果放在栈里,函数退出后,内存就被回收了,所以需要逃逸到堆上。

简而言之,逃逸分析决定了内存被分配到栈上还是堆上

如何监测内存逃逸

可以通过查看编译器的报告来了解是否发生了内存逃逸。使用 go build -gcflags='-m=2' 即可。总共有 4 个级别的 -m,但是超过 2 个 -m 级别的返回的信息比较多。通常使用 2 个 -m 级别。

接口类型的方法调用

go 中的接口类型的方法调用是动态调度,因此不能够在编译阶段确定,所有类型结构转换成接口的过程会涉及到内存逃逸的情况发生。

package main

type S struct {
    s1 int
}

func (s *S) M1(i int) { s.s1 = i }

type I interface {
    M1(int)
}

func g() {
    var s1 S  // 逃逸
    var s2 S  // 不逃逸
    var s3 S  // 不逃逸

    f1(&s1)
    f2(&s2)
    f3(&s3)
}

func f1(s I) { s.M1(42) }
func f2(s *S) { s.M1(42) }
func f3(s I) { s.(*S).M1(42) }
复制代码

查看一下编译器报告,

  1. 直接使用接口方法调用,不能内联。我们可以看个红框内,通过接口调用 I.M1(42) 不能内联,而断言和具体类型调用可以继续内联。
  2. 直接使用接口方法调用,会发生内存逃逸。而具体类型调用或者断言后调用,不会发生内存逃逸。这也验证了文章开头部分的压测,接口调用发生了内存分配,这些内存分配即是逃逸到堆上的内存。

回顾

我们在看一下文章开始的例子,

package main

type D interface {
    Append(D)
}

type Strings []string

func (s Strings) Append(d D) {}

func concreteTest() {
    s := Strings{} // only difference is that I'm not casting it to the generic interface
    for i := 0 ; i < 10 ; i += 1 {
        s.Append(Strings{""})
    }
}

func interfaceTest() {
    s := D(Strings{})
    for i := 0 ; i < 10 ; i += 1 {
        s.Append(Strings{""})
    }
}

func assertTest() {
    s := D(Strings{})
    for i := 0 ; i < 10 ; i += 1 {
        s.(Strings).Append(Strings{""})
    }
}
复制代码

执行

go build -gcflags='-m=2' iterface.go
复制代码

可以看到输出,

也就是接口直接调用,没有内联,并且发生了内存逃逸。当我们通过断言后再调用方法,发生了内联,并且没有内存逃逸。所以,接口直接调用的性能是有问题的。

总结

通过以上分析,我们在使用接口的时候一定要注意,好将接口断言出来再使用,这样会提高性能。同时日常开发中,可以多加分析,避免内存逃逸带来的内存消耗和 GC 的压力,提高性能。

参考

go issue 20116

go 性能调优

Go 编译优化 wiki

inlining opt by dave

mid-stack inline proposal

golang mid-stack issue

golang 内存逃逸

golang: Escape analysis and interfaces Go语言inline内联的策略与限制

分享好友

分享这个小栈给你的朋友们,一起进步吧。

精选翻译文章
创建时间:2020-07-13 17:15:07
小栈内文章为翻译文章,请大家多多指点围观
展开
订阅须知

• 所有用户可根据关注领域订阅专区或所有专区

• 付费订阅:虚拟交易,一经交易不退款;若特殊情况,可3日内客服咨询

• 专区发布评论属默认订阅所评论专区(除付费小栈外)

栈主、嘉宾

查看更多
  • hawkliu
    栈主

小栈成员

查看更多
  • victoria_ltt
  • yuansj1987
戳我,来吐槽~