Go 语言使用 TCP_NODELAY 控制发包流量

以下文章来源于非常程序员 ，作者yoko

编写健壮且高性能的网络服务需要付出大量的努力。提高服务性能的方式有很多种，比如优化应用层的代码，更进一步，还可以看看垃圾回收器，操作系统，网络传输，以及部署我们服务的硬件是否有优化空间。

TCP/IP 协议栈中的一些算法会影响到服务性能。本文将简单介绍其中的 Nagle 算法，与 Nagle 算法相关的 socket 选项TCP_NODELAY，以及在 Go 语言中如何使用它。

理论

大部分平台上的 TCP 实现都提供了 socket 选项，用于控制连接生命周期，流量控制等算法。

其中一个会对网络传输性能造成影响的算法是 Nagle 算法，它在 linux，macOS，windows 平台默认都是打开的。

Nagle 算法的做法是：将要发送的小包合并，并延缓发送。延缓后的发送策略是，收到前一个发送出去的包的 ACK 确认包，或者一定时间后，收集了足够数量的小数据包。

Nagle 算法的目的是减少发送小包的数量，从而减小带宽，并提高网络吞吐量，付出的代价是有时会增加服务的延时。（译者 yoko 注：补充解释一下为什么减少小包的数量可以减小带宽。因为每个 TCP 包，除了包体中包含的应用层数据外，外层还要套上 TCP 包头和 IP 包头。由于应用层要发送的业务数据量是固定的，所以包数量越多，包头占用的带宽也越多）

引入的延时通常在毫秒级别，但是对于延迟敏感的服务来说，减少一些毫秒数的延迟也是值得的。

Nagle 算法所对应的 TCP socket 选项是TCP_NODELAY。开启TCP_NODELAY可以禁用 Nagle 算法。禁用 Nagle 算法后，数据将尽可能快的被发送出去。

另外，我们也可以在应用层对数据进行缓存合并发送来达到 Nagle 算法的目的（译者 yoko 注：在 Go 语言中即使用bufio.Writer。个人认为，使用bufio.Writer还有一个好处，就是减少了调用 write 系统调用的次数，但是相应的，增加了数据拷贝的开销）。

在 Go 语言中，TCP_NODELAY默认是开启的，并且标准库提供了net.SetNodelay(bool)方法来控制它。

实验

我们通过一个小实验来观察TCP_NODELAY打开和关闭时底层 TCP 包的变化。

代码逻辑十分简单，client 端连续调用 5 次conn.Write函数向 server 端发送相同的字符串GOPHER。

服务端代码（server.go）：

package mainimport (    "bufio"    "fmt"    "log"    "net"    "strings")func main() {    port := ":" + "8000"    // 创建监听    l, err := net.Listen("tcp", port)    if err != nil {        log.Fatal(err)    }    defer l.Close()    for {        // 接收新的连接        c, err := l.Accept()        if err != nil {            log.Println(err)            return        }        // 处理新的连接        go handleConnection(c)    }}func handleConnection(c net.Conn) {    fmt.Printf("Serving %sn", c.RemoteAddr().String())    for {        // 读取数据        netData, err := bufio.NewReader(c).ReadString('n')        if err != nil {            log.Println(err)            return        }        cdata := strings.TrimSpace(netData)        if cdata == "GOPHER" {            c.Write([]byte("GopherAcademy Advent 2019!"))        }        if cdata == "EXIT" {            break        }    }    c.Close()}

客户端代码（client.go）：

package mainimport (    "fmt"    "log"    "net")func main() {    target := "localhost:8000"    raddr, err := net.ResolveTCPAddr("tcp", target)    if err != nil {        log.Fatal(err)    }    // 和服务端建立连接    conn, err := net.DialTCP("tcp", nil, raddr)    if err != nil {        log.Fatal(err)    }    // conn.SetNoDelay(false) // 如果打开这行代码，则禁用TCP_NODELAY，打开Nagle算法    fmt.Println("Sending Gophers down the pipe...")    for i := 0; i < 5; i++ {        // 发送数据        _, err = conn.Write([]byte("GOPHERn"))        if err != nil {            log.Fatal(err)        }    }}

为了观察 TCP 包，首先开启抓包程序 tcpdump。为了简单，两个程序都在本机运行。我环境的内网环路网卡为lo0，不同机器上可能不同：

$sudo tcpdump -X  -i lo0 'port 8000'

然后，再打开两个终端窗口，先执行服务端程序，再执行客户端程序：

$go run server.go

$go run client.go

观察抓包结果，我们会发现每次调用 write 函数发送"GOPHER"，对应的都是一个独立的 TCP 包被发送。总共有 5 个 TCP 包。以下是抓包结果，为了简单，我只贴出两个包：

....14:03:11.057782 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 15:22, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 7        0x0000:  4500 003b 0000 4000 4006 0000 7f00 0001  E..;..@.@.......        0x0010:  7f00 0001 e2ae 1f40 80c5 9759 6171 9822  .......@...Yaq."        0x0020:  8018 18eb fe2f 0000 0101 080a 2c5a 8eda  ...../......,Z..        0x0030:  2c5a 8eda 474f 5048 4552 0a              ,Z..GOPHER.14:03:11.057787 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 22:29, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 7        0x0000:  4500 003b 0000 4000 4006 0000 7f00 0001  E..;..@.@.......        0x0010:  7f00 0001 e2ae 1f40 80c5 9760 6171 9822  .......@...`aq."        0x0020:  8018 18eb fe2f 0000 0101 080a 2c5a 8eda  ...../......,Z..        0x0030:  2c5a 8eda 474f 5048 4552 0a              ,Z..GOPHER....

如果我们打开客户端中被注释掉的conn.SetNoDelay(false)这行代码，也即禁用掉TCP_NODELAY，开启 Nagle 算法，再次抓包，结果如下：

14:27:20.120673 IP localhost.64086 > localhost.irdmi: Flags [P.], seq 8:36, ack 1, win 6379, options [nop,nop,TS val 745574362 ecr 745574362], length 28        0x0000:  4500 0050 0000 4000 4006 0000 7f00 0001  E..P..@.@.......        0x0010:  7f00 0001 fa56 1f40 07c9 d46f a115 3444  .....V.@...o..4D        0x0020:  8018 18eb fe44 0000 0101 080a 2c70 8fda  .....D......,p..        0x0030:  2c70 8fda 474f 5048 4552 0a47 4f50 4845  ,p..GOPHER.GOPHE        0x0040:  520a 474f 5048 4552 0a47 4f50 4845 520a  R.GOPHER.GOPHER.

可以看到，有四个"GOPHER"被合并到了一个 TCP 包中。

结论

TCP_NODELAY并不是万能的，有好处有坏处，需要根据实际业务场景决定打开还是关闭。但是，在使用具体语言编写网络服务时，我们需要知道它是否被默认开启。

还有其他一些类似的 socket 选项，比如TCP_QUICKACK和TCP_CORK等。但是由于有些 socket 选项是平台相关的，因此 Go 没有提供和TCP_NODELAY相同的方式来控制这些 socket 选项。我们可以通过一些平台相关的包来实现这一点。比如说，在类 unix 系统下，我们可以使用golang.org/x/sys/unix包中的SetsockoptInt方法。

举例：

err = unix.SetsockoptInt(fd, unix.IPPROTO_TCP, unix.TCP_QUICKACK, 1)if err != nil {  return os.NewSyscallError("setsockopt", err)}

最后，如果你想学习更多和 Nagle 算法相关的知识，可以看看这篇英文博客[1]

英文原文链接：Control packet flow with TCP_NODELAY in Go[2]

参考资料

[1]

英文博客: https://www.extrahop.com/company/blog/2016/tcp-nodelay-nagle-quickack-best-practices/

[2]

Control packet flow with TCP_NODELAY in Go: https://blog.gopheracademy.com/advent-2019/control-packetflow-tcp-nodelay/