您当前的位置:首页 > 电脑百科 > 程序开发 > 语言 > Go语言

调度器是怎么处理核上任务分配的?

时间:2020-08-28 14:20:15  来源:  作者:
调度器是怎么处理核上任务分配的?

 

Illustration created for “A Journey With Go”, made from the original Go Gopher, created by Renee French.

ℹ️ 这篇文章基于 Go 1.13 版本。

在 Go 中创建 gorotine 既方便又快捷,然而 Go 在同一时间内最多在一个核上运行一个 gorotine,因此需要一种方法来存放其他的 gorotine,从而确保处理器(processor)负载均衡。

Goroutine 队列

Go 使用两级队列来管理等待中的 goroutine,分别为本地队列和全局队列。每一个处理器都拥有本地队列,而全局队列是唯一的,且能被所有的处理器访问到:

调度器是怎么处理核上任务分配的?

 

Global and local queues

每个本地队列都有最大容量,为 256。在容量满了之后,任意新到来的 Goroutine 都会被放置到全局队列。下面的例子是,生产了上千个 Goroutine 的程序:

func main() {
   var wg sync.WaitGroup

   for i := 0;i < 2000 ;i++ {
      wg.Add(1)
      Go func() {
         a := 0

         for i := 0; i < 1e6; i++ {
            a += 1
         }

         wg.Done()
      }()
   }

   wg.Wait()
}

下面是拥有两个处理器的调度器追踪数据(traces):

调度器是怎么处理核上任务分配的?

 

Details of the local and global queues

追踪数据通过 runqueue 展示了全局队列中 Goroutine 的数量,以及方括号中 [3 256] 的本地队列 goroutine 数量(分别为 P0 和 P1)。当本地队列满了,积压了 256 个等待中的 goroutine 后,下一个 Goroutine 会被压栈到全局队列中,正如我们从 runqueue 看到的数量增长一样。

Goroutine 仅在本地队列满载之后才会加入到全局队列;它也会在 Go 往调度器中批量注入时被加到全局队列,例如,网络轮询器(network poller) 或者在垃圾回收期间等待的 goroutine。

下面是上一个例子的图示:

调度器是怎么处理核上任务分配的?

 

Local queues have up to 256 goroutines

不过,我们还想知道,为什么本地队列 P0 在上一个列子中不为空。因为 Go 使用了其他策略确保每个处理器都有任务处理。

任务窃取

如果处理器没有任务可处理,它会按以下规则来执行,直到满足某一条规则:

  • 从本地队列获取任务
  • 从全局队列获取任务
  • 从网络轮询器获取任务
  • 从其它的处理器的本地队列窃取任务

在我们前面的例子中,主函数在 P1 上运行并创建 goroutine。当第一批 gourinte 已经进入了 P1 的本地队列时,P0 正在寻找任务。然而,它的本地队列,全局队列,以及网络轮询器都是空的。最后的解决方法是从 P1 中窃取任务。

调度器是怎么处理核上任务分配的?

 

Work-stealing by P0

下面是调度器在发生任务窃取前后的追踪数据:

调度器是怎么处理核上任务分配的?

 

Work-stealing by P0

追踪数据展示了,处理器是如何从其它处理器中窃取任务的。它从(其他处理器的)本地队列中取走一半的 goroutine;在七个 Goroutine 中,偷走了四个 —— 其中一个立马在 P0 执行,剩下的放到本地队列。现在处理器间工作处于负载良好的状态。这能通过执行 tracing 来确认:

调度器是怎么处理核上任务分配的?

 

goroutine 被合理地分发,然后因为没有 I/O,goroutine 被链式执行而不需要切换。我们现在看一下,当出现例如涉及到文件操作等 I/O 时,会发生什么。

I/O 与全局队列

一起看下涉及到文件操作的例子:

func main() {
   var wg sync.WaitGroup

   for i := 0;i < 20 ;i++ {
      wg.Add(1)
      Go func() {
         a := 0
         for i := 0; i < 1e6; i++ {
            a += 1
            if i == 1e6/2 {
               bytes, _ := ioutil.ReadFile(`add.txt`)
               inc, _ := strconv.Atoi(string(bytes))
               a += inc
            }
         }
         wg.Done()
      }()
   }

   wg.Wait()
}

变量 a 随着时间以文件的字节数增加,下面是新的追踪数据:

调度器是怎么处理核上任务分配的?

 

在这个例子中,我们能看到每一个 Goroutine 不只被一个处理器处理。在系统调用的情况下,当调用完成后,Go 使用网络轮询器从全局队列中把 gouroutine 取回来。这里是 Goroutine #35 的一个示意图:

调度器是怎么处理核上任务分配的?

 

I/O operations put the work back to the global queue

当一个处理器能从全局队列中获取任务,第一个可用的处理器( P) 会执行这个 goroutine。这个行为解释了,为什么一个 Goroutine 能在不同的处理器中运行,也展示了 Go 是如何让空闲的处理器资源运行 goroutine,从而进行系统调用的优化。


via: https://medium.com/a-journey-with-go/go-work-stealing-in-go-scheduler-d439231be64d

作者:Vincent Blanchon[1]译者:LSivan[2]校对:polaris1119[3]

本文由 GCTT[4] 原创编译,Go 中文网[5] 荣誉推出

参考资料

[1]

Vincent Blanchon: https://medium.com/@blanchon.vincent

[2]

LSivan: https://github.com/LSivan

[3]

polaris1119: https://github.com/polaris1119

[4]

GCTT: https://github.com/studygolang/GCTT

[5]

Go 中文网: https://studygolang.com/



Tags:调度器   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
Illustration created for “A Journey With Go”, made from the original Go Gopher, created by Renee French.ℹ️ 这篇文章基于 Go 1.13 版本。在 Go 中创建 gorotine...【详细内容】
2020-08-28  Tags: 调度器  点击:(62)  评论:(0)  加入收藏
今天的文章我首先说一下之前文章里的思考题的解决思路,我会给出完整可运行的代码。之后通过观察程序的运行结果里的现象简单介绍 Go 语言的调度器是如何对 goroutine 进行调...【详细内容】
2020-07-02  Tags: 调度器  点击:(29)  评论:(0)  加入收藏
GO调度器模型GO的调度器可以充分利用多核心CPU,任何时候都有M个go协程在N个系统线程上进行调度, 这些线程在最多 GOMAXPROCS 个CPU核心上运行,这种调度模型称之为GMP模型: G :...【详细内容】
2020-05-05  Tags: 调度器  点击:(44)  评论:(0)  加入收藏
1、背景知识1.1 什么是调度器通常来说,操作系统是应用程序和可用资源之间的媒介。典型的资源有内存和物理设备。但是CPU也可以认为是一个资源,调度器可以临时分配一个任务在上...【详细内容】
2020-03-11  Tags: 调度器  点击:(73)  评论:(0)  加入收藏
▌简易百科推荐
zip 是一种常见的归档格式,本文讲解 Go 如何操作 zip。首先看看 zip 文件是如何工作的。以一个小文件为例:(类 Unix 系统下)$ cat hello.textHello!执行 zip 命令进行归档:$ zip...【详细内容】
2021-12-17  Go语言中文网    Tags:Go语言   点击:(12)  评论:(0)  加入收藏
大家好,我是 polarisxu。前段时间,Russ Cox 明确了泛型相关的事情,原计划在标准库中加入泛型相关的包,改放到 golang.org/x/exp 下。目前,Go 泛型的主要设计者 ianlancetaylor 完...【详细内容】
2021-11-30  Go语言中文网    Tags:slices 包   点击:(24)  评论:(0)  加入收藏
前言最近因为项目需要写了一段时间的 Go ,相对于 Java 来说语法简单同时又有着一些 Python 之类的语法糖,让人大呼”真香“。 但现阶段相对来说还是 Python 写的多一些,偶尔还...【详细内容】
2021-11-25  crossoverJie    Tags:Go   点击:(29)  评论:(0)  加入收藏
go-micro是基于 Go 语言用于开发的微服务的 RPC 框架,主要功能如下:服务发现,负载均衡 ,消息编码,请求/响应,Async Messaging,可插拔接口,最后这个功能牛p安装步骤安装proto...【详细内容】
2021-09-06    石老师小跟班  Tags:go-micro   点击:(196)  评论:(0)  加入收藏
GoLand 2021.2 EAP 5 现已发布。用户可以从工具箱应用程序中获得 EAP 构建,也可以从官方网站手动下载。并且从此 EAP 开始,只有拥有有效的 JetBrains 帐户才能加入该计划。手...【详细内容】
2021-06-29  IT实战联盟  今日头条  Tags:GoLand   点击:(185)  评论:(0)  加入收藏
作者:HDT3213今天给大家带来的开源项目是 Godis:一个用 Go 语言实现的 Redis 服务器。支持: 5 种数据结构(string、list、hash、set、sortedset) 自动过期(TTL) 发布订阅、地理位...【详细内容】
2021-06-18  HelloGitHub  今日头条  Tags:Go   点击:(125)  评论:(0)  加入收藏
统一规范篇合理规划目录本篇主要描述了公司内部同事都必须遵守的一些开发规矩,如统一开发空间,既使用统一的开发工具来保证代码最后的格式的统一,开发中对文件和代码长度的控制...【详细内容】
2021-05-18  1024课堂    Tags:Go语言   点击:(232)  评论:(0)  加入收藏
闭包概述 闭包不是Go语言独有的概念,在很多编程语言中都有闭包 闭包就是解决局部变量不能被外部访问的一种解决方案 是把函数当作返回值的一种应用 代码演示总体思想:在函数...【详细内容】
2021-05-14  HelloGo  今日头条  Tags:Go语言   点击:(223)  评论:(0)  加入收藏
一时想不开,想了解一下Go语言,于是安装了并体验了一下。下载1. 进入golang.google.cn 点击Download Go 2.选择对应的操作系统,点击后开始下载。 安装1. windows下执行傻瓜式安...【详细内容】
2021-05-12  程序员fearlazy  fearlazy  Tags:Go语言   点击:(236)  评论:(0)  加入收藏
1.简介channel是Go语言的一大特性,基于channel有很多值得探讨的问题,如 channel为什么是并发安全的? 同步通道和异步通道有啥区别? 通道为何会阻塞协程? 使用通道导致阻塞的协程...【详细内容】
2021-05-10  程序员麻辣烫  今日头条  Tags:Go通道   点击:(272)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条