💎一站式轻松地调用各大LLM模型接口,支持GPT4、智谱、星火、月之暗面及文生图 广告
[TOC] ##### 一、CPU时间片 * CPU时间片即CPU分配给每个线程的执行时间段,称作它的时间片。CPU时间片一般为几十毫秒(ms)。 ##### 二、什么是上下文切换 CPU通过时间片段的算法来循环执行线程任务,而循环执行即每个线程允许运行的时间后的切换,而这种循环的切换使各个程序从表面上看是同时进行的。而切换时会保存之前的线程任务状态,当切换到该线程任务的时候,会重新加载该线程的任务状态。而这个从保存到加载的过程称之为上下文切换。 * 若当前线程还在运行而时间片结束后,CPU将被剥夺并分配给另一个线程。 * 若线程在时间片结束前阻塞或结束,CPU进行线程切换。而不会造成CPU资源浪费。 ##### 三、上下文切换造成的影响 我们可以通过对比串联执行和并发执行进行对比。 ~~~ private static final long count = 1000000; public static void main(String[] args) throws Exception { concurrency(); series(); } /** * 并发执行 * @throws Exception */ private static void concurrency() throws Exception { long start = System.currentTimeMillis(); //创建线程执行a+= Thread thread = new Thread(new Runnable() { public void run() { int a = 0; for (int i = 0; i < count; i++) { a += 1; } } }); //启动线程执行 thread.start(); //使用主线程执行b--; int b = 0; for (long i = 0; i < count; i++) { b--; } //合并线程,统计时间 thread.join(); long time = System.currentTimeMillis() - start; System.out.println("Concurrency:" + time + "ms, b = " + b); } /** * 串联执行 */ private static void series() { long start = System.currentTimeMillis(); int a = 0; for (long i = 0; i < count; i++) { a += 1; } int b = 0; for (int i = 0; i < count; i++) { b--; } long time = System.currentTimeMillis() - start; System.out.println("Serial:" + time + "ms, b = " + b + ", a = " + a); } ~~~ 通过修改循环次数,对比串行运行和并发运行的时间测试结果: | 循环次数 | 并发执行时间 | 串联执行时间 | | --- | --- | --- | | 一百万 | 2ms | 4ms | | 十万 | 2ms | 2ms | | 一万 | 1ms | 0ms | 通过数据的对比我们可以看出。在一万以下的循环次数时,串联的执行速度比并发的执行速度块。是因为线程上下文切换导致额外的开销。 在Linux系统下可以使用vmstat命令来查看上下文切换的次数,如果要查看上下文切换的时长,可以利用Lmbench3,这是一个性能分析工具。 #### 四、如何减少上下文切换导致额外的开销 减少上下文切换次数便可以提高多线程的运行效率。减少上下文切换的方法有无锁并发编程、CAS算法、避免创建过多的线程和使用协程。 * 无锁并发编程.当任何特定的运算被阻塞的时候,所有CPU可以继续处理其他的运算。换种方式说,在无锁系统中,当给定线程被其他线程阻塞的时候,所有CPU可以不停的继续处理其他工作。无锁算法大大增加系统整体的吞吐量,因为它只偶尔会增加一定的交易延迟。大部分高端数据库系统是基于无锁算法而构造的,以满足不同级别。 * CAS算法。Java提供了一套原子性操作的数据类型(java.util.concurrent.atomic包下),使用CAS算法来更新数据,不需要加锁。如:AtomicInteger、AtomicLong等。 * 避免创建过多的线程。如任务量少时,尽可能减少创建线程。对于某个时间段任务量很大的这种情况,我们可以通过线程池来管理线程的数量,避免创建过多线程。 * 协程:即协作式程序,其思想是,一系列互相依赖的协程间依次使用CPU,每次只有一个协程工作,而其他协程处于休眠状态。如:JAVA中使用wait和notify来达到线程之间的协同工作。 参考: 《Java并发编程的艺术》