Tomcat修正JDK原生线程池bug的实现原理_Tomcat

这篇文章主要介绍了Tomcat是如何修正JDK原生线程池bug的,本文通过实例代码给大家介绍的非常详

Tomcat修正JDK原生线程池bug的实现原理_Tomcat

这篇文章主要介绍了Tomcat是如何修正JDK原生线程池bug的,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下

为提高处理能力和并发度,Web容器一般会把处理请求的任务放到线程池,而JDK的原生线程池先天适合CPU密集型任务,于是Tomcat改造之。

Tomcat 线程池原理

其实ThreadPoolExecutor的参数主要有如下关键点:

限制线程个数

限制队列长度

而Tomcat对这俩资源都需要限制,否则高并发下CPU、内存都有被耗尽可能。
因此Tomcat的线程池传参:

// 定制的任务队列
taskqueue = new TaskQueue(maxQueueSize);

// 定制的线程工厂
TaskThreadFactory tf = new TaskThreadFactory(namePrefix,
daemon,
getThreadPriority()
);

// 定制线程池
executor = new ThreadPoolExecutor(getMinSpareThreads(),
getMaxThreads(),
maxIdleTime,
TimeUnit.MILLISECONDS,
taskqueue,
tf);

Tomcat对线程数也有限制,设置:

核心线程数(minSpareThreads)
最大线程池数(maxThreads)

Tomcat线程池还有自己的特色任务处理流程,通过重写execute方法实现了自己的特色任务处理逻辑:

前corePoolSize个任务时,来一个任务就创建一个新线程
再有任务,就把任务放入任务队列,让所有线程去抢。若队列满,就创建临时线程
总线程数达到maximumPoolSize,则继续尝试把任务放入任务队列
若缓冲队列也满了,插入失败,执行拒绝策略

和 JDK 线程池的区别就在step3,Tomcat在线程总数达到最大数时,不是立即执行拒绝策略,而是再尝试向任务队列添加任务,添加失败后再执行拒绝策略。

具体又是如何实现的呢?

public void execute(Runnable command, long timeout, TimeUnit unit) {
submittedCount.incrementAndGet();
try {
// 调用JDK原生线程池的execute执行任务
super.execute(command);
} catch (RejectedExecutionException rx) {
// 总线程数达到maximumPoolSize后,JDK原生线程池会执行默认拒绝策略
if (super.getQueue() instanceof TaskQueue) {
final TaskQueue queue = (TaskQueue)super.getQueue();
try {
// 继续尝试把任务放入任务队列
if (!queue.force(command, timeout, unit)) {
submittedCount.decrementAndGet();
// 若缓冲队列还是满了,插入失败,执行拒绝策略。
throw new RejectedExecutionException(\”…\”);
}
}
}
}
}

定制任务队列

Tomcat线程池的execute方法第一行:

submittedCount.incrementAndGet();

任务执行失败,抛异常时,将该计数器减一:

submittedCount.decrementAndGet();

Tomcat线程池使用 submittedCount 变量维护已提交到线程池,但未执行完的任务数量。

为何要维护这样一个变量呢?

Tomcat的任务队列TaskQueue扩展了JDK的LinkedBlockingQueue,Tomcat给了它一个capacity,传给父类LinkedBlockingQueue的构造器。

public class TaskQueue extends LinkedBlockingQueue<Runnable> {

public TaskQueue(int capacity) {
super(capacity);
}

}

capacity参数通过Tomcat的maxQueueSize参数设置,但maxQueueSize默认值Integer.MAX_VALUE:当前线程数达到核心线程数后,再来任务的话线程池会把任务添加到任务队列,并且总会成功,就永远无机会创建新线程了。

为解决该问题,TaskQueue重写了LinkedBlockingQueue#offer,在合适时机返回false,表示任务添加失败,这时线程池就会创建新线程。

什么叫合适时机?

public class TaskQueue extends LinkedBlockingQueue<Runnable> {


@Override
// 线程池调用任务队列的方法时,当前线程数 > core线程数
public boolean offer(Runnable o) {

// 若线程数已达max,则不能创建新线程,只能放入任务队列
if (parent.getPoolSize() == parent.getMaximumPoolSize())
return super.offer(o);

// 至此,表明 max线程数 > 当前线程数 > core线程数
// 说明可创建新线程:

// 1. 若已提交任务数 < 当前线程数
// 表明还有空闲线程,无需创建新线程
if (parent.getSubmittedCount()<=(parent.getPoolSize()))
return super.offer(o);

// 2. 若已提交任务数 > 当前线程数
// 线程不够用了,返回false去创建新线程
if (parent.getPoolSize()<parent.getMaximumPoolSize())
return false;

// 默认情况下总是把任务放入任务队列
return super.offer(o);
}

}

所以Tomcat维护 已提交任务数 是为了在任务队列长度无限时,让线程池还能有机会创建新线程。

到此这篇关于Tomcat是如何修正JDK原生线程池bug的的文章就介绍到这了,更多相关Tomcat JDK原生线程池内容请搜索3399IT网以前的文章或继续浏览下面的相关文章希望大家以后多多支持3399IT网!

本文为网络共享文章,如有侵权请联系邮箱485837881@qq.com

作者: JavaEdge.

为您推荐

返回顶部