2021-05-12 09丨队列:队列在线程池等有限资源池中的应用

淡淡的烟草味﹌ 2023-01-20 08:14 7阅读 0赞
  • 如何理解队列

队列是一种操作受限的线性表,类似于栈,队列有两个操作,一个入栈,在队列尾增加一个数据;一个出战,在队列头增加一个数据;

watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoY2NjY2ho_size_16_color_FFFFFF_t_70

  • 顺序队列和链式队列

用数组实现的队列叫顺序队列,用链表实现的队列叫链式队列;

  1. // 用数组实现的队列
  2. public class ArrayQueue {
  3. // 数组:items,数组大小:n
  4. private String[] items;
  5. private int n = 0;
  6. // head 表示队头下标,tail 表示队尾下标
  7. private int head = 0;
  8. private int tail = 0;
  9. // 申请一个大小为 capacity 的数组
  10. public ArrayQueue(int capacity) {
  11. items = new String[capacity];
  12. n = capacity;
  13. }
  14. // 入队
  15. public boolean enqueue(String item) {
  16. // 如果 tail == n 表示队列已经满了
  17. if (tail == n) return false;
  18. items[tail] = item;
  19. ++tail;
  20. return true;
  21. }
  22. // 出队
  23. public String dequeue() {
  24. // 如果 head == tail 表示队列为空
  25. if (head == tail) return null;
  26. // 为了让其他语言的同学看的更加明确,把 -- 操作放到单独一行来写了
  27. String ret = items[head];
  28. ++head;
  29. return ret;
  30. }
  31. }
  • 使用数据搬移解决数组中数据不连续

    // 入队操作,将 item 放入队尾
    public boolean enqueue(String item) {

    1. // tail == n 表示队列末尾没有空间了
    2. if (tail == n) {
    3. // tail ==n && head==0,表示整个队列都占满了
    4. if (head == 0) return false;
    5. // 数据搬移
    6. for (int i = head; i < tail; ++i) {
    7. items[i-head] = items[i];
    8. }
    9. // 搬移完之后重新更新 head 和 tail
    10. tail -= head;
    11. head = 0;
    12. }
    13. items[tail] = item;
    14. ++tail;
    15. return true;

    }

  • 基于链表的队列实现方法

基于链表实现的队列,需要两个指针,head指针和tail指针,他们分别指向队列的第一个结点和队列的最后一个结点。

入队时,tail->next=newNode;tail=tail->next;

出队时,head=head->next;

watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoY2NjY2ho_size_16_color_FFFFFF_t_70 1

  • 循环队列

watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoY2NjY2ho_size_16_color_FFFFFF_t_70 2

在用数组实现的非循环队列中,队满的判断条件是 tail == n,队空的判断条件是 head == tail。那针对循环队列,如何判断队空和队满呢?

队列为空的判断条件仍然是 head == tail。当队满时,(tail+1)%n=head

  1. public class CircularQueue {
  2. // 数组:items,数组大小:n
  3. private String[] items;
  4. private int n = 0;
  5. // head 表示队头下标,tail 表示队尾下标
  6. private int head = 0;
  7. private int tail = 0;
  8. // 申请一个大小为 capacity 的数组
  9. public CircularQueue(int capacity) {
  10. items = new String[capacity];
  11. n = capacity;
  12. }
  13. // 入队
  14. public boolean enqueue(String item) {
  15. // 队列满了
  16. if ((tail + 1) % n == head) return false;
  17. items[tail] = item;
  18. tail = (tail + 1) % n;
  19. return true;
  20. }
  21. // 出队
  22. public String dequeue() {
  23. // 如果 head == tail 表示队列为空
  24. if (head == tail) return null;
  25. String ret = items[head];
  26. head = (head + 1) % n;
  27. return ret;
  28. }
  29. }
  • 阻塞队列和并发队列

阻塞队列其实就是在队列基础上增加了阻塞操作。简单来说,就是在队列为空的时候,从队头取数据会被阻塞。因为此时还没有数据可取,直到队列中有了数据才能返回;如果队列已经满了,那么插入数据的操作就会被阻塞,直到队列中有空闲位置后再插入数据,然后再返回。

watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoY2NjY2ho_size_16_color_FFFFFF_t_70 3

基于阻塞队列,我们还可以通过协调“生产者”和“消费者”的个数,来提高数据的处理效率。比如前面的例子,我们可以多配置几个“消费者”,来应对一个“生产者”。

watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoY2NjY2ho_size_16_color_FFFFFF_t_70 4

线程安全的队列我们叫作并发队列。最简单直接的实现方式是直接在 enqueue()、dequeue() 方法上加锁,但是锁粒度大并发度会比较低,同一时刻仅允许一个存或者取操作。实际上,基于数组的循环队列,利用 CAS 原子操作,可以实现非常高效的并发队列。这也是循环队列比链式队列应用更加广泛的原因。

  • 队列在线程池等有限资源池中的应用

线程池没有空闲线程时,新的任务请求线程资源时,线程池该如何处理?各种处理策略又是如何实现的呢?

我们一般有两种处理策略。第一种是非阻塞的处理方式,直接拒绝任务请求;另一种是阻塞的处理方式,将请求排队,等到有空闲线程时,取出排队的请求继续处理。那如何存储排队的请求呢?

我们希望公平地处理每个排队的请求,先进者先服务,所以队列这种数据结构很适合来存储排队请求。我们前面说过,队列有基于链表和基于数组这两种实现方式。这两种实现方式对于排队请求又有什么区别呢?

基于链表的实现方式,可以实现一个支持无限排队的无界队列(unbounded queue),但是可能会导致过多的请求排队等待,请求处理的响应时间过长。所以,针对响应时间比较敏感的系统,基于链表实现的无限排队的线程池是不合适的。

而基于数组实现的有界队列(bounded queue),队列的大小有限,所以线程池中排队的请求超过队列大小时,接下来的请求就会被拒绝,这种方式对响应时间敏感的系统来说,就相对更加合理。不过,设置一个合理的队列大小,也是非常有讲究的。队列太大导致等待的请求太多,队列太小会导致无法充分利用系统资源、发挥最大性能。

除了前面讲到队列应用在线程池请求排队的场景之外,队列可以应用在任何有限资源池中,用于排队请求,比如数据库连接池等。实际上,对于大部分资源有限的场景,当没有空闲资源时,基本上都可以通过“队列”这种数据结构来实现请求排队。

  • 关于如何实现无锁并发队列怎么看

考虑使用CAS实现无锁队列,则在入队前,获取tail位置,入队时比较tail是否发生变化,如果否,则允许入队,反之,本次入队失败。出队则是获取head位置,进行cas。

发表评论

表情:
评论列表 (有 0 条评论,7人围观)

还没有评论,来说两句吧...

相关阅读