阻塞队列
程序员文章站
2022-04-21 09:23:45
...
队列以一种先进先出的方式管理数据。如果你试图向一个已经满了的阻塞队列中添加一个元素,或是从一个空的阻塞队列中移除一个元素,将
导致线程阻塞。在多线程进行合作时,阻塞队列是很有用的工具。工作者线程可以定期的把中间结果存到阻塞队列中。而其他工作者线程把中间结果取出并在将来修
改它们。队列会自动平衡负载。如果第一个线程集运行的比第二个慢,则第二个线程集在等待结果时就会阻塞。如果第一个线程集运行的快,那么它将等待第二个线
程集赶上来。
下面的程序展示了如何使用阻塞队列来控制线程集。程序在一个目录及它的所有子目录下搜索所有文件,打印出包含指定关键字的文件列表。
java.util.concurrent包提供了阻塞队列的4个变种:LinkedBlockingQueue、
ArrayBlockingQueue、PriorityBlockingQueue和DelayQueue。我们用的是
ArrayBlockingQueue。ArrayBlockingQueue在构造时需要给定容量,并可以选择是否需要公平性。如果公平参数被设置了,
等待时间最长的线程会优先得到处理。通常,公平性会使你在性能上付出代价,只有在的确非常需要的时候再使用它。
生产者线程枚举在所有子目录下的所有文件并把它们放到一个阻塞队列中。这个操作很快,如果队列没有设上限的话,很快它就包含了没有找到的文件。
我们同时还启动了大量的搜索线程。每个搜索线程从队列中取出一个文件,打开它,打印出包含关键字的所有行,然后取出下一个文件。我们使用了一个小技巧来在
工作结束后终止线程。为了发出完成信号,枚举线程把一个虚拟对象放入队列。(这类似于在行李输送带上放一个写着“最后一个包”的虚拟包。)当搜索线程取到
这个虚拟对象时,就将其放回并终止。
注意,这里不需要人任何显示的线程同步。在这个程序中,我们使用队列数据结构作为一种同步机制。
FileEnumerationTask线程不断的向队列中加入文件。
import java.io.File; import java.util.concurrent.BlockingQueue; public class FileEnumerationTask implements Runnable { private BlockingQueue<File> queue; private File startingDirectory; public static File DUMMY = new File(""); public FileEnumerationTask(BlockingQueue<File> queue,File startingDirectory){ this.queue=queue; this.startingDirectory=startingDirectory; } public void run() { try{ enumerate(startingDirectory); queue.put(DUMMY); }catch(InterruptedException e){ } } /* * 将目录下面的文件(非目录)加到阻塞队列中。这个函数是一个递归函数 * @directory起始目录 */ private void enumerate(File directory) throws InterruptedException { File[] files=directory.listFiles(); for(File f:files) if(f.isDirectory()) enumerate(f); else queue.put(f); } }
SearchTask.java线程从队列中取文件,然后进行判断是否含有关键字。
import java.io.File; import java.io.FileInputStream; import java.io.IOException; import java.util.Scanner; import java.util.concurrent.BlockingQueue; public class SearchTask implements Runnable{ private BlockingQueue<File> queue; private String keyword; public SearchTask(BlockingQueue<File> queue,String keyword){ this.queue=queue; this.keyword=keyword; } public void run() { try { boolean done = false; while (!done) { File file = queue.take(); if (file == FileEnumerationTask.DUMMY) { queue.put(file); done = true; } else search(file); } } catch (IOException e) { e.printStackTrace(); } catch (InterruptedException e) {} } /* * 判断文件file中是否有有关健字keyword。 * @param file 搜索的文件 * 如果文件为目录,抛出FileNotFIndException */ public void search(File file) throws IOException { Scanner in = new Scanner(new FileInputStream(file)); int lineNumber = 0; while (in.hasNextLine()) { lineNumber++; String line = in.nextLine(); if (line.contains(keyword)) System.out.printf("%s:%d:%s%n", file.getPath(), lineNumber, line); } in.close(); } }
BlockingQueueTest.java是主程序,它创建了一个向队列中不断加入文件的线程和大量的从队列中取文件的线程。
import java.io.File; import java.util.Scanner; import java.util.concurrent.ArrayBlockingQueue; import java.util.concurrent.BlockingQueue; public class BlockingQueueTest { public static void main(String[] args) { Scanner in = new Scanner(System.in); System.out.print("Enter base directory (e.g. /usr/local/jdk5.0/src): "); String directory = in.nextLine(); System.out.print("Enter keyword (e.g. volatile): "); String keyword = in.nextLine(); final int FILE_QUEUE_SIZE = 10; final int SEARCH_THREADS = 100; BlockingQueue<File> queue = new ArrayBlockingQueue<File>(FILE_QUEUE_SIZE); FileEnumerationTask enumerator = new FileEnumerationTask(queue, new File(directory)); new Thread(enumerator).start(); for (int i = 1; i <= SEARCH_THREADS; i++) new Thread(new SearchTask(queue, keyword)).start(); } }
主线程创建了一个ArrayBlockingQueue,大小为10,启动FileEnumerationTask线程后,不断有文件加入到queue中,如果queue满了,这个线程就会被阻塞,直到没有满,又像其中添加文件。
主程序中又启动了100个SearchTask线程,这些线程向queue中取文件,如果queue中文件都被取了,queue的size为0,其它没有取到文件的线程就会阻塞。而FileEnumerationTask线程会继续向queue中加文件。
如此直到加入了DUMMY。
推荐阅读
-
Linux UDP socket 设置为的非阻塞模式与阻塞模式区别
-
javascript中利用数组实现的循环队列代码_javascript技巧
-
RabbitMQ消息队列之基础 (二)
-
Cracking coding interview(3.5)使用2个堆栈实现一个队列
-
Codeforces Round #FF (Div. 2) D. DZY Loves Modification 贪心+优先队列_html/css_WEB-ITnose
-
有关双向队列类的课程推荐
-
Python中使用select模块实现非阻塞的IO
-
详解优先队列在JDK中的实现方式
-
windows线程运行一段时间一直停在sleep被阻塞, 谢谢各位大佬 JVM线程
-
python 之 并发编程(非阻塞IO模型、I/O多路复用、socketserver的使用)