为了解决阻塞(如I/O)问题,我们需要对程序进行并发设计。
本文将通过将线程和队列 结合在一起,轻松地在 Python 中完成线程编程,创建一些简单但有效的线程使用模式。
先看一个线程不多的例子,不存在阻塞,很简单:
<a></a>
代码解读
1. 两个线程都输出了 Hello World 语句,并都带有日期戳。
2. 两个导入语句:一个导入了日期时间模块,另一个导入线程模块。
3. 类 My<code>Thread</code> 继承自 <code>threading.Thread</code>,也正因为如此,您需要定义一个 run 方法,以此执行您在该线程中要运行的代码。
4. run 方法中的<code>self.getName()</code> 是一个用于确定该线程名称的方法。
5. 最后三行代码实际地调用该类,并启动线程。如果注意的话,那么会发现实际启动线程的是 <code>t.start()</code>。
如前所述,当多个线程需要共享数据或者资源的时候,可能会使得线程的使用变得复杂。线程模块提供了许多同步原语,包括信号量、条件变量、事件和锁。当这些 选项存在时,最佳实践是转而关注于使用队列。相比较而言,队列更容易处理,并且可以使得线程编程更加安全,因为它们能够有效地传送单个线程对资源的所有访 问,并支持更加清晰的、可读性更强的设计模式。
在下一个示例中,我们的目的是:获取网站的 URL,并显示页面的前 300 个字节。
先看看串行方式或者依次执行实现的代码:
1. <code>urllib</code> 模块减少了获取 Web 页面的复杂程度。两次 time.time() 用于计算程序运行时间。
2. 这个程序的执行速度是 13.7 秒,这个结果并不算太好,也不算太糟。
3. 但如果需要检索数百个 Web 页面,那么按照这个平均值,总时间需要花费大约 1000 秒的时间。如果需要检索更多页面呢?
下面给出线程化版本:
1. 与第一个线程示例相比,它并没有复杂多少,因为使用了队列模块。
2. 创建一个 <code>queue.Queue()</code> 的实例,然后使用数据对它进行填充。
3. 将经过填充数据的实例传递给线程类,后者是通过继承 <code>threading.Thread</code> 的方式创建的。
4. 生成守护线程池。
5. 每次从队列中取出一个项目,并使用该线程中的数据和 run 方法以执行相应的工作。
6. 在完成这项工作之后,使用 <code>queue.task_done()</code> 函数向任务已经完成的队列发送一个信号。
7. 对队列执行 join 操作,实际上意味着等到队列为空,再退出主程序。
在使用这个模式时需要注意一点:通过将守护线程设置为 true,将允许主线程或者程序仅在守护线程处于活动状态时才能够退出。这种方式创建了一种简单的方式以控制程序流程,因为在退出之前,您可以对队列执行 join 操作、或者等到队列为空。
<code>join()</code>保持阻塞状态,直到处理了队列中的所有项目为止。在将一个项目添加到该队列时,未完成的任务的总数就会增加。当使用者线程调用 task_done() 以表示检索了该项目、并完成了所有的工作时,那么未完成的任务的总数就会减少。当未完成的任务的总数减少到零时,<code>join()</code> 就会结束阻塞状态。
下一个示例有两个队列。其中一个队列的各线程获取的完整 Web 页面,然后将结果放置到第二个队列中。然后,对加入到第二个队列中的另一个线程池进行设置,然后对 Web 页面执行相应的处理。
提取所访问的每个页面的 title 标记,并将其打印输出。
1. 我们添加了另一个队列实例,然后将该队列传递给第一个线程池类 <code>ThreadURL</code>。
2. 对于另一个线程池类 <code>DatamineThread</code>, 几乎复制了完全相同的结构。
3. 在这个类的 run 方法中,从队列中的各个线程获取 Web 页面、文本块,然后使用 Beautiful Soup 处理这个文本块。
4. 使用 Beautiful Soup 提取每个页面的 title 标记、并将其打印输出。
5. 可以很容易地将这个示例推广到一些更有价值的应用场景,因为您掌握了基本搜索引擎或者数据挖掘工具的核心内容。
6. 一种思想是使用 Beautiful Soup 从每个页面中提取链接,然后按照它们进行导航。
本文转自罗兵博客园博客,原文链接:http://www.cnblogs.com/hhh5460/p/4414188.html,如需转载请自行联系原作者