主题网络爬虫就是根据一定的网页分析算法过滤与主题无关的链接，保留主题相关的链接并将其放入待抓取的URL 队列中，然后根据一定的搜索策略从队列中选择下一步要抓取的网页URL，并重复上述过程，直到达到系统的某一条件时停止。所有被网络爬虫抓取的网页将会被系统存储，进行一定的分析、过滤，并建立索引，对于主题网络爬虫来说，这一过程所得到的分析结果还可能对后续的抓取过程进行反馈和指导。相对于传统网络爬虫, 主题网络爬虫的基本思路就是按照事先给出的主题，分析超链接和已经下载的网页内容，预测下一个待抓取的URL 以及当前网页的主题相关度，保证尽可能多地爬行、下载与主题相关的网页，尽可能少地下载无关网页。
1.2.技术介绍
网页的抓取策略可以分为深度优先、广度优先和最佳优先三种。深度优先在很多情况下会导致爬虫的陷入问题，目前常见的是广度优先和最佳优先方法
广度优先搜索策略是指在抓取过程中，在完成当前层次的搜索后，才进行下一层次的搜索。该算法的设计和实现相对简单。在目前为覆盖尽可能多的网页，一般使用广度优先搜索方法。也有很多研究将广度优先搜索策略应用于聚焦爬虫中。其基本思想是认为与初始URL在一定链接距离内的网页具有主题相关性的概率很大。另外一种方法是将广度优先搜索与网页过滤技术结合使用，先用广度优先策略抓取网页，再将其中无关的网页过滤掉。这些方法的缺点在于，随着抓取网页的增多，大量无关网页将被下载并过滤，算法的效率将变低。
　　最佳优先搜索策略按照一定的网页分析算法，预测候选URL与目标网页的相似度，或与主题的相关性，并选取评价最好的一个或几个URL进行抓取。它只访问经过网页分析算法预测为“有用”的网页。存在的一个问题是，在爬虫抓取路径上的很多相关网页可能被忽略，因为最佳优先策略是一种局部最优搜索算法。因此需要将最佳优先结合具体的应用进行改进，以跳出局部最优点,研究表明，这样的闭环调整可以将无关网页数量降低30%~90%。
    Java是一种可以撰写跨平台应用软件的面向对象的程序设计语言，是由Sun Microsystems公司于1995年5月推出的Java程序设计语言和Java平台（即JavaSE， JavaEE，JavaME）的总称。Java 技术具有卓越的通用性、高效性、平台移植性和安全性，广泛应用于个人PC、数据中心、游戏控制台、科学超级计算机、移动电话和互联网，同时拥有全球最大的开发者专业社群。
线程概述，几乎每种操作系统都支持线程的概念进程就是在某种程度上相互隔离的，独立运行的程序。一般来说，这些操作系统都支持多进程操作。所谓多进程，就是让系统（好像）同时运行多个程序。事实的真相是，对于一个CPU而言，它在某一个时间点上，只能执行一个程序。CPU不断的在这些程序之间“跳跃”执行。那么，为什么我们看不出任何的中断现象呢？这是因为，相对于我们的感觉，它的速度实在太快了。我们人的感知时间可能以秒来计算。而对于CPU而言，它的时间是以毫秒来计算的，从我们肉眼看来，它们就是一个连续的动作。
    多线程（Multi-Thread）扩展了多进程（multi-Process）操作的概念，将任务的划分下降到了程序级别，使得各个程序似乎可以在同一个时间内执行多个任务。每个任务称为一个线程，能同时运行多个线程的程序称为多线程程序
    JAVA线程模型，我们知道，计算机程序得以执行的三个要素是：CPU，程序代码，可存取的数据。在JAVA语言中，多线程的机制是通过虚拟CPU来实现的。可以形象的理解为，在一个JAVA程序内部虚拟了多台计算机，每台计算机对应一个线程，有自己的CPU，可以获取所需的代码和数据，因此能独立执行任务，相互间还可以共用代码和数据。JAVA的线程是通过java.lang.Thread类来实现的，它内部实现了虚拟CPU的功能，能够接收和处理传递给它的代码和数据，并提供了独立的运行控制功能。每个JAVA应用程序都至少有一个线程，这就是所谓的主线程。它由JVM创建并调用JAVA应用程序的main（）方法。JVM还通常会创建一些其他的线程，不过，这些线程对我们而言通常都是不可见的。比如，用于自动垃圾收集的线程，对象终止或者其他的JVM处理任务相关的线程。 面向主题的网络蜘蛛爬虫研究与设计+流程图(2):http://www.youerw.com/jisuanji/lunwen_492.html