免费的Lucene 原理与代码分析完整版下载

Lucene是一个基于Java的高效的全文检索库。
那么什么是全文检索,为什么需要全文检索?
目前人们生活中出现的数据总的来说分为两类:结构化数据和非结构化数据。很容易理解,结构化数据是有固定格式和结构的或者有限长度的数据,比如数据库,元数据等。非结构化数据则是不定长或者没有固定格式的数据,如图片,邮件,文档等。还有一种较少的分类为半结构化数据,如XML,HTML等,在一定程度上我们可以将其按照结构化数据来处理,也可以抽取纯文本按照非结构化数据来处理。
非结构化数据又称为全文数据。,对其搜索主要有两种方式:

  1. 顺序扫描法(SerialScanning):顾名思义,要找内容包含某一个字符串的文档,就挨着文档一个个找,对照每一个文档从头到尾,一直扫描,指导扫描完所有的文档。类似于Windows中搜索文件的功能。
  2.  第二种则为索引。就是从非结构化数据中提取出信息重新组织,使其变得有一定的组织,从而提高检索效率。比如我们的电话簿,从电话簿中查找联系人,我们根据首字母拼音可以索引定位到某一个联系人。

先建立索引在对索引进行搜索的过程就叫做全文检索(Full-text Search)。下图为全文检索的一般过程,也是Lucene检索的过程。

我的博客:CODE大全www.codedq.net业余草www.xttblog.com爱分享www.ndislwf.comifxvn.com

Lucene总的来说是:

  • 一个高效的,可扩展的,全文检索库。
  • 全部用Java实现,无须配置。
  • 仅支持纯文本文件的索引(Indexing)和搜索(Search)。
  • 不负责由其他格式的文件抽取纯文本文件,或从网络中抓取文件的过程。

在Lucene in action中,Lucene 的构架和过程如下图,

说明Lucene是有索引和搜索的两个过程,包含索引创建,索引,搜索三个要点。

我的博客:CODE大全www.codedq.net业余草www.xttblog.com爱分享www.ndislwf.comifxvn.com

让我们更细一些看Lucene的各组件:

  • 被索引的文档用Document对象表示。
  • IndexWriter通过函数addDocument将文档添加到索引中,实现创建索引的过程。
  • Lucene的索引是应用反向索引。
  • 当用户有请求时,Query代表用户的查询语句。
  • IndexSearcher通过函数search搜索Lucene Index。
  • IndexSearcher计算term weight和score并且将结果返回给用户。
  • 返回给用户的文档集合用TopDocsCollector表示。

 

那么如何应用这些组件呢?

让我们再详细到对Lucene API 的调用实现索引和搜索过程。

  • 索引过程如下:
    • 创建一个IndexWriter用来写索引文件,它有几个参数,INDEX_DIR就是索引文件所存放的位置,Analyzer便是用来对文档进行词法分析和语言处理的。
    • 创建一个Document代表我们要索引的文档。
    • 将不同的Field加入到文档中。我们知道,一篇文档有多种信息,如题目,作者,修改时间,内容等。不同类型的信息用不同的Field来表示,在本例子中,一共有两类信息进行了索引,一个是文件路径,一个是文件内容。其中FileReader的SRC_FILE就表示要索引的源文件。
    • IndexWriter调用函数addDocument将索引写到索引文件夹中。
  • 搜索过程如下:
    • IndexReader将磁盘上的索引信息读入到内存,INDEX_DIR就是索引文件存放的位置。
    • 创建IndexSearcher准备进行搜索。
    • 创建Analyer用来对查询语句进行词法分析和语言处理。
    • 创建QueryParser用来对查询语句进行语法分析。
    • QueryParser调用parser进行语法分析,形成查询语法树,放到Query中。
    • IndexSearcher调用search对查询语法树Query进行搜索,得到结果TopScoreDocCollector。

以上便是Lucene API函数的简单调用。

我的博客:CODE大全www.codedq.net业余草www.xttblog.com爱分享www.ndislwf.comifxvn.com

然而当进入Lucene的源代码后,发现Lucene有很多包,关系错综复杂。

然而通过下图,我们不难发现,Lucene的各源码模块,都是对普通索引和搜索过程的一种实现。

此图是上一节介绍的全文检索的流程对应的Lucene实现的包结构。(参照http://www.lucene.com.cn/about.htm中文章《开放源代码的全文检索引擎Lucene》)

  • Lucene的analysis模块主要负责词法分析及语言处理而形成Term。
  • Lucene的index模块主要负责索引的创建,里面有IndexWriter。
  • Lucene的store模块主要负责索引的读写。
  • Lucene的QueryParser主要负责语法分析。
  • Lucene的search模块主要负责对索引的搜索。
  • Lucene的similarity模块主要负责对相关性打分的实现。

了解了Lucene的整个结构,我们便可以开始Lucene的源码之旅了。

免费的Lucene 原理与代码分析完整版下载地址:lucene原理与代码分析完整版pdf下载

时间: 2017-08-23

免费的Lucene 原理与代码分析完整版下载的相关文章

2017年数据库漏洞安全威胁报告(附完整版下载)

安华金和长期致力于帮助客户应对数据库安全领域的威胁.为了提高数据库用户的安全意识,快速反馈最新数据库漏洞被利用方向,安华金和数据库攻防实验室(DBSec Labs)最新发布<2017年数据库漏洞安全威胁报告>,该报告用于快速跟踪及反馈数据库安全的发展态势. (如需获取完整版报告文档,请至文末查看) 2017年数据库安全形势综述 当今,云计算.大数据.AI被认为是有望改变世界的"三剑客",将深入影响甚至支撑未来人类文明发展的方方面面,而数据是支撑这些前沿技术存在与发展的生产资

一册通关!《阿里云产品V5.0》完整版下载

飞天开放平台是阿里云自主研发的云计算平台,负责管理数据中心Linux集群的物理资源,控制分布式程序运行,隐藏下层故障恢复和数据冗余等细节.飞天提供了弹性计算.负载均衡.数据存储.以及大规模计算等一整套的云计算公共服务,从而降低了互联网应用创新的技术门槛.本期<阿里云产品V5.0>手册具体内容涵盖了基于飞天平台上的计算.数据库.存储&CDN.网络.安全.大数据.中间件.应用服务等全部产品,集结阿里云公共云产品家族全体成员. 本手册主要面向云计算的开发者,详细说明了相关产品的具体服务内容.

cygwin完整版下载地址

http://code.google.com/p/cygwin-easy/downloads/list Cygwin-Easy-2007.03.21.iso地址: http://linux.studenti.fastbull.org/linuxstudenti/Cygwin-Easy-2007.03.21.iso

百度《2015年中国移动网站趋势报告》完整版免费下载全图文档

本文提供百度<2015年中国移动网站趋势报告>完全图文内容.百度<2015年中国移动网站趋势报告>完整版下载.报告涵盖中国移动网站2014年发展概况:百度移动搜索2014年发展概况:中国移动网站2015年趋势分析.数据组图展示移动网站数量.低质优质移动网站资源分布情况.移动网站对搜索引擎友好度.移动网站安全隐患.百度移动搜索日响应请求数.百度移动搜索日导出web流量.移动搜索用户需求变化情况.移动资源建设重心从次生到原生. 本文为百度<2015年中国移动网站趋势报告>官

传智播客c/c++公开课学习笔记--C语言与木马恶意代码分析和360安全防护揭秘

黑客代码分析与预防 笔记 [课程简介] C/C++语言是除了汇编之外,最接近底层的计算机语言,目前windows,linux,iOS,Android等主流操作系统都是用C/C++编写的,所以很多病毒.木马也都是用C/C++实现的.课程的目的就是通过C语言揭秘木马和各种远程控制软件的实现原理以及如何防护.  [课程知识点] 1.木马入侵系统的方式: 2.木马入侵到宿主目标后的关键行为分析: 3.可信任端口以及端口扫描技术: 4.远程控制的实现代码实现: 5.恶意代码中使用TCP.UDP协议与防火墙

tensorflow笔记:多层LSTM代码分析

标签(空格分隔): tensorflow笔记 tensorflow笔记系列:  (一) tensorflow笔记:流程,概念和简单代码注释  (二) tensorflow笔记:多层CNN代码分析  (三) tensorflow笔记:多层LSTM代码分析  (四) tensorflow笔记:常用函数说明  (五) tensorflow笔记:模型的保存与训练过程可视化  (六)tensorflow笔记:使用tf来实现word2vec 之前讲过了tensorflow中CNN的示例代码,现在我们来看RN

百度工程师讲PHP函数的实现原理及性能分析(一)

  这篇文章主要介绍了百度工程师讲PHP函数的实现原理及性能分析(一),需要的朋友可以参考下 前言 在任何语言中,函数都是最基本的组成单元.对于php的函数,它具有哪些特点?函数调用是怎么实现的?php函数的性能如何,有什么使用建议?本文将从原理出发进行分析结合实际的性能测试尝试对这些问题进行回答,在了解实现的同时更好的编写php程序.同时也会对一些常见的php函数进行介绍. php函数的分类 在php中,横向划分的话,函数分为两大类: user function(内置函数) 和internal

百度工程师讲PHP函数的实现原理及性能分析(三)

  这篇文章主要介绍了百度工程师讲PHP函数的实现原理及性能分析(三),本文讲解了常用php函数实现及介绍,并作了总结及建议,需要的朋友可以参考下 常用php函数实现及介绍 count count是我们经常用到的一个函数,其功能是返回一个数组的长度. count这个函数,其复杂度是多少呢? 一种常见的说法是count函数会遍历整个数组然后求出元素个数,因此复杂度是O(n).那实际情况是不是这样呢?我们回到count的实现来看一下,通过源码可以发现,对于数组的count操作,函数最终的路径是zif

PHP strtotime函数用法、实现原理和源码分析

这篇文章主要介绍了PHP strtotime函数用法.实现原理和源码分析,本文讲解了strtotime函数的一些用法.strtotime函数的实现基本原理.strtotime("-1 month")求值失败的原因等内容,需要的朋友可以参考下 源码位置:extdatephp_date.c 代码如下: /* {{{ proto int strtotime(string time [, int now ]) Convert string representation of date and