欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Oracle 如何创建和使用全文索引

程序员文章站 2024-01-16 22:55:58
不使用oracle text功能,也有很多方法可以在oracle数据库中搜索文本.可以使用标准的instr函数和like操作符实现。 select *from m...

不使用oracle text功能,也有很多方法可以在oracle数据库中搜索文本.可以使用标准的instr函数和like操作符实现。

select *from mytext where instr (thetext, 'oracle') > 0;

select * from mytext where thetext like '%oracle%';

  有很多时候,使用instr和like是很理想的, 特别是搜索仅跨越很小的表的时候.然而通过这些文本定位的方法将导致全表扫描,对资源来说消耗比较昂贵,而且实现的搜索功能也非常有限,因此对海量的文本数据进行搜索时,建议使用oralce提供的全文检索功能 建立全文检索的步骤步骤一 检查和设置数据库角色首先检查数据库中是否有ctxsys用户和ctxapp脚色。如果没有这个用户和角色,意味着你的数据库创建时未安装intermedia功能。你必须修改数据库以安装这项功能。 默认安装情况下,ctxsys用户是被锁定的,因此要先启用ctxsys的用户。 步骤二 赋权 在ctxsys用户下把ctx_ddl的执行权限赋于要使用全文索引的用户,例:

grant execute on ctx_ddl to pomoho;

一、设置词法分析器

  oracle实现全文检索,其机制其实很简单。即通过oracle专利的词法分析器(lexer),将文章中所有的表意单元(oracle称为term)找出来,记录在一组以dr$开头的表中,同时记下该term出现的位置、次数、hash值等信息。检索时,oracle从这组表中查找相应的term,并计算其出现频率,根据某个算法来计算每个文档的得分(score),即所谓的‘匹配率'。而lexer则是该机制的核心,它决定了全文检索的效率。oracle针对不同的语言提供了不同的lexer,而我们通常能用到其中的三个:

  basic_lexer:针对英语。它能根据空格和标点来将英语单词从句子中分离,还能自动将一些出现频率过高已经失去检索意义的单词作为‘垃圾'处理,如if , is等,具有较高的处理效率。但该lexer应用于汉语则有很多问题,由于它只认空格和标点,而汉语的一句话中通常不会有空格,因此,它会把整句话作为一个term,事实上失去检索能力。以‘中国人民站起来了'这句话为例,basic_lexer分析的结果只有一个term ,就是‘中国人民站起来了'。此时若检索‘中国',将检索不到内容。

  chinese_vgram_lexer:专门的汉语分析器,支持所有汉字字符集(zhs16cgb231280zhs16gbkzht32euczht16big5zht32triszht16mswin950zht16hkscsutf8)。该分析器按字为单元来分析汉语句子。‘中国人民站起来了'这句话,会被它分析成如下几个term: ‘中',‘中国',‘国人',‘人民',‘民站',‘站起',起来',‘来了',‘了'。可以看出,这种分析方法,实现算法很简单,并且能实现‘一网打尽',但效率则是差强人意。

  chinese_lexer:这是一个新的汉语分析器,只支持utf8字符集。上面已经看到,chinese vgram lexer这个分析器由于不认识常用的汉语词汇,因此分析的单元非常机械,像上面的‘民站',‘站起'在汉语中根本不会单独出现,因此这种term是没有意义的,反而影响效率。chinese_lexer的最大改进就是该分析器能认识大部分常用汉语词汇,因此能更有效率地分析句子,像以上两个愚蠢的单元将不会再出现,极大提高了效率。但是它只支持utf8,如果你的数据库是zhs16gbk字符集,则只能使用笨笨的那个chinese vgram lexer.
如果不做任何设置,oracle缺省使用basic_lexer这个分析器。要指定使用哪一个lexer,可以这样操作:

begin
 ctx_ddl.create_preference ('my_lexer', 'chinese_vgram_lexer');
end;
/

其中my_lexer是分析器名。

二、建立全文索引

在建立intermedia索引时,指明所用的lexer:

create index  myindex on mytable(mycolumn) indextype is ctxsys.context parameters('lexer my_lexer');

※个人体会:全文索引建立后,用pl/sql developer工具view table,在index这一栏是看不到索引信息的。

而本人在删除全文索引时遇到过一下报错:

sql> drop index searchkeytbl_key;
drop index searchkeytbl_key
ora-29868: cannot issue ddl on a domain index marked as loading

解决方法:

ora-29868: cannot issue ddl on a domain index marked as loading
说明:在创建索引的时候断开、重启等导致索引中断没有执行成功,之后再drop或者rebuild等操作的时候都会报此错误
解决:只能drop index ind_name force强行删除,然后再重建

三、索引同步维护

用以下的两个job来完成(该job要建在和表同一个用户下) :

variable jobno number;
begin
dbms_job.submit(:jobno,'ctx_ddl.sync_index(''index_name'');',
sysdate, 'sysdate + (1/24/4)');
commit;
end;      //同步
 
variable jobno number;
begin
dbms_job.submit(:jobno,'ctx_ddl.optimize_index(''myindex'',''full'');',
sysdate, 'sysdate + 1');
commit;     //优化

建完后手动运行下:

exec dbms_job.run(jobno);

※个人体会:运行job可能会有问题,此时可以单独运行索引,尝试一下

exec ctx_ddl.sync_index('index_name');

如果单独运行没有问题,则检查job是否写错或者当前操作的oracle数据库用户有无运行存储过程的权限

sql> exec dbms_job.run(190);
begin dbms_job.run(190); end;

ora-12011: execution of 1 jobs failed
ora-06512: at "sys.dbms_ijob", line 406
ora-06512: at "sys.dbms_job", line 272
ora-06512: at line 1

以上报错就是用户没有运行任何存储过程造成的,此时需要对用户加上这个权限:

sql> grant execute any procedure to oracle_username;

再看一下job的情况

select * from user_jobs;

四、测试

关联查询: select * from table_name where contains (column_name,'keyword') >0;
sql> select * from searchkeytbl where type='城市' and contains (key,'杨浦') >0;

username             type                                     key
-------------------- ---------------------------------------- --------------------------------------------------------------------------------
mujian80             城市                                     上海市杨浦区

五、问题

加全文索引遇到的问题(不断更新)

sql> create index gh_ghname_idx on gh(ghname) indextype is ctxsys.context parameters('lexer gh_ghname_lexer');
create index gh_ghname_idx on gh(ghname) indextype is ctxsys.context parameters('lexer gh_ghname_lexer')

ora-24795: illegal commit attempt made
ora-29855: error occurred in the execution of odciindexcreate routine
ora-20000: oracle text error:
drg-50857: oracle error in drvddl.indexcreate
ora-20000: oracle text error:
drg-50857: oracle error in drvdml.maintainktab
ora-24795: illegal commit attempt made
ora-06512: at "ctxsys.drue", line 160
ora-06512: at "ctxsys.textindexmethods", line 364
to avoid the error, please use one of the following solutions

1. don't use a 32k-blocksized tablespace to store the internal index objects
- or -
2. download patch 5596325 from metalink and apply it as described in the readme file.

看一下 可能是用于创建索引的表空间不够了

reports——>dba——>total free space   pl/sql developer工具,查看表空间的剩余空间
select * from v$datafile;              查看数据文件信息