天天看点

mysql 5.7 全文搜索_深度解析MySQL 5.7之中文全文检索

前言

其实全文检索在mysql里面很早就支持了,只不过一直以来只支持英文。缘由是他从来都使用空格来作为分词的分隔符,而对于中文来讲,显然用空格就不合适,需要针对中文语义进行分词。这不,从mysql 5.7开始,mysql内置了ngram全文检索插件,用来支持中文分词,并且对myisam和innodb引擎有效。

在使用中文检索分词插件ngram之前,先得在mysql配置文件里面设置他的分词大小,比如,

[mysqld]

ngram_token_size=2

这里把分词大小设置为2。要记住,分词的size越大,索引的体积就越大,所以要根据自身情况来设置合适的大小。

示例表结构:

create table articles (

id intunsigned auto_increment not null primary key,

titlevarchar(200),

body text,

fulltext (title,body) with parser ngram

) engine=innodbcharacter set utf8mb4;

示例数据,有6行记录。

mysql> select * from articles\g

***************************1. row ***************************

id: 1

title: 数据库管理

body: 在本教程中我将向你展示如何管理数据库

***************************2. row ***************************

id: 2

title: 数据库应用开发

body: 学习开发数据库应用程序

***************************3. row ***************************

id: 3

title: mysql完全手册

body: 学习mysql的一切

***************************4. row ***************************

id: 4

title: 数据库与事务处理

body: 系统的学习数据库的事务概论

***************************5. row ***************************

id: 5

title: nosql精髓

body: 学习了解各种非结构化数据库

***************************6. row ***************************

id: 6

title: sql 语言详解

body: 详细了解如果使用各种sql

6 rows inset (0.00 sec)

显式指定全文检索表源

mysql> setglobal innodb_ft_aux_table="new_feature/articles";

query ok, 0 rows affected (0.00 sec)

通过系统表,就可以查看到底是怎么划分articles里的数据。

mysql> select *from information_schema.innodb_ft_index_cache limit 20,10;

+------+--------------+-------------+-----------+--------+----------+

| word | first_doc_id | last_doc_id | doc_count | doc_id| position |

+------+--------------+-------------+-----------+--------+----------+

| 中我 | 2 | 2 | 1 | 2 | 28 |

| 习m | 4 | 4 | 1 | 4 | 21 |

| 习了 | 6 | 6 | 1 | 6 | 16 |

| 习开 | 3 | 3 | 1 | 3 | 25 |

| 习数 | 5 | 5 | 1 | 5 | 37 |

| 了解 | 6 | 7 | 2 | 6 | 19 |

| 了解 | 6 | 7 | 2 | 7 | 23 |

| 事务 | 5 | 5 | 1 | 5 | 12 |

| 事务 | 5 | 5 | 1 | 5 | 40 |

| 何管 | 2 | 2 | 1 | 2 | 52 |

+------+--------------+-------------+-----------+--------+----------+

10 rows in set (0.00 sec)

这里可以看到,把分词长度设置为2,所有的数据都只有两个一组。上面数据还包含了行的位置,id等等信息。

接下来,我来进行一系列检索示范,使用方法和原来英文检索一致。

一、自然语言模式下检索:

1、得到符合条件的个数,

mysql>select count(*) from articles

-> where match (title,body) against ('数据库' in naturallanguage mode);

+----------+

| count(*) |

+----------+

| 4 |

+----------+

1 row in set (0.05 sec)

2、得到匹配的比率,

mysql>select id, match (title,body) against ('数据库' in natural language mode)

as score from articles;

+----+----------------------+

| id| score |

+----+----------------------+

| 1 | 0.12403252720832825 |

| 2 | 0.12403252720832825 |

| 3 | 0 |

| 4 | 0.12403252720832825 |

| 5 | 0.062016263604164124|

| 6 | 0 |

+----+----------------------+

6rows in set (0.00 sec)

二、布尔模式下搜索,这个就相对于自然模式搜索来的复杂些:

1、匹配既有管理又有数据库的记录,

mysql> select * from articles where match (title,body)

-> against ('+数据库 +管理' in boolean mode);

+----+------------+--------------------------------------+

| id| title | body |

+----+------------+--------------------------------------+

| 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库 |

+----+------------+--------------------------------------+

1 rowin set (0.00 sec)

2、匹配有数据库,但是没有管理的记录,

mysql> select * from articles where match (title,body)

-> against ('+数据库 -管理' in boolean mode);

+----+------------------+----------------------------+

| id| title | body |

+----+------------------+----------------------------+

| 2 | 数据库应用开发 | 学习开发数据库应用程序 |

| 4 | 数据库与事务处理 | 系统的学习数据库的事务概论 |

| 5 | nosql 精髓 | 学习了解各种非结构化数据库 |

+----+------------------+----------------------------+

3 rows in set (0.00 sec)

3、匹配mysql,但是把数据库的相关性降低,

mysql> select * from articles where match (title,body)

-> against ('>数据库 +mysql' inboolean mode);

+----+---------------+-----------------+

| id| title | body |

+----+---------------+-----------------+

| 3 | mysql完全手册 |学习mysql的一切 |

+----+---------------+-----------------+

1 rowin set (0.00 sec)

三、查询扩展模式,比如要搜索数据库,那么mysql,oracle,db2也都将会被搜索到,

mysql> select * from articles

-> where match (title,body)

-> against ('数据库' with query expansion);

+----+------------------+--------------------------------------+

| id| title | body |

+----+------------------+--------------------------------------+

| 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库 |

| 4 | 数据库与事务处理 | 系统的学习数据库的事务概论 |

| 2 | 数据库应用开发 | 学习开发数据库应用程序 |

| 5 | nosql 精髓 | 学习了解各种非结构化数据库 |

| 6 | sql 语言详解 | 详细了解如果使用各种sql |

| 3 | mysql完全手册 | 学习mysql的一切 |

+----+------------------+--------------------------------------+

6 rows in set (0.01 sec)

当然,我这里只是功能演示,更多的性能测试,大家有兴趣可以进行详细测试。由于n-grm是中文检索常用的分词算法,已经在互联网大量使用,这次集成到mysql中,想必效果上不会有太大的问题。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。

如您对本文有疑问或者有任何想说的,请点击进行留言回复,万千网友为您解惑!