MySQL 5 7 深度解析 中文全文檢索

2021-08-30 15:27:05 字數 4552 閱讀 6074

全文檢索在mysql裡面很早就支援了,只不過一直以來只支援英文。緣由是他從來都使用空格來作為分詞的分隔符,而對於中文來講,顯然用空格就不合適,需要針對中文語義進行分詞。這不,從mysql 5.7開始,mysql內建了ngram全文檢索外掛程式,用來支援中文分詞,並且對myisam和innodb引擎有效。

在使用中文檢索分詞外掛程式ngram之前,先得在mysql配置檔案裡面設定他的分詞大小,比如,

[mysqld]

ngram_token_size=2

每次修改ngram_token_size後 需要  optimize table table_name 

這裡把分詞大小設定為2。要記住,分詞的size越大,索引的體積就越大,所以要根據自身情況來設定合適的大小。

示例表結構:

create table articles (

id int unsigned auto_increment not null primary key,

title varchar(200),

body text,

fulltext (title,body) with parser ngram //關建行

) engine=innodb character set utf8mb4;

最後記得 optimize table table_name 重建索引(需要定期執行)

當然,在已有的表中新建可以採用alter語句如:

alter table table_name add fulltext index ft_name  (`name`, `company_code`, `office_address`) with parser ngram;

示例資料,有6行記錄。

mysql> select * from articles\g

***************************1. row ***************************

id: 1

title: 資料庫管理

body: 在本教程中我將向你展示如何管理資料庫

***************************2. row ***************************

id: 2

title: 資料庫應用開發

body: 學習開發資料庫應用程式

***************************3. row ***************************

id: 3

title: mysql完全手冊

body: 學習mysql的一切

***************************4. row ***************************

id: 4

title: 資料庫與事務處理

body: 系統的學習資料庫的事務概論

***************************5. row ***************************

id: 5

title: nosql精髓

body: 學習了解各種非結構化資料庫

***************************6. row ***************************

id: 6

title: sql 語言詳解

body: 詳細了解如果使用各種sql

6 rows inset (0.00 sec)

顯式指定全文檢索表源

mysql> set global innodb_ft_aux_table="new_feature/articles"; //new_feature為資料庫名稱, articles為表名稱

query ok, 0 rows affected (0.00 sec)

通過系統表,就可以檢視到底是怎麼劃分articles裡的資料。

mysql> select *from information_schema.innodb_ft_index_cache limit 20,10;

| word | first_doc_id | last_doc_id | doc_count | doc_id| position |

| 中我 | 2 | 2 | 1 | 2 | 28 |

| 習m | 4 | 4 | 1 | 4 | 21 |

| 習了 | 6 | 6 | 1 | 6 | 16 |

| 習開 | 3 | 3 | 1 | 3 | 25 |

| 習數 | 5 | 5 | 1 | 5 | 37 |

| 了解 | 6 | 7 | 2 | 6 | 19 |

| 了解 | 6 | 7 | 2 | 7 | 23 |

| 事務 | 5 | 5 | 1 | 5 | 12 |

| 事務 | 5 | 5 | 1 | 5 | 40 |

| 何管 | 2 | 2 | 1 | 2 | 52 |

10 rows in set (0.00 sec)

這裡可以看到,把分詞長度設定為2,所有的資料都只有兩個一組。上面資料還包含了行的位置,id等等資訊。

接下來,我來進行一系列檢索示範,使用方法和原來英文檢索一致。

自然語言模式下檢索:

得到符合條件的個數,

mysql>select count(*) from articles

-> where match (title,body) against ('資料庫' in naturallanguage mode);

| count(*) |

| 4 |

1 row in set (0.05 sec)

得到匹配的比率,

mysql>select id, match (title,body) against ('資料庫' in natural language mode)

as score from articles;

| id| score |

| 1 | 0.12403252720832825 |

| 2 | 0.12403252720832825 |

| 3 | 0 |

| 4 | 0.12403252720832825 |

| 5 | 0.062016263604164124|

| 6 | 0 |

6rows in set (0.00 sec)

布林模式下搜尋,這個就相對於自然模式搜尋來的複雜些:

匹配既有管理又有資料庫的記錄,

mysql> select * from articles where match (title,body)

-> against ('+資料庫 +管理' in boolean mode);

| id| title | body |

| 1 | 資料庫管理 | 在本教程中我將向你展示如何管理資料庫 |

1 rowin set (0.00 sec)

匹配有資料庫,但是沒有管理的記錄,

mysql> select * from articles where match (title,body)

-> against ('+資料庫 -管理' in boolean mode);

| id| title | body |

| 2 | 資料庫應用開發 | 學習開發資料庫應用程式 |

| 4 | 資料庫與事務處理 | 系統的學習資料庫的事務概論 |

| 5 | nosql 精髓 | 學習了解各種非結構化資料庫 |

3 rows in set (0.00 sec)

匹配mysql,但是把資料庫的相關性降低,

mysql> select * from articles where match (title,body)

-> against ('>資料庫 +mysql' inboolean mode);

| id| title | body |

| 3 | mysql完全手冊 |學習mysql的一切 |

1 rowin set (0.00 sec)

3,查詢擴充套件模式,比如要搜尋資料庫,那麼mysql,oracle,db2也都將會被搜尋到,

mysql> select * from articles

-> where match (title,body)

-> against ('資料庫' with query expansion);

| id| title | body |

| 1 | 資料庫管理 | 在本教程中我將向你展示如何管理資料庫 |

| 4 | 資料庫與事務處理 | 系統的學習資料庫的事務概論 |

| 2 | 資料庫應用開發 | 學習開發資料庫應用程式 |

| 5 | nosql 精髓 | 學習了解各種非結構化資料庫 |

| 6 | sql 語言詳解 | 詳細了解如果使用各種sql |

| 3 | mysql完全手冊 | 學習mysql的一切 |

6 rows in set (0.01 sec)

建立表後新建索引

alter table mytest add fulltext index testfulltext(a,b) with parser ngram;

為資料重建索引

repair table tbl_name quick;

MYSQL 5 7 全文索引

1 修改mysql配置檔案 mysqld ngram token size 1 2 建立表的同時建立全文索引 create table articles id int unsigned auto increment not null primary key,title varchar 200 bod...

MySql5 7 全文索引(針對中文搜尋)

關於中文的全文檢索,寫的算是比較完整的,但是具體實現的時候,會有一些問題要解決。mysql語句 這裡的搜尋,使用的是sql語句,不支援hql。如果使用hibernate實體控制的話,需要做些修改 createquery createsqlquery 返回的實體,在還需增加.addentity cla...

MySQL 5 7 中文全文檢索使用教程

在mysql 5.7.6之前,全文索引只支援英文全文索引,不支援中文全文索引,需要利用分詞器把中文段落預處理拆分成單詞,然後存入資料庫。從mysql 5.7.6開始,mysql內建了ngram全文解析器,用來支援中文 日文 韓文分詞。本文使用的mysql 版本是5.7.22,innodb資料庫引擎。...