天天看点

python 字符串相似度计算,距离算法

字符串的相似性比较应用场合很多,像拼写纠错、文本去重、上下文相似性等,判断2个文字列的相似度的多少,合理使用的话就可以实现Google、百度等搜索引擎中的 ‘你是不是要找‘XX’’ 的功能了。

字符串相似度最常见的办法就是:把一个字符串通过插入、删除或替换为另一个字符串,所需要的最少编辑次数,这种就是编辑距离(edit distance)度量方法,也称为Levenshtein距离。海明距离是编辑距离的一种特殊情况,只计算等长情况下替换操作的编辑次数,只能应用于两个等长字符串间的距离度量。其他常用的度量方法还有 Jaccard distance、J-W距离(Jaro–Winkler distance)、余弦相似性(cosine similarity)、欧氏距离(Euclidean distance)等

import difflib
import Levenshtein

str1 = "未来资金还款来源主要包括上市公司分红"
str2 = "未来还款资金来源主要包括个人日常收入"

# 1. difflib
seq = difflib.SequenceMatcher(None, str1, str2)
ratio = seq.ratio()
print('difflib similarity1: ', ratio)
#返回的结果超过0.6就算很相似。目前做近义词词典就是借助相似度自动化来实现。

# difflib 去掉列表中不需要比较的字符
seq = difflib.SequenceMatcher(lambda x: x in '主要', str1, str2)
ratio = seq.ratio()
print('difflib similarity2: ', ratio)

#2. hamming距离,str1和str2长度必须一致,描述两个等长字串之间对应位置上不同字符的个数
sim = Levenshtein.hamming(str1, str2)
print('hamming similarity: ', sim)

# 3. 编辑距离,描述由一个字串转化成另一个字串最少的操作次数,在其中的操作包括 插入、删除、替换
sim = Levenshtein.distance(str1, str2)
print('Levenshtein similarity: ', sim)

# 4.计算莱文斯坦比
sim = Levenshtein.ratio(str1, str2)
print('Levenshtein.ratio similarity: ', sim)

# 5.计算jaro距离
sim = Levenshtein.jaro(str1, str2)
print('Levenshtein.jaro similarity: ', sim)

# 6. Jaro–Winkler距离
sim = Levenshtein.jaro_winkler(str1, str2)
print('Levenshtein.jaro_winkler similarity: ', sim)
           

输出 

difflib similarity1:  0.5555555555555556
difflib similarity2:  0.5555555555555556
hamming similarity:  10
Levenshtein similarity:  10
Levenshtein.ratio similarity:  0.5555555555555556
Levenshtein.jaro similarity:  0.7222222222222222
Levenshtein.jaro_winkler similarity:  0.7777777777777778
           

ref:https://blog.csdn.net/qq_37788558/article/details/78780785

https://blog.csdn.net/xiaodongxiexie/article/details/78221271

https://blog.csdn.net/u013055678/article/details/52695280

https://blog.csdn.net/u010454729/article/details/46559845(推荐)

https://blog.csdn.net/yixianfeng41/article/details/61917158