字符串的相似性比较应用场合很多,像拼写纠错、文本去重、上下文相似性等。
评价字符串相似度最常见的办法就是:把一个字符串通过插入、删除或替换这样的编辑操作,变成另外一个字符串,所需要的最少编辑次数,这种就是编辑距离(editdistance)度量方法,也称为Levenshtein距离。海明距离是编辑距离的一种特殊情况,只计算等长情况下替换操作的编辑次数,只能应用于两个等长字符串间的距离度量。
其他常用的度量方法还有Jaccarddistance、J-W距离(Jaro–Winklerdistance)、余弦相似性(cosinesimilarity)、欧氏距离(Euclideandistance)等。
#-*-coding:utf-8-*-
importdifflib
#importjieba
importLevenshtein
str1="我的骨骼雪白也长不出青稞"
str2="雪的日子我只想到雪中去si"
#1.difflib
seq=difflib.SequenceMatcher(None,str1,str2)
ratio=seq.ratio()
print'difflibsimilarity1:',ratio
#difflib去掉列表中不需要比较的字符
seq=difflib.SequenceMatcher(lambdax:xin'我的雪',str1,str2)
ratio=seq.ratio()
print'difflibsimilarity2:',ratio
#2.hamming距离,str1和str2长度必须一致,描述两个等长字串之间对应位置上不同字符的个数
#sim=Levenshtein.hamming(str1,str2)
#print'hammingsimilarity:',sim
#3.编辑距离,描述由一个字串转化成另一个字串最少的操作次数,在其中的操作包括插入、删除、替换
sim=Levenshtein.distance(str1,str2)
print'Levenshteinsimilarity:',sim
#4.计算莱文斯坦比
sim=Levenshtein.ratio(str1,str2)
print'Levenshtein.ratiosimilarity:',sim
#5.计算jaro距离
sim=Levenshtein.jaro(str1,str2)
print'Levenshtein.jarosimilarity:',sim
#6.Jaro–Winkler距离
sim=Levenshtein.jaro_winkler(str1,str2)
print'Levenshtein.jaro_winklersimilarity:',sim
difflibsimilarity1:0.246575342466
difflibsimilarity2:0.0821917808219
Levenshteinsimilarity:33
Levenshtein.ratiosimilarity:0.27397260274
Levenshtein.jarosimilarity:0.490208958959
Levenshtein.jaro_winklersimilarity:0.490208958959