Technology-手写汉字识别

本文主要介绍如何通过机器学习来进行手写汉字识别,代码开源在Github-HandWriteRecognition

主要思路:

  • 提取每个汉字的笔画特征,保存成一个字库;
  • 通过手写板或者触摸板获取用户的手写轨迹坐标;
  • 坐标预处理;
  • 通过 KNN 算法,与字库中的每个汉字进行比较;
  • 根据比较距离的大小进行排序,输出结果。

字库

这里的字库,是基于Tomoe Handwriting Dictionary字库进行特殊处理后,生成的model文件。

Tomoe字库收集了汉字的每一笔的起始和转折点,可以认为是特征点。例如
下面是“丁”字的表示,分为两笔,第一笔只有起点和终点,第二笔还包含了转择点:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
<character>
<utf8>&#x4E01;</utf8>
<strokes>
<stroke>
<point x="93" y="198"/>
<point x="913" y="205"/>
</stroke>
<stroke>
<point x="495" y="203"/>
<point x="470" y="847"/>
<point x="405" y="784"/>
</stroke>
</strokes>
</character>

但是Tomoe字库的缺点很明显,首先,其坐标都是基于其本身的画板大小的(1000*1000),而我们在进行手写识别时,无法预先知道触摸屏或者手写板的区域大小,所以,必须对数据归一到同一大小的面板中,其次,其用的是xml格式,导致冗余字段非常多,字库很大(8.8M),非常占空间,而且加载时很慢。

针对,数据归一处理的问题,后面的算法环节会提及处理方法。字库文件过大的问题,这里采用自定义的格式,以“丁”字为例:

1
丁:[[(93,198),(913,205)][(495,203)(470,847)(405,784)]]

这样,将原来8.8M的大小压缩到仅有1.5M,后面根据算法需要会进一步压缩。

特征点

由于用户手写的坐标,是连续的,而且非常多,我们必须从中提取特征点,用于与词库中的特征点做比较。特征点提取,这里,我们用的是点到直线的距离来判断,以“丁”字为例,其第二笔的特征点,首先是起始和结束点,其次是转择点,明显可以看出转折点离起始和结束点连成的直线,距离最远。因此,只要我们设置合适的阈值,就可以通过点到直线的距离,来找出转折点,加上起始和结束点,作为特征点。

因为,一笔笔画可能有多个转折点,所以,我们通过递归来完成:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
void turnPoints(Stroke *stroke, std::vector<Point> *points, int pointIndex1, int pointIndex2){
if(pointIndex1 < 0 || pointIndex2 <= 0 || pointIndex1 >= pointIndex2 - 1)
return;
const float a = stroke->points[pointIndex2].x - stroke->points[pointIndex1].x;
const float b = stroke->points[pointIndex2].y - stroke->points[pointIndex1].y;
const float c = stroke->points[pointIndex1].x * stroke->points[pointIndex2].y - stroke->points[pointIndex2].x * stroke->points[pointIndex1].y;
float max = 3000;
int maxDistPointIndex = -1;
for(int i = pointIndex1 + 1; i < pointIndex2; ++i){
Point point = stroke->points[i];
const float dist = fabs((a * point.y) -(b * point.x) + c);
std::cout << dist << std::endl;
if (dist > max) {
max = dist;
maxDistPointIndex = i;
}
}
if(maxDistPointIndex != -1){
turnPoints(stroke, points, pointIndex1, maxDistPointIndex);
points->push_back(stroke->points[maxDistPointIndex]);
turnPoints(stroke, points, maxDistPointIndex, pointIndex2);
}
}

算法

Frechet

这里用到的算法,一开始是采用Frechet Distance来判断的。

Frechet Distance:首先找出曲线A到曲线B的最远点,然后计算该点到曲线B的最近距离,再反过来计算曲线B到曲线A的最短距离,取两个最短距离的最大值,作为两条曲线的相似度。

但是,在实验中发现,Frechet Distance有着很大的缺陷,首先,如果把整个字作为曲线,与另一个字比较,显然是不行的,因为有些字可能非常复杂,例如“椭”,曲线存在交叉,计算出来的距离没有参考意义;其次,如果通过单笔画进行比较,由于用户的手写区域与字库的区域不一样是重合的,所以,计算出来的距离也会有问题,例如:

1
2
3
字库的“一”字坐标:(0, 50)->(20, 50)
手写的“一”字坐标:(0, 80)->(20, 80),距离:30
手写的"|"字坐标:(10, 40)->(10, 60),距离:14

所以,在实验后,决定放弃使用Frechet Distance来判断字的相似度,而通过特征点构成的直线的角度来比较,使用KNN算法。

KNN

首先,计算单笔画的相似度,单笔画的特征点与前一点的直线的角度,计算方式:

1
2
3
4
5
double diretion(const Point &lastPoint, const Point &startPoint){
double result = -1;
result = atan2(startPoint.y - lastPoint.y, startPoint.x - lastPoint.x) * 10;
return result;
}

特征点的数量可能不对应,可以采用两种方式来处理,一种是插值,一种是采样,这里是采样的方式,另外,对于每一笔,还需要加上其起始点与上一笔的终点构成直线的角度,避免“丁”字识别成“十”字的情况,计算方式如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
double distBetweenStrokes(const Stroke &stroke1, const Stroke &stroke2){
double strokeDist = MAXFLOAT;
double dist = 0.0f;
int minLength = fmin(stroke1.points.size(), stroke2.points.size());
Stroke largeStroke = stroke1.points.size() > minLength ? stroke1 : stroke2;
Stroke smallStroke = stroke1.points.size() > minLength ? stroke2 : stroke1;
for(int j = 1; j < minLength; ++j){
double diretion1 = largeStroke.points[j].diretion;
double diretion2 = smallStroke.points[j].diretion;
dist += fabs(diretion1 - diretion2);
}
// 当前笔与上一笔的位置差异
dist += fabs(largeStroke.points[0].diretion - smallStroke.points[0].diretion);
strokeDist = dist / minLength;
return strokeDist;
}

到此,我们可以获取到用户手写字与字库里面字,单笔画的相似程度,通过加法,就可以得到整个字的相似程度,但是由于存在连笔的情况,例如,一笔写成两笔,所以,我们允许笔画数的误差在2以内,但是在排序时,笔画数越接近的,优先级越高,计算方法如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
double dist(const Character &character1, const Character &character2){
double dist = MAXFLOAT;
if(character2.strokeCount >= character1.strokeCount && character2.strokeCount <= character1.strokeCount + 2){
double allStrokeDist = 0.0f;
for(int i = 0; i < character1.strokeCount; ++i){
Stroke stroke1 = character1.strokes[i];
Stroke stroke2 = character2.strokes[i];
double strokeDist = distBetweenStrokes(stroke1, stroke2);
allStrokeDist += strokeDist;
if(strokeDist > MAX_DIFF_PER_STROKE){
allStrokeDist = MAXFLOAT;
return allStrokeDist;
}
}
// 笔画更接近的优先级更高
return allStrokeDist / character1.strokeCount + character2.strokeCount - character1.strokeCount;
}
return dist;
}

注意,到这里,我们用到的只是两点直线的角度,与坐标的实际大小已经没有联系,所以,可以将字库进一步精简为:

1
丁:[[0, 0.08][31.3, 16.09, 23.71]]

进一步精简词库的大小。

效果

通过搭建词库,取特征点,以及匹配算法,我们可以看到手写识别的最终效果如下:

Technology-IME-Result

Technology-IME-Result

Technology-IME-Result

Technology-IME-Result

只要手写不是特别潦草,基本上第一个字就能识别出来。但是依然存在着依赖笔画顺序的问题,后面有空再优化。

YI wechat
欢迎您扫一扫上面的微信公众号,订阅我的博客!