尽管如此，我却是更热衷于写微博，因为这个时代是一个浮躁的时代，是一个信息大爆炸的时代，新的还没看够，更新的又来了，选择太多，人性贪婪，意味着你不能做太多的停留，匆匆看一眼就走。

同时这也是一个怀旧的年代——大概也是因为人性的贪婪。人们总想困住流动的水流，却没发现水流总能从我们的指间遁走。

既想要抓住过去的，又不想错过未来的，却经常是总忘了自己当下的一团糟。不久前，我跟着网络的热点话题，买了几本有意思的杂书，到如今却一本都还没认真读过，甚至还有一本没有开封。一篇讲HMM的Baum-Welch算法的文章静静地在草稿箱里躺了半年，至今仍未将它的物理含义讲清楚。甚至是今晚的CRF，当我推导完最后一条公式，写完最后一条代码，第一感觉却是懊恼，这么一个东西，居然搞了一年的时间，当初不懂的公式，现在看来却是如此清晰明了，只因当初浮躁，从来没有心平气和地去认真看过。有时候，老天好像是在玩我，越是急的东西越不让你得到，其实何尝不是想教懂我冷静。

Rock and Roll教我永远不要妥协，不要了无生机，不要瞻前顾后，不要畏首畏尾；而现实社会又教我做人圆润，永远不要把事情做绝，教我退一步海阔天空，教我躺着把钱赚了。两者碰撞，我从爆炸的废墟学到的跟它们毫无相关，却是无比珍贵的一样东西：真诚。做人说话办事都要真诚，我现在终于懂了。然而对于自己的心，更要真诚，这一样我仍然努力去做好。跟一个好久不见的朋友，说出真诚的话；跟一个仰慕已久的女孩子，说出真诚的话；不再去找借口为自己辩护；觉得不喜欢不必惺惺作势，觉得不对就要大声说出来；跟随自己的心，不再犹豫不决。一颗真诚的心，让我瞬间解脱，我感受到20几年来从未有过的自由。

在广西的几天，有个很特别的人跟我说了一句话，说“追女孩子，没钱、没样子，就凭人格魅力呀。” 我顿时明了，却更感羞愧。人格魅力是什么？我从身边的很多人身上都感受到了人格魅力，惟独是自己，我从来不觉得自己的人格魅力是什么，甚至有时候都有点厌恶自己。

而现在，我只希望我的人格魅力，就是真诚。

借用图一张:

上海

此为转帖，原文在此：http://hi.baidu.com/l0he1g/blog/item/d0b6768d8df3fb1bb21bba27.html

虽然没有能去成上海的DragonStar课程，但这两天有幸接触到DragonStar的lecture视频，除了Feifei-Li老师与Eric Xing老师的讲解让我一直以来的疑惑得到解决以外，还见识了大牛的风采。Eric老师的一番话让我明白，无论在什么领域，在什么层次，你的热情、心中的激情都会是一股使你不断前进的力量。

上周有幸听了邢波教授的五天机器学习课程,受教颇多颇多。该课程属于”龙星计划” 的一部分,该计划每年都会邀请一些海外杰出的华人教授回国教授研究生课程。Professor xing是CMU的副教授，也是当代机器学习领域中泰山北斗Michael Jordan的学生,他们那些人经历了推动这个领域从无到有，再到今天繁荣昌盛的过程。除此之外，他还是Richard Karp（提出NP问题而获得1985年图灵奖）, 和Stuart Russell（《人工智能：一种现代方法》的作者）的学生。用邢教授的话说，他当年在Berkeley读博时，面对Karp时和他谈算法，面对 Jordan时就和他谈Machine Learning,面对Russell时和他谈AI。五年之后，博得众家之所长，在CMU开辟一片属于自己的天地。值得一提的是，邢教授本科在清华念得的 是物理，后来去美国读了个分子生物和生物化学的博士，然后再去Berkeley读计算机的博士的。

此次回国讲课，虽然短短五天，但邢教授 恨不得倾囊相授。从机器学习从前二三十年的发展，到前十年的成果，再到上个月的成果;从背后深厚的数学原理到上层模型算法的应用实例和技巧;更是高屋建瓴 将整个领域总结成一个五维空间，同时将问题映射到具体细节。由于课程时间很紧，课程内容其实是他在CMU所教授的两门研究生课程的一个结合，所以讲课速度 不得不比较快，但每讲完一个问题，他都会停下来问问大家有没有什么问题，征求大家的意见，唯恐大家听不懂。不仅如此，每到兴奋之处，更是会讲授他的一些研 究经历。期间为了和大家给大家更多的交流机会，更是在周三晚上增加了一次座谈，回答大家学习上，生活上等等的问题。虽然白天上课强度如此之大，他每天晚上 三点起床为我们备课，每次上课都会提前二十钟到堂，上课前十分钟还要把ppt好好检查一遍，修改的更为完美。此番热忱之心，真是令人感动!反观国内一些无 术之士，上课简直就是浪费别人的的大好青春，扼杀别人的创造力。

我一直很奇怪，姑且不论其本科专业，这个人为什么要读两个专业差别如此大 的博士，他又是如何做到的?后来，在座谈会上，才被一席话惊醒梦中人。答案很简单–passion。讲到他之所以三番两次改专业，其实就是一个不断的去 尝试的过程，”Fowllow my heart”。最终终于在Machine Learning找到了自己的归属，而且是计算机顶尖牛校。很多人会问他,本科在清华读了四年物理，博士又那么辛苦读了五年生物，就这样放弃，值得吗？他 说，一个人如果在他四十岁时做出改变都不算晚，因为他还有下半辈子来享受这种改变；反之如果他一直瞻前顾后，止步不前，那么他遗憾的就是一辈子!人生可就 这么一辈子啊!再从具体的讲，本科乃至博士学到的东西都是很快会过时的，所以没什么舍不得的,还举了以前他读清华时的同学的例子，因为成绩好舍不得放弃物 理，然而又对物理没有passion,十余年过后，两人差距可想而治。总结一下，人活着就应该去做自己有passion的事，敢于去try，不要怕吃苦， 敢于放弃!

其实,作为一个转专业的学生，邢教授申请Berkeley的过程并不顺利，一开始报Jordan，被调到Karp那，Karp 也没接收，最后落到Russell那搞人工智能,但他并没有放弃对Machine Learning的热爱，经过不懈努力，最终得到了Jordan和Karp的认可，被两人也收为弟子。还讲到研究生与导师相处的诀窍是不要等老师来 drive你，而是你要主动去drive老师。具体的说，不要等老师来告诉你要干什么，而要你主动去告诉老师你在干什么，想干什么,让老师来配合你的工 作！当我问道国内的研究环境和国外的差距，国内整天做工程的困惑时，他的建议是要寻找一个平衡点，既让自己happy，也要让导师happy。这句话是想 想目前还是正确的，自己不happy，日后后悔的只有自己；搞的导师不happy了–会死的很难看,起码在国内的环境下大概如此了。很多事情，看上去总 是困难重重，但“If you have the heart，Nothing can stop you”!

在做研究方面，他 讲到做研究最重要的是honesty,只有做到honesty，才会有人追随你。虽然贵为该领域的大教授，但在课堂上，对于其不确定或是不知道的问题，绝 不掩饰，虚心的听取别人的见解。其次就是diligence，讲到Jordan即使是度假，每天也到带两三篇paper读读，讲到 Andrew（Jordan最出色的弟子，邢教授的师兄）整日呆在实验室不出门，他自己回国晚上只睡着4个小时,白天依然神采奕奕的讲课。是什么支持他们 做到如此的，答案还是passion。因为passion,对于那些大牛读paper其实就普通人看电影没有区别。还有一点就是healthy。在同等条 件下或是别人条件比你好的情况下，你唯有拼身体了–别人每天工作12小时，你每天工作13小时！还说到智力和出身院校其实都不重要，讲到年纪比他还轻的 杨子恒,甘肃农大毕业，北京农大读的博士如今已当选为英国皇家学会院士。

PS:昨日在BBS上看到一篇文章“从院士增选看数学江湖”,后来又了解下丘-王事件，没想到国内数学界堕落到如此地步。国内某些人虽然在局部时间和空间内风光无限，但无耻行径注定日后遭人唾弃。真正有学问的人，也是品格极为高尚的人。在华老，陈老等老一辈苦心栽培的数学界，院士级别的人物尚且如此，其他领域不必多言。

花 了一上午多的工作时间终于敲成了这篇文章，希望与大家共勉。附上一幅插画，此画被邢教授挂于其办公室当中，座谈课介绍后，当即不少人将其作为桌面。其中道 理，尽在画中。

在之前的文章中，已经分别介绍了隐马科夫模型（HMM）的概况以及HMM中广泛应用的一种解决估值问题的算法：前向法(Forward Algorithm)。在本文将介绍解决HMM另外一个问题 – 解码问题 – 的算法：维特比算法(Viterbi Agorithm)，也属于HMM中的一个基本算法，而且算法本身很像Forward的这个概念，理解起来相对容易。

本文目录：

• Page 1: 前文提要
• Page 2: 一般算法与高效维的特比算法
• Page 3: 实例与伪代码
• Page 4: 参考资料

Last Modified：2010/12/25 16:57 All rights reserved.

前文提要：

在之前的HMM文章中提到，HMM模型将涉及到3个问题：

1. 给定一个观察到得序列O，及参数，求出，即发生这种观察序列的可能性。对应上面例子中，即是我给定一个最终确定了的水果序列S，求我选到这样的水果的可能性。
2. 给定一个观察到的序列O，及参数，求出最有可能产生这种序列的状态序列S。对应上面例子中，即我给定一个最终确定了的水果序列S，求我最可能的选水果筐路径。
3. 同样给定一个观察得到的序列O，求如何调整参数，使最大。

对于问题1，我们已经讨论过Forward Algorithm并成功高效地解决了这个问题。接下来我们将讨论解决平时称为“解码问题”的问题二的解决方法。

在问题二中，对应选水果的例子，我们需要解决的问题是，当我们知道最后选出来的水果序列，以及框选水果(Emission Matrix)、框转框(Transition Matrix)这两个概率，求可能选出这种水果序列的框路径。

* 在讨论这个问题之前，可以先复习一下之前的前向法，因为整体思路跟前向法类似。

最近老师跟我们讲了很多学习以外的道理，我回来以后想了好一会儿，觉得的确非常有道理，不仅学习了别人成功的经验，也看清了自己的不足。以后应该好好地整理出来这些经验、例子。

无独有偶，今天在cvchina看到的这个链接，我觉得这位大侠成功路上的经验也很值得我们细细品读。

作者介绍：

周昆，2002年从浙江大学计算机学院获得工学博士学位，同年加入微软亚洲研究院，历任副研究员、研究员和项目负责人。2008年受聘*长江学者特聘教授，回到浙江大学计算机学院工作。在微软工作6年期间曾在国际计算机图形学大会ACM SIGGRAPH上发表17篇论文，其中多项技术被应用在Windows图形系统DirectX，XBOX游戏Halo 3，以及三维电影特技制作软件中。

原文链接：http://vip.book.sina.com.cn/book/chapter_76425_46819.html

转眼之间，我已经在MSRA（微软亚洲研究院）工作了将近六年，回想六年来的研究经历，感触很多。就和练习武功一样，我从一个学徒，到略通精义的武林中人，再到凭借一技所长叱咤一方的的大侠，我在研究院度过了不平凡的六年。

一．2003年：“打哪指哪”与“指哪打哪”

2002年我加入微软亚洲研究院，刚开始是跟着资深研究员做项目。当时我的老板郭百宁提出了一个很有挑战性的想法：能否用纹理合成技术模拟出豹子皮这样一类的纹理。于是，在实现他这个想法的过程中，我学会了“打哪指哪”的研究方法。

这个项目的研究过程异常艰苦。在最开始的几个月里，我们尝试了很多种方法，可无论如何，我们做出来的豹子皮都像是假的。直到项目结束期限前的一个月，百宁总结了我们能做出来的最好结果，发现尽管我们不能做出豹子皮这种纹理，但是已经能做出一大类有累进变化的纹理。于是，围绕着这个思路，我们对已经取得的算法和结果进行了整理。最后论文被SIGGRAPH录用，这也是我的第一篇SIGGRAPH论文。

我在学校里受过的科研训练一般是首先有一个好的想法，接着进行实现，通过写程序和做实验来验证想法是否可行，这种方式可以总结为“指哪打哪”法，就是说目标指向哪里，就打向哪里。可是，我在研究院的第一个项目确教会了另外一种不同的研究门路——“打哪指哪”。比如说百宁给我提供的想法就像一个目标，而需要我想办法把这个目标击中。可是，由于我的知识和研究实力等方面的限制或者本身这个想法就不是很成熟，极有可能这个目标在当时的情况下是实现不了的。可是，就在这个做不出来的过程中，你有可能做出一些科研环节中的副产品来。虽然，之前是沿着一条研究主路一直在前进，但是却会产生很多的分叉与分支出来，逐渐偏离了原来的研究方向。当走了一段时间之后，会恍然发现其实本来就不应该走原来的那条路，要走的就是现在这条走出来的“弯路”。当时的假定目标是A，后来竟做出了一个B出来，而当我们要总结科研成果，撰写科研论文时，我们会总结说其实我们真正要做目标的是B，这就是所谓的“打哪指哪”，J。

在科研过程中，往往会遇到很多没有设想到、但很有意思的现象，便导致了很多意外的新发现。因此，当一项科研成果出来的时候，你可以相信在其背后可能隐藏着另外一个不为人所知的故事。当然你所能看到的几乎所有的科研论文在讲述研究历程时都是运用“指哪打哪”法的，但是它这个结论的发现过程很有可能是“打哪指哪”出来的——没有打到目标A，却把目标B做出来了。

“打哪指哪”法对于刚刚进入研究一两年，脑海中只是有些模糊想法但是又未必做不出来的研究人员比较适用。2003年我们没有做出豹子皮，只是在马身上生成了豹皮的斑点图案，看上去像是披着豹皮的马。两年之后，在2005年的SIGGRAPH上我们真正做到了“指哪打哪”，用纹理映射的方法生成了豹子。

二．2004年：科研成果的产品转换

2004年我发明了一个叫做Iso-charts的技术，主要是借助机器学习的方法对三维网格模型进行自动分片，并且生成纹理坐标。网格参数化是计算机图形学一个非常基础的功能，在游戏和电影产业都被广泛适用。在这一年的工作中，我认识到做研究不只需发论文来展示自己的科研成果，其实还需要看重这项技术的实际价值。被工业界所应用和承认，或许能带来更大的成就感。

通过技术转化组的胡志鹏工程师的辛勤工作，我们成功地在DirectX的Code Base里贡献了三万行代码，使得这项技术成为DirectX中任意网格参数化工具UVAtlas。现在做贴图的程序员和游戏开发者都会用到UVAtlas这个工具，而且这项技术还用在了微软自行研发的Halo 3游戏引擎里。这就是企业研究院区别于其他科研机构的地方，在企业研究院我们不仅可以发表高水平的顶级论文使得科研成果得到学术界的充分认可，而且还可以使自己的科技成果进行产品转化，被成千上万的用户所使用从而体现其更广泛和深远的价值和影响。

非常有意思是，这个项目起源于一个SIGGRAPH项目，我们的投稿不幸被拒了，可是万幸的是它转化进了微软的产品中，而且获得了研究院2005年的最佳技术成果转换奖。同时，这篇论文也是我第一次与微软总部的研究员合作完成的论文。

三．2005年：渐入佳境

2005年对我来说是丰收的一年，我投了三篇SIGGRAPH论文都被录用了，而且三篇都是以第一作者的身份发表的。在同一年里面以第一作者的身份发表三篇论文，这在SIGGRAPH历史上是前所未有的。这一年的丰收标志着我在SIGGRAPH上成熟，也非常庆幸在这一年找到了可以真正命中SIGGRAPH的感觉和信心。当在这种感觉的指引下做出来的三篇论文得到业界同行认可的时候，即充分证明了自己也可以与他们一样跻身世界领先的行列。

总的来说这一年的收获主要体现在两个方面，首先是2003年金钱豹纹路的创想终于在这一年找到了完美的解决。另一方面就是自己的研究视野更加开阔了，从几何和纹理伸延到了绘制，对图形学本身有了更为深入的探索和了解。我一直觉得计算机图形学是个相对较窄的学科，如果连这个较窄的学科都不能做到比较透彻的理解的话，我担心自己今后能到达的研究高度会非常有限的。我希望自己能在研究的深度和广度上并重。

我不停地扩展自己的研究范围，尝试去学习更多的东西，试图在多个方向上寻找可以解决的问题。在某个方向上的研究功力体现在发现问题的能力，如果连问题都不知道的话，解决问题就无从谈起。可是有太多的文献和太多的方向，使得发现问题变得相当困难。即使当你找到一些问题之后，有些问题可能是十几年/几十年没有解决的问题。那么，就需要创新性地在当前的范围里找到一个可解的问题，这其中的难度可能并不比找问题难。

四．2006年：从运动员到教练员

这个阶段我主要从一名运动员转换到同时带学生的教练员，如何培养学生做研究成了我的一个新课题。在研究院工作是幸运的，有很多非常优秀有潜力的学生跟我一起做研究，比如任重、孙鑫、施晓晗、侯启明等。 我在培养学生方面也经历了一个比较有意思的发展过程：

阶段 我 学生

阶段一: 全包培养 从Idea, 方法,实验,论文起草都由我来完成 主要从事一些编程的工作

阶段二: 轻轻放手 提出Idea，论文起草由我完成 让学生去寻找一些解决方法，从事编程工作

阶段三: 大胆放手 只提出Idea 鼓励学生自己寻找方法，尝试撰写论文，从事编程工作

阶段四: 理想状态 只提出大的研究方向 从Idea, 方法,实验,论文起草都由学生完成，从事编程工作

计算机图形学研究对实习生的要求相对比较严格，因为它的门槛很高，除了要有idea，还需要把这个idea实现到极致，做出最漂亮的结果。我对学生的要求非常严厉，但是从另一方面而言，学生出成果也很快很出色。我有责任让这些学生学到知识，提高能力，做出成绩，这样才对得起把这些学生交给我的老师和家长。对学生要求严格的一个简单方法就是以身作则，如果我对自己要求更严，比学生还用功，那么这种工作态度就会激励身边的学生一起热情地投入到项目中。

就像Harry和百宁常说的，我们从全国各地选拔上来的学生就像是一些优秀的的运动员苗子。我们要培养的是能参与国际竞争的奥林匹克团队。进入研究院的学生都是很好的苗子，但是真的要把这些好的苗子培养成世界一流运动员，需要一个艰巨和漫长的过程。在这个过程中，教练员必须要保持耐心。

五．2007年：科学研究中的猜想

研究院是一个智商密度很高的地方，不仅有许多聪明员工和实习生在这里工作，而且有很多世界一流的科学家络绎不绝地到这里交流访问，形成了一个非常宽松而活跃的学术交流平台。在与这些海内外知名学者的交流中，我总能在研究方法和思路上深受启发。比如每次和前任院长沈向洋的交谈都让我受益匪浅。他会经常鼓励我思考一些视觉和图形学交叉领域的研究问题。与另外一位理论组的访问学者滕尚华 教授的交流也极大地帮助我开拓了研究思路。

2005年尚华第一次来研究院访问的时候，我们一起做了一个网格形变的项目，尚华对这个项目中涉及到一些非线性优化算法的稳定性和收敛性做出了重要贡献。我们合作的论文也发表在SIGGRAPH 2006上。此后，每次尚华来研究院我们都会在一起聊天。尽管尚华是一个计算机理论科学家，他对应用领域的很多研究问题却有着浓厚的兴趣。有一次在闲聊时候，他提到在做研究的过程中直觉很重要，有的时候对一些没有把握的方向需要做出猜想（conjecture）。他还提到了自己的一个非常好的研究工作就是这样做出来的。当时理论界已经证明单纯形法 在最坏情况下具有指数复杂度。按照常理这样一个高复杂度的算法应当很难被应用，可是单纯形法却在工业界被广泛应用。尚华和他的合作者就猜想既然实践已经证明了单纯形法的实用性，那么一定存在着某种限定条件使得单纯形法的复杂度远远低于指数复杂度。沿着这一思路，他们最终证明了在大量的工业应用中单纯形法只是多项式复杂度。这一研究工作在理论界和工业界都产生了深刻的影响，相对于传统的最坏情况分析（worst case analysis），这一工作开创了光滑分析（*oothed analysis）。他们的论文也在2008年获得了计算机理论学界享有盛名的G?del奖。

当时，我在做一个关于动态散射媒体/烟雾的实时绘制项目，但是却碰到很多困难。烟雾的数据表达是一个包含有很多高频特性的体数据，我们尝试用一些数学模型去近似表达烟雾的数据，然后在这个数学模型上进行有效绘制计算。但是根据这些数学模型得到的绘制效果却不让人满意，因为原始数据在数学函数的逼近下会丢失掉一些细节，所以烟雾绘制出来的效果总是太过光滑，真实感颇为欠缺。另一方面，直接采用烟雾的原始数据会极大地降低绘制效率并且增加存储开销。这时候我们的项目基本上陷入了停顿。而尚华的关于科研猜想的一番谈话如醍醐灌顶般激发了我的灵感——是不是可以尝试不要丢掉残差（原始数据减去函数逼近而剩下的即为残差），在绘制过程中通过某种途径把残差补偿进去（当时完全不知道该如何补偿）。有了这个思路，我马上找任重一起讨论如何利用残差。很快我们就解决了残差数据的有效存储和绘制算法，实验结果表明这个猜想非常完美地把富有真实感的细节表现出来了。这项研究成果也发表在2008年的SIGGRAPH上。就是这样，一个利用早期被我们丢弃的残差数据的算法成为了这整个项目中最核心的部分，而大胆猜想为我们在穷途末路中找到了重新开路的明灯。

六．2008年： 从计算机图形学到计算机科学

如果说过去5年的目标是对计算机图形学有一个透彻的了解，那么从2008年开始我把研究范畴扩展到计算机科学中的一些更基础的领域：数据结构和编程语言。

近年来多核技术（包括多核CPU和GPU）的发展已经成为趋势，如何在多核环境下进行有效的算法设计和程序开发成为整个计算机科学的一个热点研究方向。这对我们图形学研究人员来说也是一个难得的机遇，因为没有人比我们更了解GPU，J。2007年年初我们就计划在 GPU上开发一些基本数据结构的构建算法，并在暑假的时候确定了要设计一个全新的GPU编程语言的目标。到目前为止我们已经开发了包括八叉树，KD树在内的多个基本数据结构，这些数据结构被应用到图形学和视觉等多个领域。

另外我的学生侯启明和我设计开发的BSGP编程语言使得程序员可以象编写串行C语言程序一样在GPU上进行并行程序设计，大大提高了GPU程序的可读性、可写性和可维护性，使得编程效率提高２~３倍。而我们的BSGP编译器生成的代码可以达到与现有的编程语言相似甚至更高的运行性能。这项成果已经被2008年的SIGGRAPH大会录用。目前我们正在努力把这个新的编程语言产品化。我梦想着有一天我们在数据结构和编程语言上的这些研究工作和成果会为并行计算时代的计算机科学奠定基础。

科学研究是一个没有止境的、艰苦的历程，如果你能保持耐心，并学会享受这一历程，你就能达到自己想象不到的高度。我希望这篇短文中提到一些的科研经历能对刚开始进行计算机图形学研究工作的新手们有所帮助。请你们相信，也许目前你觉得要成为一名计算机图形学专家是一件遥不可及的事情，但是只要你不断努力，你一定会被学术界所认可；也许你还会觉得成为计算机科学家是遥不可及的，那么只要你坚持，你同样可以证明自己可以成为一流的计算机科学家。就象Harry经常和我们说的，the sky is the only limit（天空是唯一的局限，引申为永无止境）!

有一天，王老师说，他的车牌识别率可以达到86%（当然，不知道是以什么标准，在怎样的环境下，识别怎样的车牌），我总觉得我能用我的方法做得再好一点。试着写了下面这一个简单的字符分割Script，出来结果后才发现自己是多么幼稚阿··· 这笨方法只能当作入门了。

先说明，这是一个最简单的车牌字符分割程序，结果连我自己都觉得惨不忍睹··· 太打击了。

正如前文提到的，传统LPR通常要求在识别任务前先做一个字符分割。应该算是整个LPR程序中最简单的一步了。只是，就连这么简单的步骤也需要我们的很多考虑，需要牺牲大量的脑细胞来得到个还算说得过去的办法。你看完就知道了。

程序大概分为3步：1、灰度化/二值化/直方图均衡化/归一化大小；  2、去噪； 3、分割。

由于使用MATLAB作为平台，第一步几乎可以以一句话完成。这里不做过多陈述：

bgs_img = filter2(fspecial('average',2),im2bw(histeq(rgb2gray(ori_img)),0.8));

而对于去噪一步，需要花一点心思。不要以为去噪就是传统的高斯、中值滤波之类的东西，在自然环境中，干扰是无穷无尽的。对于我们的车牌识别程序，干扰我们的通常会有光照、车牌上的污点等等，这些干扰通常会使用普通图像处理手段来解决，比如用高斯等平滑滤波，用直方图均衡化等。然而，还有另外一些干扰也要引起我们的注意，就是车牌的边沿、螺丝等等，这些是几乎每个车都有的问题，因此解决这种问题更显得程序的通用性。

网上摘录的车牌

给出一个网上摘录下来的车牌（好牌号呀！），我们可以看到，尽管车牌已经比较完美地定位（切割）了出来，但是对于提取纯字符任务来说，我们还面临着边沿、螺丝、空隙等挑战。

在这里尝试采用比较常见的统计手段来解决这个问题：

在得到二值化图像之后，我们可以得到一个二值矩阵（这不废话），当某位置的值等于0的时候，表示该像素点为全黑，反之，则该像素点为纯白。然后我们可以对此二值矩阵分别对行、列进行求和统计。

下一页是代码摘要和详解

在假期的前几天颓废了好一阵之后，终于重新拾起未完成的事情。根据计划是按照HMM -> MEM -> CRF -> hCRF 这个伟大目标前进的。HMM已经在之前写了一个文章(惊喜地发现在google里面搜“HMM模型”，它出现在了第一页 )，这里写的是HMM中，解决第一个问题，即估值问题的一个快速算法 – 前向法(Forward Agorithm)。过几天还会陆续完全弄懂、写好Viterbi与Baum-Welch算法。

本文目录：

• Page 1: 前文提要
• Page 2: 普通的穷举算法
• Page 3: 可行的替代算法 – 前向法
• Page 4: 参考书目

Last Modified：2010/08/29 23:40 All rights reserved.

前文提要：

在之前的HMM文章中提到，HMM模型将涉及到3个问题：

1. 给定一个观察到得序列O，及参数，求出，即发生这种观察序列的可能性。对应上面例子中，即是我给定一个最终确定了的水果序列S，求我选到这样的水果的可能性。
2. 给定一个观察到的序列O，及参数，求出最有可能产生这种序列的状态序列S。对应上面例子中，即我给定一个最终确定了的水果序列S，求我最可能的选水果筐路径。
3. 同样给定一个观察得到的序列O，求如何调整参数，使最大。

这里讨论的将会是第一个问题，即所谓的估值问题。

再次，在问题一中我们的目标是求出可见序列O在参数集(包含Transition Matrix、Emission Matrix、N、M、Pi)中的发生概率，即求，请着眼于这个概率，以下将以作为主角。

(请留意换页… Next Page »)

Electric Light Orchester - Light (the cover)

It seemed to be [a pessimistic view] on that song. Yeah, well, and absolute that song… He’s walking down the same street that it was before, like say a hundred years before. But uh, even though he’s on the same bit of ground, everything that he knew is, like, buried under this new shit, y’know, that’s growing up… on top of it, all these plastic towers and stuff. Ah, the castanets. It was a bit Russian but we put castanets on it and it became Spanish.

- wiki: The Way Life’s Meant to Be.

Well, I came a long way to be here today
And I left you so long on this avenue
And here I stand in the strangest land
Not knowing what to say or do
As I gaze around at these strangers in town
I guess the only stranger is me
And I wonder (yes, I wonder)
Yes, I wonder (oh, I wonder)
Is this the way life’s meant to be?

当我长途跋涉终于又回到这里
在此你我已相隔千里
当我站在这个陌生的地方时
不知所措
当我偷偷打量这里的陌生事物时
才发现奇怪陌生的只有我而已
然后我就疑惑…
对，我就在想…
难道生活就应该是这样么？

Although it’s only a day since I was taken away
And left standing here looking in wonder
(It’s your life, it’s your life)
Ah, the ground at my feet, maybe it’s just the old street
But everything that I know lies under
(It’s your life, it’s your life)
And when I see what they’ve done
To this place that was home
Shame is all that I feel
Oh, and I wonder (oh, I wonder)
Yes, I wonder (wonder, wonder, wonder, wonder)
Is this the way life’s meant to be?

尽管我只离开了一天
呆呆地站在原地无奈地张望
（这就是你的生活，这就是你的生活）
啊，我脚下的土地，可能就是我曾经熟悉的老街
但是所有我熟悉的一切却已被深埋地下
当我看到他们对这里，
对这个曾经是家的地方所做的一切
我只能感到深深的耻辱
噢，我就奇怪了
难道这就是生活本该有的样子？

Too late, too late to cry
The people say
Too late for you, too late for me
You’ve come so far, now you know everything my friend
Look and see the wonders of our world…

人们说：
“太迟了，你哭也没用了”
“对你我而言，都太迟了”
你都已经长大了，你都已经知道太多关于这个世界的事情了
睁开双眼看看我们这个光怪陆离的世界吧！

And I wonder (oh, I wonder)
Yes, I wonder (yes, I wonder)
Is this the way life’s meant to be?

然后，我就奇怪了
是的，我就奇怪了！
难道这就是生活本来的面目么？

As I wander around this wreck of a town
Where people never speak aloud
With its ivory towers and its plastic flowers
I wish I was back in 1981
Just to see your face instead of this place
Now I know what you mean to me
And I wonder (oh, I wonder)
Yes, I wonder (yes, I wonder)
Is this the way life’s meant to be?

以前这里的人们甚至都不曾大声说话
当我在这鬼地方游荡的时候
看着这里的高塔和那些塑料花儿
我多想回到1981
去看看你的样子，而不是这个鬼地方
到现在我才真正懂得，对我而言你是多么珍贵
然后，我就奇怪了
是的，我又奇怪了
难道这就是生活的摸样么？

And I wonder (oh, I wonder)
Yes, I wonder, wonder, wonder, wonder
Is this the way life’s meant to be?
Ooohh, I wonder
Oh, I wonder, wonder, wonder
Is this the way life’s meant to be?
Oh, is this the way life’s meant to be?
Mmmmm, is this the way life’s meant to be?
I wanna know now
Is this the way life’s meant to be?

转载于brain-damage网：http://www.brain-damage.co.uk/latest/point-me-at-the-sky-dark-side-tribute-on-primrose-hill.html

Dark Side of The Moon Sky Arts tribute

UK-based satellite TV station Sky Arts have created a pyramid on London’s Primrose Hill to publicise their showing of Pink Floyd’s Earl’s Court 1994 performance of The Dark Side of The Moon on Sky Arts 1 in high definition.

The 5-metre high pyramid, shown to the right with the London skyline [click thumbnail], promotes the screening of Pulse: The Dark Side Of The Moon Live, which transmits on Sky Arts 1 and Sky Arts 1 HD today (Friday October 23rd) at 10am and 4pm.

The large ‘prism’ uses diffused LED lighting to create the album art’s glowing effect. Lasers were installed behind the structure, a white laser emitting from the left hand side and coloured beams emitting from the right hand side, to re-create the image that appears on the famous Pink Floyd album cover.

UPDATE: The people behind this very impressive installation documented the creation, and the following video gives a whistle-stop guide to the construction, and a look at how it appeared on Primrose Hill:

以下是制作视频时长1分22秒：

HMM已经有很多人研究过了，而我要研究它的目的只是为了那个让我我纠结多天的Hidden-state Variable。说起这个Hidden-state Variable，真是惭愧，应该是我很笨或者很懒的问题，从JMLMIL理论开始，我就一直开始搞不懂Hidden-state Variable究竟是怎么样来的，虽然我知道它的物理意义和怎么使用。可能很多人看论文都会有这样的感觉吧，即使当你清楚了某个东西的框架，也认同这个框架，但是当你细细深入并打算实现的时候，才会发现现实跟框架是有很多差距的啊！

不好意思，扯远了。我从JMLMIL开始追寻这个Hidden-state variable，到HCRF，到CRF，到HMM。而如今对HMM的理解算是对这个Hidden-state Variable的理解的一个开始吧。当我完全搞懂这个Hidden的东西之后，我会详细的把这些东西都串起来。现在，先看看HMM吧。

隐马科夫(HMM)模型全称：Hidden Markov model，是一种统计学的模型，是马科夫链与无法观察的状态的结合。在这里，我假设看这篇文章的人已经对马科夫过程(Markov Process)有了初步的认识，对概率论有过初步的学习。

用一句话描述马科夫过程，就是后一个事件发生的概率只与当前时间发生的概率相关。在下面的图里面，我们可以清楚看到”马科夫过程”这一属性，注箭头意x(t-1), x(t), x(t+1)之间的的指向，就用这个箭头表示他们之间的关系，这个箭头是单向的，对于t这一个时间的状态x(t)，只有t-1时刻的状态x(t-1)指向它，说明影响t时刻的状态x(t)的，只有t-1时刻的状态x(t-1)。

Hmm temporal bayesian net

那么这个HMM模型，隐马模型到底“隐”在哪里呢？其实解释起来也不难，这里…t-1, t, t+1…各个时刻的x状态是一个随机过程，试想一下，你总不能确定一个随机过程中的每个状态吧？所以，上图的x状态对于我们来说，在没有到达t时间之前，他仍然是未知的，隐藏的（Hidden）。这些x被称为“unobserved state”。

Turn to the next page for more.

了解了这个“隐”的概念之后，我们可以深入HMM的一个整体结构和过程了。

为了更好理解，我引用一个实例来说明HMM的结构和过程。

假设我们有5个筐装着很多不同水果，水果的种类有6种（下图中用不同颜色的图案表示）。

HMM模型的实例_01

HMM过程是，我从任意一个筐开始选水果，我去到那一个框那里，随机拿起里面的一个水果，然后把这个水果记录下来，然后再随机地去另外一个筐里面选水果，不断地重复这个过程，知道我选够了L个水果，我就停止。

在我选水果的过程中，我将遵循以下准则：

• 我从某一个框选完水果后移到另外一个框的概率用一个 Transition-probabilty Matrix来表示。

筐     |     筐	1	2	3	4	5
1	0.5	0.1	0.2	0.2	0
2	0.3	0.4	0.1	0.1	0.1
3	0.1	0.5	0.1	0	0.3
4	0.3	0.3	0.2	0.1	0.1
5	0	0.1	0.2	0.1	0.6

• 而我从第i个框中选6仲水果中的概率也用一定的概率分布表示，称为这个框中水果的概率分布(Emission-probability Matrix)。（以下概率值省略）

筐   |   水果	1	2	3	4	5	6
1	…
2		…
3			….
4				…
5					…	….

• 我们还必须牢记一点，因为下一次转移到哪一个框是不确定的，所以当我还没选够水果的之前，你还是不会准确得知我的路径的。我选的水果你也将不会准确得知。

实例的一个结果是这样的： 我选完水果之后，发现我的路径是[筐2>筐1>筐1>筐5>筐2>筐3>筐4]，即我选了7个水果，L=7。而我最终选出来的水果依次是[f2, f1, f3, f5, f5, f2, f4]。

之前已经假设过大家已经了解了一点Markov process和随机过程，所以这里你们应该会很自然地想到其实这个HMM就是这两个过程的结合：

[Markov process：选框] > [普通随机过程：选水果]；

假设我们的模型参数是 lambda(N, M, pi, A, B);

• L: 将会观察的长度。对应上面例子中的我将要选取的水果个数。
• N: 状态数目。对应上面例子中，水果筐的个数。
• M:每个状态可能的观察值数。对应上面例子中，水果的种类。
• pi: 初始状态空间的分布。对应上面例子中，哪个水果筐将会成为我选的第一个筐的概率。
• A: 代表状态转移矩阵(Transition-probability matrix)。对应上面例子中，我从某个筐移到另外一个筐的概率。
• B: 代表观察值的概率分布(Emission-probability matrix)。对应上面例子中，某个筐中，水果的分布概率。

状态的序列标记为S。对应上面例子中，我最终选筐的移动路径[筐2>筐1>筐1>筐5>筐2>筐3>筐4]。

观察到的序列标记为O。对应上面例子中，我最终选出来的水果序列[f2> f1> f3> f5> f5> f2> f4]。

HMM将涉及以下三个问题：

1. 给定一个观察到得序列O，及参数lambda，求出P(O|lambda)，即发生这种观察序列的可能性。对应上面例子中，即是我给定一个最终确定了的水果序列S，求我选到这样的水果的可能性。
2. 给定一个观察到的序列O，及参数lambda，求出最有可能产生这种序列的状态序列S。对应上面例子中，即我给定一个最终确定了的水果序列S，求我最可能的选水果筐路径。
3. 同样给定一个观察得到的序列O，求如何调整参数lambda，使P(O|lambda)最大。

由于涉及具体算法和论证，这里不再详述这三个问题的解决算法。只简单地标出：

1. 问题一的一种有效解决算法是前向法(forward algorithm)，是一种动态规划的方法，用来减少程序运算的复杂度。
2. 问题二的一种有效解决算法是维特比算法(Viterbi algorithm)，也是一种动态的规划方法，用来找出最可能的状态路径。
3. 问题三的一种有效解决算法是Baum-Welch算法，通过给定一个O，不断估算一个适合的lambda参数，使发生这个O的概率P(O|lambda)最大。