1、<p><b>　　河北農(nóng)業(yè)大學(xué)</b></p><p>　　本科畢業(yè)論文（設(shè)計）</p><p>　　題目：基于Fisherfaces的人臉識別算法實現(xiàn)</p><p>　　學(xué) 院： 現(xiàn)代科技學(xué)院 </p><p>　　專 業(yè)： 計算機科學(xué)與技術(shù)</p><p>　　學(xué)

2、 號： 2010614070330 </p><p>　　姓 名： 蔣佳 </p><p>　　指導(dǎo)教師姓名： 劉博 </p><p>　　指導(dǎo)教師職稱： 講師 </p><p>　　二〇一四 年 六 月 一 日</p><p><b>　　摘 要&l

3、t;/b></p><p>　　人臉識別由于在身份認(rèn)證、視覺監(jiān)控以及人機接口等方面有著廣泛的應(yīng)用前景，從而成為目前模式識別和計算機視覺領(lǐng)域的一大研究熱點。人臉識別涵蓋了圖像處理、模式識別、神經(jīng)網(wǎng)絡(luò)、計算機視覺、生理學(xué)以及數(shù)學(xué)等諸多學(xué)科，是一項非常綜合的技術(shù)，它的應(yīng)用正隨著社會的進(jìn)步與日俱增。人臉識別是生物測定學(xué)研究的內(nèi)容之一, 是模式識別領(lǐng)域中的一個前沿課題。目前, 人臉識別逐漸成為模式識別和人工智能領(lǐng)域的

4、一個研究熱點。但由于復(fù)雜的光照條件下, 多變的人臉表情以及姿態(tài)的變化都增加了人臉自動識別的難度, 盡管人臉識別已經(jīng)取得了較大的發(fā)展, 但離實際應(yīng)用仍有較大差距。作為一種經(jīng)典的模式識別問題, 計算機人臉識別的成功離不開合理的特征提取和有效的分類器設(shè)計策略。</p><p>　　在人臉識別及其他模式識別領(lǐng)域中,特征提取是一個非常有意義的研究方向。到目前為止,有很多相應(yīng)的算法應(yīng)用到人臉識別領(lǐng)域,其中比較著名是基于Fis

5、her線性鑒別準(zhǔn)則的Fisherface方法、LDA算法PCA算法。本文基于MATLAB的人臉識別環(huán)境，設(shè)計并實現(xiàn)了一個基于Fisherfaces的人臉識別算法實現(xiàn)系統(tǒng)，展示如何通過利用MATLAB 的工具函數(shù)和多種算法實現(xiàn)對人臉識別的各種處理。論述了利用設(shè)計的系統(tǒng)實現(xiàn)人臉識別進(jìn)行打開、操作、保存、另存、打印、退出等功能操作。</p><p><b>　　關(guān)鍵字</b></p>

6、<p>　　人臉識別；Fisherface；MATLAB</p><p><b>　　Abstract</b></p><p>　　Face recognition has a wide range of applications due in authentication, visual surveillance , and human-machine

7、interface, thus become a major research focus of pattern recognition and computer vision . Face covers image processing, pattern recognition, neural networks, computer vision, physiology and mathematics , and many other

8、disciplines, is a very comprehensive technology, its applications are increasing with the progress of society . Face recognition is one of the elements of biometrics r</p><p>　　In face recognition and other

9、pattern recognition , the feature extraction is a very interesting research direction . So far , there are many appropriate algorithm is applied to face recognition , which is based on the more famous Fisher linear discr

10、iminant criterion Fisherface method , LDA algorithm PCA algorithm. Face Recognition Based on MATLAB environment , design and implement a face recognition algorithm based on the realization of the system Fisherfaces demon

11、strate how various treatments </p><p><b>　　Keyword</b></p><p>　　Face recognition ; Fisherface; MATLAB</p><p><b>　　目錄</b></p><p><b>　　第一章

12、緒論1</b></p><p>　　1.1 人臉識別的歷史和發(fā)展1</p><p>　　1.2 MATLAB的功能介紹4</p><p>　　第二章 人臉識別算法的介紹5</p><p>　　2.1 人臉識別算法分類5</p><p>　　2.2幾種常用的算法5</p><

13、p>　　2.2.1基于幾何特征的人臉識別算法5</p><p>　　2.2.2基于特征子空間（特征臉）算法5</p><p>　　第三章PCA算法6</p><p>　　3.1 PCA降維6</p><p>　　3.1.1提取訓(xùn)練集圖像T的平均值（平均人臉）6</p><p>　　3.1.2計算構(gòu)造矩

14、陣L7</p><p>　　3.1.3計算出協(xié)方差矩陣C并計算其特征向量（主成分臉）8</p><p>　　3.2 PCA重構(gòu)圖像8</p><p>　　第四章 Fisherfaces算法9</p><p>　　4.1 Fisher線性判別分析的基本原理9</p><p>　　4.2 LDA算法人臉識別

15、系統(tǒng)的應(yīng)用13</p><p>　　4.2.1 導(dǎo)入系統(tǒng)訓(xùn)練樣本集和測試樣本集13</p><p>　　4.2.2 Fisher最優(yōu)判別向量的計算13</p><p>　　4.2.3 將測試樣本與各類訓(xùn)練樣本投影到特征子空間15</p><p>　　4.3 分類識別16</p><p>　　4.4 實驗結(jié)果

16、分析16</p><p>　　第五章實驗部分18</p><p>　　5.1提取訓(xùn)練值18</p><p>　　5.2實驗結(jié)果21</p><p><b>　　致謝24</b></p><p><b>　　參考文獻(xiàn)：25</b></p><p&

17、gt;<b>　　第一章 緒論</b></p><p>　　1.1 人臉識別的歷史和發(fā)展</p><p>　　人臉識別的研究歷史比較悠久。高爾頓(Galton)早在 1888 年和 1910 年就分別在《Nature》雜志發(fā)表了兩篇關(guān)于利用人臉進(jìn)行身份識別的文章，對人類自身的人臉識別能力進(jìn)行了分析。但當(dāng)時還不可能涉及到人臉的

18、自動識別問題。最早的AFR1的研究論文見于1965年陳（Chan）和布萊索（Bledsoe）在Panoramic Research Inc.發(fā)表的技術(shù)報告，至今已有四十年的歷史。近年來，人臉識別研究得到了諸多研究人員的青睞，涌現(xiàn)出了諸多技術(shù)方法。尤其是1990年以來，人臉識別更得到了長足的發(fā)展。幾乎所有知名的理工科大學(xué)和主要IT產(chǎn)業(yè)公司都有研究組在從事相關(guān)研究。</p><p>　　人臉識別是

19、一個被廣泛研究著的熱門問題，大量的研究論文層出不窮，在一定程度上有泛濫成“災(zāi)”之嫌。為了更好地對人臉識別研究的歷史和現(xiàn)狀進(jìn)行介紹，本文將 AFR 的研究歷史按照研究內(nèi)容、技術(shù)方法等方面的特點大體劃分為三個時間階段，如表1所示。該表格概括了人臉識別研究的發(fā)展簡史及其每個歷史階段代表性的研究工作及其技術(shù)特點。下面對三個階段的研究進(jìn)展情況作簡單介紹。</p><p>　　第一階段（1964 

20、;年~1990年） </p><p>　　這一階段人臉識別通常只是作為一個一般性的模式識別問題來研究，所采用的主要技術(shù)方案是基于人臉幾何結(jié)構(gòu)特征（Geometric feature based）的方法。這集中體現(xiàn)在人們對于剪影（Profile）的研究上，人們對面部剪影曲線的結(jié)構(gòu)特征提取與分析方面進(jìn)行了大量研究。人工神經(jīng)網(wǎng)絡(luò)也一度曾經(jīng)被研究人員用于人臉識別問題中。較早從AFR研究的研究

21、人員除了布萊索（Bledsoe）外還有戈登斯泰因（Goldstein）、哈蒙（Harmon以及金出武雄(Kanade Takeo)等。金出武雄于1973年在京都大學(xué)完成了第一篇AFR方面的博士論文，直到現(xiàn)在，作為卡內(nèi)基-梅隆大學(xué)（CMU）機器人研究院的一名教授，仍然是人臉識別領(lǐng)域的活躍人物之一。他所在的研究組也是人臉識別領(lǐng)域 的一支重要力量。總體而言，這一階段是人臉識別研究的初級階段，非常重要的成果不是很多，也基本沒有獲得實

22、際應(yīng)用。 </p><p>　　第二階段（1991年~1997年）</p><p>　　這一階段盡管時間相對短暫，但卻是人臉識別研究的高潮期，可謂碩果累累：不但誕生了若干代表性的人臉識別算法，美國軍方還組織了著名的FERET人臉識別算法測試，并出現(xiàn)了若干商業(yè)化運作的人臉識別系統(tǒng)，比如最為著名的Visionics（現(xiàn)為Identix）的FaceIt系統(tǒng)。美國麻省理工學(xué)院（MIT）媒

23、體實驗室的特克（Turk）和潘特（Pentland）提出的“特征臉”方法無疑是這一時期內(nèi)最負(fù)盛名的人臉識別方法。其后 的很多人臉識別技術(shù)都或多或少與特征臉有關(guān)系，現(xiàn)在特征臉已經(jīng)與歸一化的協(xié)相關(guān)量方法一道成為人臉識別的性能測試基準(zhǔn)算法。這一時期的另一個重要工作是麻省理工學(xué)院人工智能實驗室的布魯內(nèi)里（Brunelli）和波奧Poggio）于1992年左右做的一個對比實驗，他們對比了基于結(jié)構(gòu)特征的方法與基于模板匹配的方法的識別性能，

24、并給出了一個比較確定的結(jié)論：模板匹配的方法優(yōu)于基于特征的方法。這一導(dǎo)向性的結(jié)論與特征臉共同作用，基本中止了純粹的基于結(jié)構(gòu)特征的人臉識別方法研究，并在很大程度上促進(jìn)了基于表觀（Appearance- based）的線性子空間建模和基于統(tǒng)計模式識別技術(shù)的人臉識別方法的發(fā)展，使其逐</p><p>　　第三階段（1998 年~現(xiàn)在）  </p><p>　

25、　FERET’96人臉識別算法評估表明：主流的人臉識別技術(shù)對光照、姿態(tài)等由于非理想采集條件或者對象不配合造成的變化魯棒性比較差。因此，光照、姿態(tài)問題逐漸成為研究熱點。與此同時，人臉識別的商業(yè)系統(tǒng)進(jìn)一步發(fā)展。為此，美國軍方在FERET測試的基礎(chǔ)上分別于2000年和2002年組織了兩次商業(yè)系統(tǒng)評測?；鶌W蓋蒂斯（Georghiades）等人提出的基于光照錐(Illumination Cones) 模型的多姿態(tài)、多光照條件人

26、臉識別方法是這一時期的重要成果之一，他們證明了一個重要結(jié)論：同一人臉在同一視角、不同光照條件下的所有圖像在圖像空間中形 成一個凸錐——即光照錐。為了能夠從少量未知光照條件的人臉圖像中計算光照錐，他們還對傳統(tǒng)的光度立體視覺方法進(jìn)行了擴(kuò)展，能夠在朗博模型、凸表面和遠(yuǎn)點 光源假設(shè)條件下，根據(jù)未知光照條件的7幅同一視點圖像恢復(fù)物體的3D形狀和表面點的表面反射系數(shù)（傳統(tǒng)光度立體視覺能夠根據(jù)給的3幅已知光照條件的圖像恢復(fù)物體表面

27、的法向量方向），從而可以容易地合成該視角下任意光照條件的圖像，完成光照錐的計算。識別則通過計算輸入圖像到每個光照錐的距離來完。以支持向量機為代表的統(tǒng)計學(xué)習(xí)理論也在</p><p>　　差/類間差法、一對多法（one-to-rest）和一對一法（one-to-one）。 布蘭茲（Blanz）和維特（Vetter）等提出的基于3D變形(3D Morphable Model)模型的多姿態(tài)、多光照條件

28、人臉圖像分析與識別方法是這一階段內(nèi)一項開創(chuàng)性的工作。該方法在本質(zhì)上屬于基于合成的分析技術(shù)，其主要貢獻(xiàn)在于它在 3D形狀和紋理統(tǒng)計變形模型（類似于2D時的AAM）的基礎(chǔ)上，同時還采用圖形學(xué)模擬的方法對圖像采集過程的透視投影和光照模型參數(shù)進(jìn)行建模，從而可以使得人臉形狀和紋理等人臉內(nèi)部屬性與攝像機配 置、光照情況等外部參數(shù)完全分開，更加有利于人臉圖像的分析與識別。Blanz的實驗表明，該方法在CMU-PIE（多姿態(tài)、光照和

29、表情）人臉庫和FERET 多姿態(tài)人臉庫上都達(dá)到了相當(dāng)高的識別率，證明了該方法的有效性。 2001年的國際計算機視覺大會（ICCV）上，康柏研究院的研究員維奧拉（Viola）和瓊斯（Jones）展示了他們的一個基于簡單矩形特征和AdaBoost 的實時人臉檢測系統(tǒng)，在 CIF格式上檢測準(zhǔn)正面人臉的速度達(dá)到了每秒15幀以上。該方法的主要貢獻(xiàn)包括：1）用可以快速計算的簡單</p><p>

30、　　1.2 MATLAB的功能介紹</p><p>　　MATLAB是美國MathWorks公司出品的商業(yè)數(shù)學(xué)軟件，用于算法開發(fā)、數(shù)據(jù)可視化、數(shù)據(jù)分析以及數(shù)值計算的高級技術(shù)計算語言和交互式環(huán)境，主要包括MATLAB和Simulink兩大部分。MATLAB應(yīng)用非常之廣泛！</p><p>　　MATLAB是matrix&laboratory兩個詞的組合，意為矩陣工廠（矩陣實驗室）。由

31、美國mathworks公司發(fā)布的主要面對科學(xué)計算、可視化以及交互式程序設(shè)計的高科技計算環(huán)境。它將數(shù)值分析、矩陣計算、科學(xué)數(shù)據(jù)可視化以及非線性動態(tài)系統(tǒng)的建模和仿真等諸多強大功能集成在一個易于使用的視窗環(huán)境中，為科學(xué)研究、工程設(shè)計以及必須進(jìn)行有效數(shù)值計算的眾多科學(xué)領(lǐng)域提供了一種全面的解決方案，并在很大程度上擺脫了傳統(tǒng)非交互式程序設(shè)計語言（如C、Fortran）的編輯模式，代表了當(dāng)今國際科學(xué)計算軟件的先進(jìn)水平。</p><

32、p>　　MATLAB的基本數(shù)據(jù)單位是矩陣，它的指令表達(dá)式與數(shù)學(xué)、工程中常用的形式十分相似，故用MATLAB來解算問題要比用C，F(xiàn)ORTRAN等語言完成相同的事情簡捷得多，并且MATLAB也吸收了像Maple等軟件的優(yōu)點，使MATLAB成為一個強大的數(shù)學(xué)軟件。在新的版本中也加入了對C，F(xiàn)ORTRAN，C++，JAVA的支持?？梢灾苯诱{(diào)用，用戶也可以將自己編寫的實用程序?qū)氲組ATLAB函數(shù)庫中方便自己以后調(diào)用。</p>

33、<p>　　第二章 人臉識別算法的介紹</p><p>　　2.1 人臉識別算法分類</p><p>　　生物特征鑒別技術(shù)是利用人體生物特征進(jìn)行身份認(rèn)證的一種技術(shù)，具有安全可靠、特征唯一、不易偽造、不可竊取等優(yōu)點。在不同的生物識別方法中，人臉識別有其自身特殊的優(yōu)勢，例如，非侵?jǐn)_性；采集設(shè)備簡單，使用快捷；通過人人臉識別符合人類的習(xí)慣，正是由于這些良好的特性，人臉識別的相關(guān)研究越

34、來越受到人們的重視，并取得了很好的成果。隨著人臉識別技術(shù)的飛速發(fā)展，它被越來越多的應(yīng)用于海關(guān)監(jiān)控、企業(yè)安全與管理、刑偵等領(lǐng)域。</p><p>　　人臉識別按照信息的來源可以分為兩類：基于靜態(tài)人臉識別和基于動態(tài)的信息識別。對于動態(tài)識別研究的相關(guān)技術(shù)還比較欠缺，本文只對靜態(tài)人臉識別的相關(guān)算法進(jìn)行闡述。</p><p>　　靜態(tài)人臉識別系統(tǒng)主要有三個步驟：人臉的檢測和定位、人臉的特征提取和人臉

35、識別，在這些步驟之前還應(yīng)有預(yù)處理這一步，即對采集到的圖像先進(jìn)行預(yù)處理．以達(dá)到位置校準(zhǔn)和灰度歸一的目的．</p><p>　　然后尋找人臉，如果有則確定人臉的位置并提取人臉，然后提取人臉特征，最后根據(jù)提取的特征進(jìn)行識別。下面對人臉識別中的常用算法進(jìn)行介紹。</p><p>　　2.2幾種常用的算法</p><p>　　2.2.1基于幾何特征的人臉識別算法</p&

36、gt;<p>　　這類識別方法將人臉用—個幾何特征矢量來表示，用模式識別中的層次聚類的思想設(shè)計分類器達(dá)到識別的目的，常采用的兒何特征有眼睛、鼻子、眉毛、嘴等重要的局部特征，臉型特征及五官在臉上分布的幾何特征。識別所用的兀莉特征是以人臉器官的形狀和兒何關(guān)系為基礎(chǔ)的特征矢量。其分量通常包括人臉指定兩點間的歐式距離、曲率、角度等。在這種基于幾何特征的識別中，不同持征的相似性度量主要依賴于特征矢量的眄配情況進(jìn)行判決。例如，基于歐氏

37、距離的判決。</p><p>　　基于幾何特征的識別方法的優(yōu)點有：符合人類的習(xí)慣，易于理解；對光照變化不是很敏感，具有一定的抗干擾能力。存在的問題：從圖像中抽取穩(wěn)定的特征比較蝌難，肖有遮擋時會出現(xiàn)誤提取；當(dāng)面部表情變化很大，或者姿態(tài)變化很大時，魯棒性較差；幾何特征模型的準(zhǔn)則過于簡單，一般的兒何特征只描述了器官的基本形狀與結(jié)構(gòu)關(guān)系，忽略了細(xì)節(jié)特征，會使部分信息丟失。</p><p>　　2.

38、2.2基于特征子空間（特征臉）算法</p><p>　　人臉識別算法特征臉方法是人臉識別技術(shù)中的一種典型方法，又稱為主成分分析法(PCA)。SIROV ICH和KIRBY首先采用PCA算法來表示人臉。它根據(jù)一組人臉訓(xùn)練樣本構(gòu)造主特征向量空間，即特征子空間(特征臉)，這特特征向最是由圖像的生成矩陣的主特征值所對應(yīng)的特征向量組成，這些主特征向量所占的是總能量的90％(一般取這個數(shù))以上。其余的小能量向量被剔除。生成矩

39、陣可以是圖像的協(xié)方差矩陣、總類內(nèi)離散度矩陣等等。這個子空間降維的，維數(shù)比原數(shù)據(jù)空間要小得多，任何一幅待識別人臉圖像都可以向此特征空間投影并獲得—組坐標(biāo)系數(shù)，這組系數(shù)表明了該圖像在子空間中的位置。從而可以作為人臉識別的依據(jù)。</p><p>　　任何—幅人臉圖像都可以表示為這組特征向量的線性組合。其加權(quán)系數(shù)(圖像向空間投影得到的系數(shù))稱為該圖像的代數(shù)特征。識別的時候，將待識別的圖像投影到這個特征子空間，將得到的投影

40、系數(shù)與各個已知人臉圖像的系數(shù)進(jìn)行比較，通過一定的準(zhǔn)則，例如k一近鄰法，取未知樣本的k個近鄰，看這k個近鄰中多數(shù)屬于哪一類，就把待識別的圖像歸人哪一類。特征臉方法比段簡單易懂，得到了廣泛的使用，但單獨使用的計算量較大，所以PCA經(jīng)常與其它方法配合使用，例如小波變換與PCA的結(jié)合，使PCA的降維效果得到改善。 </p><p><b>　　第三章PCA算法</b></p>&l

41、t;p>　　3.1 PCA降維</p><p>　　3.1.1提取訓(xùn)練集圖像T的平均值（平均人臉）</p><p><b>　　公式：</b></p><p>　　在matlab中的代碼為：</p><p>　　m_database = mean(T,2); %獲得訓(xùn)練集的平均值（平均人臉）</p>

42、;<p>　　其中T是訓(xùn)練集圖像矩陣</p><p>　　m_database就是我們得到的平均臉了?？梢詧?zhí)行一下代碼顯示平均人臉：</p><p>　　tmimg=uint8(m_database); </p><p>　　img=reshape(tmimg,180,200); %轉(zhuǎn)換成圖片顯示格式</p><p>

43、　　figure(1);</p><p>　　imshow(img'); %顯示平均臉</p><p>　　title('Mean Image','fontsize',18) %設(shè)計平均臉窗口的標(biāo)題</p><p>　　這就是平均人臉m_database。平均人臉代表著什么，所謂的平均人臉就是說，訓(xùn)練集圖像里的人臉平均都

44、是這樣的，可以說大家長得基本上如上圖，都是人。</p><p>　　3.1.2計算構(gòu)造矩陣L</p><p>　　所謂的PCA就是通過線性變換找到新的一組基，然后把樣本數(shù)據(jù)（人臉數(shù)據(jù)）投影到這組基上，這組基就是我們要找的協(xié)方差矩陣C的特征向量V。當(dāng)然，為什么非要找協(xié)方差矩陣呢？這里是根據(jù)《最小平方誤差理論》得出的結(jié)論，就是要找到協(xié)方差矩陣C的特征向量V，協(xié)方差矩陣C公式：</p>

45、;<p><b>　　令，則</b></p><p>　　提醒：有沒有分母M，不響應(yīng)計算。</p><p><b>　　根據(jù)公式：</b></p><p>　　就能求得協(xié)方差矩陣C的特征向量和特征值?？墒牵鶇f(xié)方差矩陣C維數(shù)比較大，所以很難直接求得C的特征向量，這時候這么辦，有辦法求得，接下來就用到了一下原

46、理：</p><p>　　原理：通過小矩陣計算大矩陣的特征向量。</p><p><b>　　小矩陣是：</b></p><p><b>　　稱為構(gòu)造矩陣。</b></p><p><b>　　大矩陣是：</b></p><p>　　是我們要求的協(xié)方差矩

47、陣。</p><p><b>　　它兩之間的關(guān)系是：</b></p><p>　　（V是L的特征向量） 和公式 一樣。由推出。結(jié)論就是：只有求出構(gòu)造矩陣L的特征向量V，通過A*V就得到C的特征向量。所以清楚這小節(jié)的題目為什么是計算構(gòu)造矩陣L了吧,當(dāng)務(wù)之急就是計算構(gòu)造矩陣L，代碼如下：</p><p>　　A = T - repmat(m_dat

48、abase,1,P); </p><p>　　L = A'*A; </p><p>　　可以看到，L大小為20*20.夠小的了。如果直接計算協(xié)方差矩陣C（C大小為36000*36000）實在太麻煩。到這里L(fēng)計算出來了，所以接下來要計算L的特征向量V，這樣A*V就是協(xié)方差矩陣C的特征向量。計算L特征向量的代碼如下：</p><p>　　[V D] = ei

49、g(L); </p><p><b>　　這是結(jié)果：</b></p><p>　　PCA是怎么降維的？得到的V只取前10最大的特征向量</p><p><b>　　代碼：</b></p><p>　　L_eig_vec = []; </p><p>　　for i = 1 :

50、 P-Class_number </p><p>　　L_eig_vec = [L_eig_vec V(:,i)]; </p><p><b>　　end</b></p><p><b>　　結(jié)果是</b></p><p>　　這就起到了降低維的作用。</p><p>　

51、　3.1.3計算出協(xié)方差矩陣C并計算其特征向量（主成分臉）</p><p>　　根據(jù)上式：，這個A*V呢,V已經(jīng)出來了（是構(gòu)造矩陣L的特征值，但已經(jīng)降維成L_eig_vec了）</p><p><b>　　代碼如下：</b></p><p>　　V_PCA = A * L_eig_vec; </p><p>　　3.2

52、 PCA重構(gòu)圖像</p><p><b>　　現(xiàn)在通過式：</b></p><p>　　重建訓(xùn)練集圖像的第一張圖片，</p><p>　　首先我們要計算出，通過公式：</p><p>　　然后通過（3.2-1）式計算出，就是通過特征向量重建的結(jié)果，是的近似值表示。</p><p>　　第四章 F

53、isherfaces算法 </p><p>　　鑒別分析(Linear Discriminant Analysis, LDA)，有時也稱Fisher線性判別(Fisher Linear Discriminant ,FLD)， 這種算法是Ronald Fisher 于 1936年發(fā)明的，是模式識別的經(jīng)典算法[]。在1996年由Belhumeur引入模式識別和人工智能領(lǐng)域的。性鑒別分析的基本思想是將高維的模

54、式樣本投影到最佳鑒別矢量空間，以達(dá)到抽取分類信息和壓縮特征空間維數(shù)的效果，投影后保證模式樣本在新的子空間有最大的類間距離和最小的類內(nèi)距離，即模式在該空間中有最佳的可分離性。因此，它是一種有效的特征抽取方法。使用這種方法能夠使投影后模式樣本的類間散布矩陣最大，并且同時類內(nèi)散布矩陣最小。就是說，它能夠保證投影后模式樣本在新的空間中有最小的類內(nèi)距離和最大的類間距離，即模</p><p>　　式在該空間中有最佳的可分離性

55、。</p><p>　　4.1 Fisher線性判別分析的基本原理</p><p>　　基本思想是選擇使得Fisher準(zhǔn)則函數(shù)達(dá)到極值的向量作為最佳投影方向，從而使得樣本在該方向上投影后，達(dá)到最大的類間離散度和最小的類內(nèi)離散度[1]。可以考慮把d維空間的樣本投影到一條直線上，形成一維空間，即把維數(shù)壓縮到一維。這在數(shù)學(xué)上總是容易辦到的。然而，即使樣本在d維空間里形成若干緊湊的相互分得開的集群

56、，若把他們投影到一條任意的直線上，也可能使幾類樣本混在一起而變得無法識別。但在一般情況下，總可以找到某個方向，使在這個方向的直線上，樣本的投影能分開得最好，問題是如何根據(jù)實際情況找到這條最好的、最易于分類的投影線。這就是Fisher線性判別法所要解決的基本問題（見圖1）。 </p><p>　　圖一 不同角度投影線的區(qū)別</p><p>　　首先，討論從 d 維空間到一維空間的一般數(shù)

57、學(xué)變換方法。假設(shè)有一集合χ包含N個d維樣本x1，，...，，其中個屬于類的樣本記為子集，個屬于類的樣本記為。若對的分量作線性組合可得標(biāo)量</p><p>　　, </p><p>　　這樣便得到N個一維樣本組成的集合，并可分為兩個子集和。從幾何上看，如果||w ||=1，則每個就是相對應(yīng)到方向為w的線上的投影。實際上，w的絕對值是無關(guān)緊要的，它僅使乘

58、上一個比例因子，重要的是選擇w的方向。w的方向不同，將使樣本投影后的可分離程度不同，從而直接影響識別效果。因此，前述所謂尋找最好投影方向的問題，在數(shù)學(xué)上就是尋找最好的變換w*的問題。在定義Fisher判別準(zhǔn)則之前，先定義幾個必要的基本參量。</p><p>　　假設(shè)有一組屬于兩個類的n個d維樣本，．．．，，其中前個樣本屬于類 ，后面?zhèn)€樣本屬于類，均服從同協(xié)方差矩陣的高斯分布。各類樣本均值向量（i=1，2）如式（4

59、.1-2）：</p><p>　　樣本類內(nèi)離散度矩陣和總的類內(nèi)離散度矩陣如式(4.1-3)、式（4.1-4）： </p><p>　　t樣本類間離散度矩陣如式(4.1-5)： </p><p>　　現(xiàn)尋找一最佳超平面將兩類分開，則只需將所有樣本投影到此超平面的法線方向上，||w||=1:</p><p>　　得到n個標(biāo)量,．．．，∈R，這n個

60、標(biāo)量相應(yīng)的屬于集合和，并且和能很好的分開。為了能找到這樣的能達(dá)到最好分類效果的投影方向w，F(xiàn)isher規(guī)定了一個準(zhǔn)則函數(shù):要求選擇的投影方向W能使降維后和兩類具有最大的類間距離與類內(nèi)距離比:</p><p>　　其中類間距離用兩類均值和之間的距離表示，類內(nèi)距離用每類樣本距其類均值距離的和表示，在式中為。</p><p>　　其中(i=1，2)為降維后各類樣本均值：</p>&

61、lt;p>　?。╥=1，2)為降維后每類樣本類內(nèi)離散度，+為總的類內(nèi)離散度：</p><p>　　=+ </p><p>　　類間離散度表示為。但式(4.1-10)Fisher準(zhǔn)則函數(shù)并不是w的顯示函數(shù)，無法根據(jù)此準(zhǔn)則求解W，因此需要對Fisher準(zhǔn)則函數(shù)形式進(jìn)行修改：</p><p>　　因 i=1,…,n ，則

62、</p><p>　　同樣（i=1，2）也可推出與w的關(guān)系：</p><p><b>　　因此</b></p><p><b>　　則最終表示為： </b></p><p>　　根據(jù)式Fisher準(zhǔn)則函數(shù)，要尋找一投影向量W，使最大化，則需對按變量W求導(dǎo)并使之為零：</p><p

63、><b>　　則需 </b></p><p><b>　　令，則</b></p><p>　　這是一個廣義特征值問題，若非奇異，則</p><p>　　因此可以通過對進(jìn)行特征值分解，將最大特征值對應(yīng)的特征向量作為最佳投影方向W。</p><p>　　以上Fisher準(zhǔn)則只能用于解決兩類分類問題

64、，為了解決多類分類問題，Dudal提出了判別矢量集的概念，被稱為經(jīng)典的Fisher線性判別分析方法。</p><p>　　Duda指出，對于c類問題，則需要c-1個上節(jié)的用于兩類分類的Fisher線性判別函數(shù)，即需要由c-1個投影向量W組成一個投影矩陣W∈，將樣本投影到此投影矩陣上，從而可以提取c-1維的特征矢量。針對c類問題，則樣本的統(tǒng)計特性需要推廣到c類上。</p><p>　　樣本的

65、總體均值向量：</p><p>　　樣本的類內(nèi)離散度矩陣：</p><p>　　樣本的類間離散度矩陣：</p><p>　　將樣本空間投影到投影矩陣W上，得到C-1維的特征矢量y：</p><p>　　其中，y∈。投影后的樣本統(tǒng)計特性也相應(yīng)的推廣到c類：</p><p>　　投影后總樣本均值向量：</p>

66、<p>　　樣本的類內(nèi)離散度矩陣：</p><p>　　樣本的類間離散度矩陣： </p><p>　　Fisher準(zhǔn)則也推廣到c類問題： </p><p>　　為使Fisher準(zhǔn)則取得最大值，類似兩類分類問題，W需滿足：</p><p>　　若非奇異，則，則W的每一列為的前c-1個較大特征值對應(yīng)的特征向量。</p>

67、<p>　　4.2 LDA算法人臉識別系統(tǒng)的應(yīng)用</p><p>　　利用MATLAB語言實現(xiàn)了基于LDA算法的人臉識別系統(tǒng)，其基本過程包括：導(dǎo)入系統(tǒng)訓(xùn)練樣本集和測試樣本集、Fisher最優(yōu)判別向量的計算、將測試樣本與各類訓(xùn)練樣本投影到特征子空間，以及分類識別。</p><p>　　4.2.1 導(dǎo)入系統(tǒng)訓(xùn)練樣本集和測試樣本集</p><p>　　實驗采用

68、的是英國劍橋大學(xué)Olivetti研究所制作的ORL（Olivetti Research Laboratory）人臉數(shù)據(jù)庫。該數(shù)據(jù)庫包括40個不同人、每人10幅圖像，一共400幅。每幅原始圖像256個灰度級，分辨率為112×92。ORL人臉圖像是在不同時間、不同視角、各種表情（閉眼/睜眼、微笑/吃驚/生氣/憤怒/高興）和不同臉部細(xì)節(jié)（戴眼鏡/沒戴眼鏡、有胡子/沒胡子、不同發(fā)型）的條件下拍攝的。數(shù)據(jù)庫中部分人臉圖像如圖2所示。&l

69、t;/p><p>　　圖2 數(shù)據(jù)庫中部分人臉圖像</p><p>　　為了提高運算速度、降低圖像維數(shù)，采用了19×15的分辨率。向系統(tǒng)中導(dǎo)入圖像數(shù)據(jù)時，每類訓(xùn)練樣本個數(shù)可以自行設(shè)定為1~10個，而測試樣本則可以隨機指定。 </p><p>　　4.2.2 Fisher最優(yōu)判別向量的計算 </p><p>　　首先根據(jù)導(dǎo)入的訓(xùn)練樣本數(shù)據(jù)

70、分別計算它的總體散布矩陣、類內(nèi)散布矩陣、類間散布矩陣和類平均矩陣。假設(shè)，,...,是m個已知類別集合，X={}</p><p>　　i=1,2,...,N是n維訓(xùn)練樣本集合，每個樣本屬于一個類 ，即，i=1,2,...,</p><p>　　j=1,2,...,m,的先驗概率為P(),則 </p><p>　　其中,x為任一訓(xùn)練樣本，為所有訓(xùn)練樣本平均向量，。然后再

71、根據(jù)Fisher判別準(zhǔn)則公式，計算最優(yōu)判別向量：</p><p>　　Fisher判別準(zhǔn)則公式：</p><p>　　改進(jìn)的Fisher判別準(zhǔn)則： </p><p>　　討論公式（4.2-5）：假設(shè)R是n維空間集合空間集合,,,>0,也有最大值；而且在求解最優(yōu)分類向量過程中Fisher判別函數(shù)可以被式（21）代替，還有如果A是一個非奇異的正矩陣，假設(shè) Ax=

72、0 ，則 x′Ax=0 ，因 此 假 設(shè) 是 一 個 奇 異矩陣 ，,為的互補空間，則最優(yōu)分類向量φ可以通過公式（21）計算出來。</p><p>　　計算第一個判別向量φ1</p><p><b>　　根據(jù)</b></p><p>　　以及代數(shù)原理,假設(shè)是矩陣的維數(shù)，則</p><p>　?。?）當(dāng)，則就等于矩陣的最大

73、特征值對應(yīng)的單位特征向量。</p><p>　?。?）當(dāng)1<,則假設(shè)：，其中為正交單位向 量，那么 ，其中，</p><p><b>　　， 其中φ1</b></p><p>　　就是最優(yōu)判別向量中的第一個向量。</p><p><b>　　計算第i個判別向量</b></p>

74、<p><b>　　假設(shè)：</b></p><p>　　其中，是正交單位向量，假設(shè)是被分割的子空間,,而且向量和都已經(jīng)被計算出來，根據(jù)代數(shù)原理，可以構(gòu)造出的互補空間,,其中是正交單位矩陣。很顯然，求最優(yōu)判別向量問題與以下公式求最大值問題是等效的。</p><p>　　其中,是中的一個單位向量，對于，都可以被表示成以下公式：</p><p

75、><b>　　假設(shè)</b></p><p>　　其中，若被以下公式定義：</p><p>　　那么，公式（26）的最大值問題則可以轉(zhuǎn)化為以下公式的最大值問題：</p><p>　　容易證明是正定義矩陣，因此，是非奇異的，假設(shè)是矩陣</p><p>　　最大特征值對應(yīng)的特征向量，則第i個判別向量的計算公式如下：&l

76、t;/p><p>　　4.2.3 將測試樣本與各類訓(xùn)練樣本投影到特征子空間</p><p>　　通過以上計算得到最優(yōu)判別向量空間Φ，Φ=，其中r=m-1，則任一測試樣本投影到特征子空間的向量為y=，每類訓(xùn)練樣本平均向量投影到特征子</p><p><b>　　空間的向量為。</b></p><p><b>　　4.

77、3 分類識別</b></p><p>　　采用歐氏距離進(jìn)行分類，計算測試人臉的投影特征與各類平均人臉投影特征的歐氏距離，將測試人臉樣本判為與類平均人臉的投影特征歐氏距離最小的類所對應(yīng)的類別。</p><p>　　4.4 實驗結(jié)果分析</p><p>　　為了對改進(jìn)的LDA算法在人臉識別系統(tǒng)的正確識別率作分析，用MATLAB語言實現(xiàn)了基于PCA（Princ

78、ipal Compo-nent Analysis）算法的人臉識別系統(tǒng)，而且改進(jìn)的LDA人臉識別系統(tǒng)和PCA人臉識別系統(tǒng)的訓(xùn)練樣本和測試樣本都采用了ORL人臉數(shù)據(jù)庫，該數(shù)據(jù)庫包括了40個不同的人，每個人有10幅不同的正面圖像，一共有400幅人臉圖像。在實驗過程中，針對系統(tǒng)的訓(xùn)練過程，PCA與改進(jìn)的LDA人臉識別系分別從每個人中隨機抽取5、6、7、8、9個樣本做訓(xùn)練，并對這5種訓(xùn)練的結(jié)果做人臉識別的測試，其中基于改進(jìn)的LDA算法的識別系統(tǒng)得

79、到的正確識別率如表1所示。</p><p>　　表1 改進(jìn)的LDA算法識別率</p><p>　　而且從圖3、4可以了解到：</p><p>　?。?）當(dāng)系統(tǒng)訓(xùn)練樣本數(shù)從5到9逐步增大的時候，LDA人臉識別系統(tǒng)的正確識別率也是逐步增大的，這說明在設(shè)計人臉識別系統(tǒng)時，訓(xùn)練樣本數(shù)越大系統(tǒng)的正確識別率就越好，即要求訓(xùn)練樣本的數(shù)量要大于每個樣本空間的維數(shù)。但這一點在

80、實際應(yīng)用時很難做到。</p><p>　　（2）在系統(tǒng)訓(xùn)練樣本數(shù)相等的情況下，基于LDA算法的人臉識別系統(tǒng)的正確識別率要比基于PCA算法的人臉識別系統(tǒng)的正確識別率要高。因為雖然使用PCA方法和LDA方法</p><p>　　都能大大降低原始特征空間的維數(shù)，然而，PCA方法得到的特征是最佳描述特征而不是最佳分類特征，所以在正確識別率方面LDA方法要比PCA方法優(yōu)越，但LDA方法則存在類內(nèi)散布

81、矩陣總為奇異陣而使求解變得很困難等缺點。</p><p><b>　　4結(jié)論</b></p><p>　　對近年來模式識別領(lǐng)域中線性特征提取的主要方法，即LDA方法進(jìn)行了較為深入的討論。對它所基于的Fisher判別準(zhǔn)則做了詳細(xì)的介紹，介紹了一種改進(jìn)的LDA算法，對該方法的有效性，用ORL人臉數(shù)據(jù)進(jìn)行了實驗驗證。如圖三結(jié)果表明，該方法基本可行，文中完成的系統(tǒng)也具有較高的

82、識別率，但仍然</p><p><b>　　、</b></p><p>　　圖三PCA與LDA的實驗結(jié)果比較</p><p><b>　　需要進(jìn)一步完善.</b></p><p><b>　　第五章實驗部分</b></p><p><b>　　

83、5.1提取訓(xùn)練值</b></p><p>　　從訓(xùn)練集里提取圖片轉(zhuǎn)化為灰度對齊的一組人臉圖像（訓(xùn)練集T1，T2，...，TM） </p><p><b>　　程序代碼如下：</b></p><p>　　從一維圖像向量的二維矩陣的構(gòu)建T = [];</p><p><b>　　程序代碼如下：</

84、b></p><p>　　3.fisherfacescore LDA算法的實現(xiàn)</p><p>　　使用主成分分析（ PCA）和Fisher線性判別（ FLD） ，以確定最臉圖像之間的區(qū)分特征。：該函數(shù)獲得一個二維矩陣，包含了所有訓(xùn)練圖像向量，并返回4個輸出這是從訓(xùn)練數(shù)據(jù)庫中提取。Ti假設(shè)是一個訓(xùn)練圖像，其中已經(jīng)重新成形為一維向量。另外， P是M×N個訓(xùn)練圖像的總數(shù)，C

85、是數(shù)類。起初，居中的Ti被映射到由V_PCA一個（PC）的線性子空間轉(zhuǎn)移矩陣。然后，子轉(zhuǎn)換為易通過投影到（ C- 1 ）線性子空間，從而使同一個類（或人） 圖像靠攏在一起</p><p><b>　　程序源代碼如下：</b></p><p>　　然后計算協(xié)方差矩陣的特征向量的'C</p><p>　　之后計算每一類別中的本征空間的平均值

86、</p><p><b>　　程序代碼如下：</b></p><p>　　最后計算Fisher判別基準(zhǔn)</p><p>　　3.recognition識別</p><p>　　這個函數(shù)比較兩個面通過把圖像轉(zhuǎn)換成facespace和測量它們之間的歐幾里德距離</p><p><b>　　代

87、碼如下：</b></p><p>　　計算歐幾里德距離 投影測試圖像和投影％之間的歐幾里德距離 都集中訓(xùn)練圖像進(jìn)行計算。測試圖像是 應(yīng)該具有與在其對應(yīng)的圖像的最小距離 訓(xùn)練數(shù)據(jù)庫</p><p><b>　　5.2實驗結(jié)果</b></p><p>　　1.從數(shù)據(jù)庫中提取訓(xùn)練值</p><p>　　圖四 提

88、取訓(xùn)練值</p><p>　　2.從數(shù)據(jù)庫中提取測試值</p><p><b>　　圖五 提取測試值</b></p><p><b>　　3.輸入測試數(shù)</b></p><p><b>　　圖六 輸入查詢數(shù)</b></p><p><b>　　

89、4.輸出結(jié)果</b></p><p><b>　　圖七 輸出結(jié)果</b></p><p><b>　　致謝</b></p><p>　　通過這次的課程論文，我深深的感受到了自身的不足。不但需要多方面的知識，同時還要考驗一個人的獨立動腦能力和動手能力，這在課本上學(xué)不到的。另外，這還要求我們具有一定的自學(xué)能力，在面

90、對多次錯誤時要能冷靜，并且還要有堅定的意志力，并且使我看到了理論與實際相結(jié)合的重要性。在實際中，僅僅擁有理論知識是遠(yuǎn)遠(yuǎn)不夠的，如果不能把理論賦予實踐，再豐富的理論知識也只能是“紙上談兵”，只有將理論與實踐相結(jié)合，才能結(jié)出智慧的果實。這次設(shè)計論文是對我們綜合能力的檢測，是培養(yǎng)我們的專業(yè)素養(yǎng)以及學(xué)習(xí)興趣的很好的途徑，學(xué)習(xí)把理論付諸于實現(xiàn)，能夠讓我們更加清楚的看到我們努力的結(jié)果。雖然本次設(shè)計已經(jīng)結(jié)束了，但是我不會忘記從中收到的感受與啟發(fā)，相信

91、在后的學(xué)習(xí)中，我將更加認(rèn)真努力，爭取從知識以及動手能力方面都能更上一層樓.</p><p>　　踉踉蹌蹌地忙碌了幾個月，本設(shè)計在劉博老師的悉心指導(dǎo)和嚴(yán)格要求下已完成。由于能力和時間的關(guān)系，總是覺得有很多不盡人意的地方，譬如功能不全、外觀粗糙等問題?？墒?，我又會有點自戀式地安慰自己：做一件事情，不必過于在乎最終的結(jié)果，可貴的是過程中的收獲。這次做論文的經(jīng)歷也會使我終身受益，我感受到做論文是要真真正正用心去做的一件事

92、情，是真正的自己學(xué)習(xí)的過程和研究的過程，沒有學(xué)習(xí)就不可能有研究的能力，沒有自己的研究，就不會有所突破，那也就不叫論文了。希望這次的經(jīng)歷能讓我在以后學(xué)習(xí)中激勵我繼續(xù)進(jìn)步。</p><p>　　本設(shè)計在劉博老師的悉心指導(dǎo)和嚴(yán)格要求下業(yè)已完成，從課題選擇、方案論證到具體設(shè)計和調(diào)試，無不凝聚著劉老師的心血和汗水，在四年的本科學(xué)習(xí)和生活期間，也始終感受著導(dǎo)師的精心指導(dǎo)和無私的關(guān)懷，我受益匪淺。在此向劉博老師表示深深的感謝和

93、崇高的敬意。</p><p>　　不積跬步何以至千里，本設(shè)計能夠順利的完成，也歸功于各位任課老師的認(rèn)真負(fù)責(zé)，使我能夠很好的掌握和運用專業(yè)知識，并在設(shè)計中得以體現(xiàn)。正是有了他們的悉心幫助和支持，才使我的畢業(yè)論文工作順利完成，在此向，計算機系的全體老師表示由衷的謝意。感謝他們四年來的辛勤栽培。</p><p>　　最后感謝我的爸爸媽媽，焉得諼草，言樹之背，養(yǎng)育之恩，無以回報，你們永遠(yuǎn)健康快樂是

94、我最大的心愿。 </p><p><b>　　參考文獻(xiàn)：</b></p><p>　　[1] 邊肇祺，張學(xué)工.模式識別[M].2版.北京：清華大學(xué)出版社，2007：87-91，223-226.</p><p>　　[2] Sirovich L，Kirby M.Low-demensional procedure for characte

95、r-ization of human faces[J].Journal of thOptical Society ofAmerica，1987，4（3）：519-524.</p><p>　　[3] Belhumeur P N，Hespanha J P，Kriegman D J.Eigenfaces vs.fish-erfaces：Recognition using class specif

96、ic linear projection[J]. IEEE Transactions on Pattern Analysis and Machine Intelli-gence，1997，19（7）：711-720.</p><p>　　[4] 張宇萍.基于Fisher準(zhǔn)則的二次線性特征提取[J].西安工業(yè)大學(xué)學(xué)報，2007，27（5）：460-463.</p><p>　　[5] 曹歐，

97、孫曉鵬，薛鋼，等.三角形Bezier網(wǎng)上的插值曲面[J].鞍山鋼鐵學(xué)院學(xué)報，2000（8）：206-210.</p><p>　　[6] 馮裕強，雷保珍，王愛玲.三角網(wǎng)格上Bezier曲面光滑構(gòu)造研究[J].山西機械，2000（6）：19-21.</p><p>　　[7] 張于浩.空間結(jié)構(gòu)的自由曲面插值技術(shù)[J].深圳土木與建筑，2007（9）：25-29.</p><

98、;p>　　[8] 羅玉堂，姜昱明.法向量約束下的蝶形細(xì)分曲面方法[J].微電子學(xué) 與計算機，2006（6）：156-159.</p><p>　　[10] Lin Hong-Wei，Tai Chiew-Lan，Wang Guo-Jin.A mesh reconstructionalgorithm driven by an intrinsic property of a point cloud[J].Comp

99、uter-Aided Design，2004：1-9.</p><p>　　[11] Kumar G S，Kalra P K，Dhande S G.Curve and surface recon-struction from points：an approach based on self-organizingmaps[J].Applied Soft Computing，2004：55-66.</p>

100、<p>　　[12] Yoon M，Lee Yunjin，Lee Seungyong.Surface and normal ensembles for surface reconstruction[J].Computer-Aided Design，2007：408-420.</p><p>　　[13] Liu Chaochun，Dai Daoqing，Yan Hong.Local discrimi

101、nant wave-let packet coordinates for face recongnicition[J].Learning Re-search，2007，8：1165-1195.</p><p>　　[14] Watson A B，Yang G Y，Solomon J A.Visibility of wavelet quan-tization noise[J].IEEE Transactions o

102、n Image Processing，1997，6（8）：1164-1175.</p><p>　　[15] 張旭，張貴倉.一種基于小波包分解的自適應(yīng)水印算法[J].計算機輔助設(shè)計與圖形圖像學(xué)報，2007，19（7）：931-934.</p><p>　　[16] 張翼，陳麗萍，唐向宏.基于小波變換和奇異值分解的圖像水印算法[J].杭州電子科技大學(xué)學(xué)報，2007，27（2）：37-40.&