为什么LDA可以在PCA变换空间中执行?
摘要:
PCA加LDA是高维和奇异情况下线性判别分析(LDA)的流行框架。在本文中,我们专注于为此框架构建理论基础。此外,我们指出了以前基于LDA的方法的弱点,并提出了一种完整的PCA加LDA算法。在ORL人脸图像数据库的实验结果表明,该方法比以前更为有效。2002年由爱思唯尔科学有限公司代表模式识别学会出版。
关键词:线性判别分析(LDA)、PCA加LDA、完善PCA加LDA算法、特征提取、人脸识别
- 介绍
线性判别分析(LDA)已经成功地应用于图像识别、多媒体信息检索等多种分类问题。然而,对于诸如面部识别这种高维度和小样本的问题,传统的LDA遇到了两个方面的困难[1,2]。首先,传统的算法不能直接用于总是奇异的类内散布矩阵。其次,高维图像矢量导致的计算困难。
为了避免这些困难,一种通常被称为PCA加LDA[1-3]的非常流行的技术被提出,随后得到了广泛使用。在这种方法中,在应用LDA之前使用主成分分析(PCA)来降低维度。虽然,PCA加LDA的方法根据以往经验已经被验证有效,但是这种方法的理论基础仍然是不明确的。为什么要预先使用PCA降低纬度呢?在PCA过程中是否会有重要的有识别力的信息丢失,毕竟PCA的标准与LDA的不相同。这些基本问题仍然没有被解决。
在本文中,我们打算解决这些问题并为PCA加LDA方法建立一个理论基础。此外,我们指出以前以LDA为基础的方法的弱点,并提出了一个完整的PCA加LDA算法。实验结果发现该方法更有效。
- 奇异情况下的LDA本质:PCA加LDA
假设有一个已知的c模式类,、和分别表示类间散射矩阵、类内散射矩阵和总散射矩阵。正如我们所知道的,它们都是半正定的,并且满足。
经典的Fisher 准则函数一般被定义为
以上是毕业论文文献综述,课题毕业论文、任务书、外文翻译、程序设计、图纸设计等资料可联系客服协助查找。