PCA降维的维度问题

来源:10-12 机器+深度学习实现少样本苹果分类(四)

carrickeane

2020-04-05

老师好,想确认一下PCA(n_components=200)中这个200是按每张的feature数量降维?还是按照图片数量降维?
我把n_components一旦改为超过230后,会有截图中的错误,即:

ValueError: n_components=250 must be between 0 and min(n_samples, n_features)=230 with svd_solver='full'

看起来现在的写法像是按照图片数量降维而不是按照每张图片的feature数量降维?
图片描述

写回答

1回答

flare_zhao

2020-04-06

同学你好,这是个好问题。PCA降维实现的依旧是对features的减少,而不是样本数,这个你要记住。因此降维之后的样本数量是不变的,feature数量会变少。

为什么pca降维后feature数量多余样本数量会报错?这是算法本身决定的,要求降维后的feature数量少于样本数:

思考pca降维的原理,如果要降到n维,那就需要构建一个n维德投影空间,而这个投影空间是要通过n+1个样本数量决定的,如果样本数量太少,那就无法得到一个有效的投影空间。举个最简单的例子:

把数据点投影到一条直线上,理解为投影到一维空间,那就需要有两个或两个以上的点,这样才能确定一条直线,使样本到直线德距离之和最小,如果只有一个点,那是有无数条直线的。因此需要样本数量大于一。

//img.mukewang.com/szimg/5e8a8df4099726c903420301.jpg

3
6
flare_zhao
回复
lz1800
加油哈
2020-04-14
共6条回复

Python3入门人工智能 掌握机器学习+深度学习

人工智能基础全方位讲解,构建完整人工智能知识体系,带你入门AI

1946 学习 · 594 问题

查看课程