用bignmf进行非负矩阵分解-统计之都.PDFVIP

算法介绍 bignmf 包 例子 总结 用bignmf 进行非负矩阵分解 潘岚锋 邱怡轩魏太云 . . . . . . 算法介绍 bignmf 包 例子 总结 • 一个具有统计味道的算法 • 一个软件包 • 两个例子 . . . . . . 算法介绍 bignmf 包 例子 总结 非负矩阵分解在图像处理和文本挖掘领域有广泛的应用。非 负约束导致分解得到的矩阵具有强稀疏性，使结果易于解释。 Vn m ≈ Wn rHr m 其中V W H ≥ ，r ≪ minm n 使用最简单的平方和损失函数， min ∥V − WH∥ WH . . . . . . 算法介绍 bignmf 包 例子 总结 为什么非负？ 如果没有非负约束，平方和损失下的最优解就是奇异值分解 的前r 个特征根对应的特征向量。但是奇异值分解得到的矩阵通 常看不出来实际意义，仅仅是方差最大的因子1，方差第二大的 因子2。。。 非负矩阵分解的思路与因子分析类似，以因子的非负线性组 合来最大程度的表达原数据。 非负约束的结果一：因子是稀疏的，每个因子只与部分样本 有关，易于解释；二：因子的系数是稀疏的，是数据本身也可以 得到解释。 . . . . . . 算法介绍 bignmf 包 例子 总结 如果已知这些因子，那么非负矩阵分解就是一个简单的多响 应变量回归问题(要求系数非负)。 在因子未知的情况下，将因子设为随机值，得到系数，再根 据系数求因子，然后继续求系数。。。 重复这个过程会发现，因子不再是随机的，而是包含了原数 据的信息的。 . . .