瑞利商与广义瑞利商

1. 瑞利商

瑞利商（Rayleigh quotient）是指函数形式如下的函数\(R(A,\pmb{x})\)： \[R(A,\pmb{x}) = \frac{\pmb{x}^HA \pmb{x}}{\pmb{x}^H\pmb{x}}\] 其中\(\pmb{x}\)为非零向量，而\(A\)为\(n \times n\)的Hermitan矩阵。
Hermitan矩阵：满足共轭转置矩阵和自身相等的矩阵，即\(A^H = A\)。若果矩阵\(A\)是实矩阵，则满足\(A^T = A\)的矩阵即为Hermitan矩阵。
瑞利商\(R(A,\pmb{x})\)一个非常重要的性质：它的最大值等于矩阵\(A\)最大的特征值，而最小值等于矩阵\(A\)最小的特征值，也就是满足 \[\lambda_{min} \leq \frac{\pmb{x}^HA \pmb{x}}{\pmb{x}^H\pmb{x}} \leq \lambda_{max}\] 当向量\(\pmb{x}\)是标准正交基时，即满足\(\pmb{x}^H \pmb{x} = 1\)时，瑞利商退化为：\(R(A,\pmb{x}) = \pmb{x}^HA \pmb{x}\)，这个形式在谱聚类和PCA中都有出现。

2. 广义瑞利商

广义瑞利商(generalized Rayleigh quotient)是指函数形式如下的函数\(R(A,B,\pmb{x})\)： \[R(A,B,\pmb{x}) = \frac{\pmb{x}^HA \pmb{x}}{\pmb{x}^HB\pmb{x}}\] 其中\(\pmb{x}\)为非零向量，而\(A,B\)为\(n \times n\)的Hermitan矩阵，并且\(B\)为正定矩阵。
通过标准化将其转化为瑞利商的形式，令\(\pmb{x} = B^{-1/2} \pmb{x}'\)，则分母转化为： \[\pmb{x}^HB\pmb{x} = \pmb{x}'^{H} (B^{-1/2})^H B B^{-1/2} \pmb{x}' = \pmb{x}'^H \pmb{x}'\] 分子转化为： \[\pmb{x}^H A \pmb{x} = \pmb{x}'^H B^{-1/2} A B^{-1/2} \pmb{x}'\] 此时\(R(A,B,\pmb{x})\)转化为\(R(A,B,\pmb{x}')\)： \[R(A,B,\pmb{x}') = \frac{\pmb{x}'^H B^{-1/2} A B^{-1/2} \pmb{x}'}{\pmb{x}'^H \pmb{x}'}\] 根据瑞利商的性质，\(R(A,B,\pmb{x})\)的最大值为矩阵\(B^{-1/2} A B^{-1/2}\)的最大特征值，或者说矩阵\(B^{-1} A\)的最大特征值，而最小值为矩阵\(B^{-1} A\)的最小特征值。