y空間兌換代碼_哈工大碩士生實作 11 種資料降維算法，代碼已開源！

閱讀大概需要15分鐘

Follow小部落客，每天更新前沿幹貨

網上關于各種降維算法的資料參差不齊，同時大部分不提供源代碼。這裡有個 GitHub 項目整理了使用 Python 實作了 11 種經典的資料抽取(資料降維)算法，包括：PCA、LDA、MDS、LLE、TSNE 等，并附有相關資料、展示效果；非常适合機器學習初學者和剛剛入坑資料挖掘的小夥伴。

01  為什麼要進行資料降維？

所謂降維，即用一組個數為 d 的向量 Zi 來代表個數為 D 的向量 Xi 所包含的有用資訊，其中 d 通常，我們會發現大部分資料集的次元都會高達成百乃至上千，而經典的 MNIST，其次元都是 64。

MNIST 手寫數字資料集 但在實際應用中，我們所用到的有用資訊卻并不需要那麼高的次元，而且每增加一維所需的樣本個數呈指數級增長，這可能會直接帶來極大的「維數災難」；而資料降維就可以實作：

• 使得資料集更易使用
• 確定變量之間彼此獨立
• 降低算法計算運算成本
• 去除噪音

一旦我們能夠正确處理這些資訊，正确有效地進行降維，這将大大有助于減少計算量，進而提高機器運作效率。而資料降維，也常應用于文本處理、人臉識别、圖檔識别、自然語言處理等領域。

02  資料降維原理

往往高維空間的資料會出現分布稀疏的情況，是以在降維處理的過程中，我們通常會做一些資料删減，這些資料包括了備援的資料、無效資訊、重複表達内容等。 例如：現有一張 1024*1024 的圖，除去中心 50*50 的區域其它位置均為零值，這些為零的資訊就可以歸為無用資訊；而對于對稱圖形而言，對稱部分的資訊則可以歸為重複資訊。

是以，大部分經典降維技術也是基于這一内容而展開，其中降維方法又分為線性和非線性降維，非線性降維又分為基于核函數和基于特征值的方法。

• 線性降維方法：

      PCA 、ICA LDA、LFA、LPP(LE 的線性表示)

• 非線性降維方法：

      基于核函數的非線性降維方法——KPCA 、KICA、KDA       基于特征值的非線性降維方法(流型學習)——ISOMAP、LLE、LE、LPP、LTSA、MVU 哈爾濱工業大學計算機技術專業的在讀碩士生 Heucoder 則整理了 PCA、KPCA、LDA、MDS、ISOMAP、LLE、TSNE、AutoEncoder、FastICA、SVD、LE、LPP 共 12 種經典的降維算法，并提供了相關資料、代碼以及展示，下面将主要以 PCA 算法為例介紹降維算法具體操作。

03  主成分分析(PCA)降維算法

PCA 是一種基于從高維空間映射到低維空間的映射方法，也是最基礎的無監督降維算法，其目标是向資料變化最大的方向投影，或者說向重構誤差最小化的方向投影。它由 Karl Pearson 在 1901 年提出，屬于線性降維方法。與 PCA 相關的原理通常被稱為最大方差理論或最小誤差理論。這兩者目标一緻，但過程側重點則不同。

最大方差理論降維原理 将一組 N 維向量降為 K 維(K 大于 0，小于 N)，其目标是選擇 K 個機關正交基，各字段兩兩間 COV(X,Y) 為 0，而字段的方差則盡可能大。是以，最大方差即使得投影資料的方差被最大化，在這過程中，我們需要找到資料集 Xmxn 的最佳的投影空間 Wnxk、協方差矩陣等，其算法流程為：

• 算法輸入：資料集 Xmxn；
• 按列計算資料集 X 的均值 Xmean，然後令 Xnew=X−Xmean；
• 求解矩陣 Xnew 的協方差矩陣，并将其記為 Cov；
• 計算協方差矩陣 COv 的特征值和相應的特征向量；
• 将特征值按照從大到小的排序，選擇其中最大的 k 個，然後将其對應的 k 個特征向量分别作為列向量組成特征向量矩陣 Wnxk；
• 計算 XnewW，即将資料集 Xnew 投影到選取的特征向量上，這樣就得到了我們需要的已經降維的資料集 XnewW。

最小誤差理論降維原理 而最小誤差則是使得平均投影代價最小的線性投影，這一過程中，我們則需要找到的是平方錯誤評價函數 J0(x0) 等參數。

詳細步驟可參考《從零開始實作主成分分析 (PCA) 算法》： https://blog.csdn.net/u013719780/article/details/78352262 

04  主成分分析(PCA)代碼實作

關于 PCA 算法的代碼如下：

from __future__ import print_functionfrom sklearn import datasetsimport matplotlib.pyplot as pltimport matplotlib.cm as cmximport matplotlib.colors as colorsimport numpy as np
%matplotlib inlinedef shuffle_data(X, y, seed=None):if seed:
     np.random.seed(seed)
   idx = np.arange(X.shape[0])
   np.random.shuffle(idx)return X[idx], y[idx]# 正規化資料集 Xdef normalize(X, axis=-1, p=2):
   lp_norm = np.atleast_1d(np.linalg.norm(X, p, axis))
   lp_norm[lp_norm == 0] = 1return X / np.expand_dims(lp_norm, axis)# 标準化資料集 Xdef standardize(X):
   X_std = np.zeros(X.shape)
   mean = X.mean(axis=0)
   std = X.std(axis=0)# 做除法運算時請永遠記住分母不能等于 0 的情形# X_std = (X - X.mean(axis=0)) / X.std(axis=0)for col in range(np.shape(X)[1]):if std[col]:
       X_std[:, col] = (X_std[:, col] - mean[col]) / std[col]return X_std# 劃分資料集為訓練集和測試集def train_test_split(X, y, test_size=0.2, shuffle=True, seed=None):if shuffle:
     X, y = shuffle_data(X, y, seed)
   n_train_samples = int(X.shape[0] * (1-test_size))
   x_train, x_test = X[:n_train_samples], X[n_train_samples:]
   y_train, y_test = y[:n_train_samples], y[n_train_samples:]return x_train, x_test, y_train, y_test# 計算矩陣 X 的協方差矩陣def calculate_covariance_matrix(X, Y=np.empty((0,0))):if not Y.any():
      Y = X
   n_samples = np.shape(X)[0]
   covariance_matrix = (1 / (n_samples-1)) * (X - X.mean(axis=0)).T.dot(Y - Y.mean(axis=0))return np.array(covariance_matrix, dtype=float)# 計算資料集 X 每列的方差def calculate_variance(X):
   n_samples = np.shape(X)[0]
   variance = (1 / n_samples) * np.diag((X - X.mean(axis=0)).T.dot(X - X.mean(axis=0)))return variance# 計算資料集 X 每列的标準差def calculate_std_dev(X):
   std_dev = np.sqrt(calculate_variance(X))return std_dev# 計算相關系數矩陣def calculate_correlation_matrix(X, Y=np.empty([0])):# 先計算協方差矩陣
   covariance_matrix = calculate_covariance_matrix(X, Y)# 計算 X, Y 的标準差
   std_dev_X = np.expand_dims(calculate_std_dev(X), 1)
   std_dev_y = np.expand_dims(calculate_std_dev(Y), 1)
   correlation_matrix = np.divide(covariance_matrix, std_dev_X.dot(std_dev_y.T))return np.array(correlation_matrix, dtype=float)class PCA():"""
   主成份分析算法 PCA，非監督學習算法.
   """def __init__(self):
     self.eigen_values = None
     self.eigen_vectors = None
     self.k = 2def transform(self, X):"""
     将原始資料集 X 通過 PCA 進行降維
     """
     covariance = calculate_covariance_matrix(X)# 求解特征值和特征向量
     self.eigen_values, self.eigen_vectors = np.linalg.eig(covariance)# 将特征值從大到小進行排序，注意特征向量是按列排的，即 self.eigen_vectors 第 k 列是 self.eigen_values 中第 k 個特征值對應的特征向量
     idx = self.eigen_values.argsort()[::-1]
     eigenvalues = self.eigen_values[idx][:self.k]
     eigenvectors = self.eigen_vectors[:, idx][:, :self.k]# 将原始資料集 X 映射到低維空間
     X_transformed = X.dot(eigenvectors)return X_transformeddef main():# Load the dataset
   data = datasets.load_iris()
   X = data.data
   y = data.target# 将資料集 X 映射到低維空間
   X_trans = PCA().transform(X)
   x1 = X_trans[:, 0]
   x2 = X_trans[:, 1]
   cmap = plt.get_cmap('viridis')
   colors = [cmap(i) for i in np.linspace(0, 1, len(np.unique(y)))]
   class_distr = []# Plot the different class distributionsfor i, l in enumerate(np.unique(y)):
       _x1 = x1[y == l]
       _x2 = x2[y == l]
       _y = y[y == l]
       class_distr.append(plt.scatter(_x1, _x2, color=colors[i]))# Add a legend
   plt.legend(class_distr, y, loc=1)# Axis labels
   plt.xlabel('Principal Component 1')
   plt.ylabel('Principal Component 2')
   plt.show()if __name__ == "__main__":
   main()
           

最終，我們将得到降維結果如下。其中，如果得到當特征數 (D) 遠大于樣本數 (N) 時，可以使用一點小技巧實作 PCA 算法的複雜度轉換。

PCA 降維算法展示 當然，這一算法雖然經典且較為常用，其不足之處也非常明顯。它可以很好的解除線性相關，但是面對高階相關性時，效果則較差；同時，PCA 實作的前提是假設資料各主特征是分布在正交方向上，是以對于在非正交方向上存在幾個方差較大的方向，PCA 的效果也會大打折扣。

05  其它降維算法及代碼位址

• KPCA(kernel PCA)

KPCA 是核技術與 PCA 結合的産物，它與 PCA 主要差别在于計算協方差矩陣時使用了核函數，即是經過核函數映射之後的協方差矩陣。 引入核函數可以很好的解決非線性資料映射問題。kPCA 可以将非線性資料映射到高維空間，在高維空間下使用标準 PCA 将其映射到另一個低維空間。

KPCA 降維算法展示

詳細内容可參見 《Python 機器學習》之特征抽取——kPCA： https://blog.csdn.net/weixin_40604987/article/details/79632888  代碼位址： https://github.com/heucoder/dimensionality_reduction_alo_codes/blob/master/codes/PCA/KPCA.py

• LDA(Linear Discriminant Analysis)

LDA 是一種可作為特征抽取的技術，其目标是向最大化類間差異，最小化類内差異的方向投影，以利于分類等任務即将不同類的樣本有效的分開。LDA 可以提高資料分析過程中的計算效率，對于未能正則化的模型，可以降低次元災難帶來的過拟合。

LDA 降維算法展示

詳細内容可參見《資料降維—線性判别分析(LDA)》： https://blog.csdn.net/ChenVast/article/details/79227945  代碼位址： https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/LDA 

• MDS(multidimensional scaling)

MDS 即多元标度分析，它是一種通過直覺空間圖表示研究對象的感覺和偏好的傳統降維方法。該方法會計算任意兩個樣本點之間的距離，使得投影到低維空間之後能夠保持這種相對距離進而實作投影。 由于 sklearn 中 MDS 是采用疊代優化方式，下面實作了疊代和非疊代的兩種。

MDS 降維算法展示

詳細内容可參見《MDS 算法》 https://blog.csdn.net/zhangweiguo_717/article/details/69663452  代碼位址： https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/MDS 

• ISOMAP

Isomap 即等度量映射算法，該算法可以很好地解決 MDS 算法在非線性結構資料集上的弊端。 MDS 算法是保持降維後的樣本間距離不變，Isomap 算法則引進了鄰域圖，樣本隻與其相鄰的樣本連接配接，計算出近鄰點之間的距離，然後在此基礎上進行降維保距。

ISOMAP 降維算法展示

詳細内容可參見《Isomap》 https://blog.csdn.net/zhangweiguo_717/article/details/69802312  代碼位址： https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/ISOMAP 

• LLE(locally linear embedding)

LLE 即局部線性嵌入算法，它是一種非線性降維算法。該算法核心思想為每個點可以由與它相鄰的多個點的線性組合而近似重構，然後将高維資料投影到低維空間中，使其保持資料點之間的局部線性重構關系，即有相同的重構系數。在處理所謂的流形降維的時候，效果比 PCA 要好很多。

LLE 降維算法展示

詳細内容可參見《LLE 原理及推導過程》 https://blog.csdn.net/scott198510/article/details/76099630  代碼位址： https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/LLE 

• t-SNE

t-SNE 也是一種非線性降維算法，非常适用于高維資料降維到 2 維或者 3 維進行可視化。它是一種以資料原有的趨勢為基礎，重建其在低緯度(二維或三維)下資料趨勢的無監督機器學習算法。 下面的結果展示參考了源代碼，同時也可用 tensorflow 實作(無需手動更新參數)。

t-SNE 降維算法展示

詳細内容可參見《t-SNE 使用過程中的一些坑》： http://bindog.github.io/blog/2018/07/31/t-sne-tips/  代碼位址： https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/T-SNE 

• LE(Laplacian Eigenmaps)

LE 即拉普拉斯特征映射，它與 LLE 算法有些相似，也是以局部的角度去建構資料之間的關系。它的直覺思想是希望互相間有關系的點(在圖中相連的點)在降維後的空間中盡可能的靠近；以這種方式，可以得到一個能反映流形的幾何結構的解。

LE 降維算法展示

詳細内容可參見《拉普拉斯特征圖降維及其 python 實作》： https://blog.csdn.net/HUSTLX/article/details/50850342  代碼位址： https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/LE 

• LPP(Locality Preserving Projections)

LPP 即局部保留投影算法，其思路和拉普拉斯特征映射類似，核心思想為通過最好的保持一個資料集的鄰居結構資訊來構造投影映射，但 LPP 不同于 LE 的直接得到投影結果，它需要求解投影矩陣。

LPP 降維算法展示

05  算法刷題神器：解題PDF

如果刷題還是建議去Leetcode刷。 除此之外，這裡再跟大家推薦一本前不久火爆 GitHub 的 LeetCode 中文刷題手冊： LeetCode Cookbook 。 GitHub： https://github.com/halfrost/LeetCode-Go

詳情請參見《局部保留投影算法 (LPP) 詳解》： https://blog.csdn.net/qq_39187538/article/details/90402961  代碼位址： https://github.com/heucoder/dimensionality_reduction_alo_codes/tree/master/codes/LPP 

Github 項目位址: https://github.com/heucoder/dimensionality_reduction_alo_codes