umap簡介
UMAP(Uniform Manifold Approximation and Projection for Dimension Reduction,一緻的流形逼近和投影以進行降維)。 一緻的流形近似和投影(UMAP)是一種降維技術,類似于t-SNE,可用于可視化,但也可用于一般的非線性降維。 該算法基于關于資料的三個假設:
- 資料均勻分布在黎曼流形上(Riemannian manifold);
- 黎曼度量是局部恒定的(或可以這樣近似);
- 流形是局部連接配接的。
根據這些假設,可以對具有模糊拓撲結構的流形進行模組化。 通過搜尋具有最接近的等效模糊拓撲結構的資料的低維投影來找到嵌入。
相對于t-SNE,其主要特點:降維快準狠。
論文:McInnes, L, Healy, J, UMAP: Uniform Manifold Approximation and Projection for Dimension Reduction, ArXiv e-prints 1802.03426, 2018
同時其作者開源實作代碼。
安裝
pip install umap-learn
基本使用
以sklearn内置的Digits Data這個數字手寫識别資料庫為例。
Digits Data每個數字是64維的向量,先檢視資料:
from sklearn.datasets import load_digits
import matplotlib.pyplot as plt
digits = load_digits()
fig, ax_array = plt.subplots(20, 20)
axes = ax_array.flatten()
for i, ax in enumerate(axes):
ax.imshow(digits.images[i], cmap='gray_r')
plt.setp(axes, xticks=[], yticks=[], frame_on=False)
plt.tight_layout(h_pad=0.5, w_pad=0.01)
plt.show()

使用umap降至2維并繪制散點圖:
reducer = umap.UMAP(random_state=42)
embedding = reducer.fit_transform(digits.data)
print(embedding.shape)
plt.scatter(embedding[:, 0], embedding[:, 1], c=digits.target, cmap='Spectral', s=5)
plt.gca().set_aspect('equal', 'datalim')
plt.colorbar(boundaries=np.arange(11)-0.5).set_ticks(np.arange(10))
plt.title('UMAP projection of the Digits dataset')
plt.show()
從圖上可以看出,相同的數字大多聚在一起了。