深度學(xué)習(xí)聚類的綜述

作者：凱魯嘎吉

來源：博客園

這篇文章對(duì)現(xiàn)有的深度聚類算法進(jìn)行全面綜述與總結(jié)。現(xiàn)有的深度聚類算法大都由聚類損失與網(wǎng)絡(luò)損失兩部分構(gòu)成，博客從兩個(gè)視角總結(jié)現(xiàn)有的深度聚類算法，即聚類模型與神經(jīng)網(wǎng)絡(luò)模型。

1. 什么是深度聚類？

經(jīng)典聚類即數(shù)據(jù)通過各種表示學(xué)習(xí)技術(shù)以矢量化形式表示為特征。隨著數(shù)據(jù)變得越來越復(fù)雜和復(fù)雜，淺層（傳統(tǒng)）聚類方法已經(jīng)無法處理高維數(shù)據(jù)類型。為了解決該問題，深度聚類的概念被提出，即聯(lián)合優(yōu)化表示學(xué)習(xí)和聚類。

2. 從兩個(gè)視角看深度聚類

3. 從聚類模型看深度聚類

3.1 基于K-means的深度聚類

參考：聚類——K-means - 凱魯嘎吉 - 博客園

3.2 基于譜聚類的深度聚類

參考：多視圖子空間聚類/表示學(xué)習(xí)(Multi-view Subspace Clustering/Representation Learning)，關(guān)于“On the eigenvectors of p-Laplacian”目標(biāo)函數(shù)的優(yōu)化問題- 凱魯嘎吉 - 博客園

3.3基于子空間聚類(Subspace Clustering, SC)的深度聚類

參考：深度多視圖子空間聚類，多視圖子空間聚類/表示學(xué)習(xí)(Multi-view Subspace Clustering/Representation Learning)，字典更新與 K-SVD - 凱魯嘎吉 - 博客園

3.4基于高斯混合模型(Gaussian Mixture Model, GMM)的深度聚類

參考：聚類——GMM，基于圖嵌入的高斯混合變分自編碼器的深度聚類(Deep Clustering by Gaussian Mixture Variational Autoencoders with Graph Embedding, DGG)- 凱魯嘎吉 - 博客園

3.5基于互信息的深度聚類

參考：COMPLETER: 基于對(duì)比預(yù)測的缺失視圖聚類方法，Meta-RL——Decoupling Exploration and Exploitation for Meta-Reinforcement Learning without Sacrifices - 凱魯嘎吉 - 博客園

3.6 基于KL的深度聚類

參考：Deep Clustering Algorithms ，關(guān)于“Unsupervised Deep Embedding for Clustering Analysis”的優(yōu)化問題，結(jié)構(gòu)深層聚類網(wǎng)絡(luò)，具有協(xié)同訓(xùn)練的深度嵌入多視圖聚類- 凱魯嘎吉 -博客園

4.從神經(jīng)網(wǎng)絡(luò)模型看深度聚類

4.1基于自編碼器(AutoEncoder, AE)的深度聚類

參考：Deep Clustering Algorithms - 凱魯嘎吉 - 博客園 (DEC, IDEC, DFKM, DCEC)

4.2基于變分自編碼器(Variational AutoEncoder, VAE)的深度聚類

參考：變分推斷與變分自編碼器，變分深度嵌入(Variational Deep Embedding, VaDE)，基于圖嵌入的高斯混合變分自編碼器的深度聚類(Deep Clustering by Gaussian Mixture Variational Autoencoders with Graph Embedding, DGG)，元學(xué)習(xí)——Meta-Amortized Variational Inference and Learning，RL——Deep Reinforcement Learning amidst Continual/Lifelong Structured Non-Stationarity - 凱魯嘎吉 - 博客園

4.3基于生成對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Network, GAN)的深度聚類

參考：生成對(duì)抗網(wǎng)絡(luò)(GAN與W-GAN)，ClusterGAN: 生成對(duì)抗網(wǎng)絡(luò)中的潛在空間聚類，雙層優(yōu)化問題：統(tǒng)一GAN，演員-評(píng)論員與元學(xué)習(xí)方法(Bilevel Optimization Problem unifies GAN, Actor-Critic, and Meta-Learning Methods)- 凱魯嘎吉 - 博客園

4.4基于孿生網(wǎng)絡(luò)(Siamese Neural Network)/對(duì)比學(xué)習(xí)(Contrastive Learning)的深度聚類

參考：從對(duì)比學(xué)習(xí)(Contrastive Learning)到對(duì)比聚類(Contrastive Clustering)，COMPLETER: 基于對(duì)比預(yù)測的缺失視圖聚類方法- 凱魯嘎吉 - 博客園

4.5基于圖神經(jīng)網(wǎng)絡(luò)(Graph Neural Network)的深度聚類

參考：結(jié)構(gòu)深層聚類網(wǎng)絡(luò) - 凱魯嘎吉 -博客園

參考文獻(xiàn)

[1]第40期：基于深度神經(jīng)網(wǎng)絡(luò)的聚類算法——郭西風(fēng)

[2]物以類聚人以群分：聚類分析的一些挑戰(zhàn)和進(jìn)展-凱魯嘎吉-博客園

[3] A Survey of Deep Clustering Algorithms -凱魯嘎吉-博客園

[4] Deep Clustering | Deep Learning Notes

[5]郭西風(fēng).基于深度神經(jīng)網(wǎng)絡(luò)的圖像聚類算法研究[D].國防科技大學(xué),2020.

作者：凱魯嘎吉

出處：http://www.cnblogs.com/kailugaji/