CRAN 任务视图：聚类分析和有限混合模型

此 CRAN 任务视图包含一个用于查找数据中的分组和建模未观察到的横截面异质性的包列表。许多包提供了对下面列出主题中多个主题的功能，部分标题主要作为快速起点，而不是最终分类。除了包 stats 和 cluster（它们本质上与基本 R 一起提供，因此是每个 R 安装的一部分）之外，每个包仅列出一次。

此视图中列出的大多数包（但并非全部）都在 GPL 下分发。请查看每个包的 DESCRIPTION 文件以检查其分发的许可证。

层次聚类

• 包 stats 中的函数 hclust() 和 cluster 中的 agnes() 是凝聚层次聚类的主要函数，函数 diana() 可用于分裂层次聚类。包 fastcluster 和 flashClust 提供了 hclust() 的更快替代方案。
• stats 包中的 dendrogram() 函数及其相关方法可用于改进聚类树状图的可视化。
• dendextend 包提供了用于轻松可视化（对标签和分支进行着色等）、操作（旋转、修剪等）和比较树状图（具有最佳分支旋转启发式的 tangelgram，以及具有引导和置换检验的显著性树相关性度量）的函数。
• dynamicTreeCut 包包含用于检测层次聚类树状图中聚类的方法。
• genieclust 包实现了一种快速层次聚类算法，其连接准则是单连接方法的变体，将其与基尼不等式度量相结合，以增强连接方法的鲁棒性，同时保持计算效率，以允许使用更大的数据集。
• hclust1d 包为基于 C++ 中实现的 O(nlog (n)) 算法的各种连接函数提供单变量凝聚层次聚类。
• idendr0 包允许交互式地探索层次聚类树状图和聚类数据。数据可以在内置热图中可视化（并与之交互），也可以在 GGobi 动态交互图形（由 rggobi 提供）或基本 R 图中可视化。
• mdendro 包提供了凝聚层次聚类的替代实现。该包原生处理相似性矩阵，计算变量组树状图，这解决了数据中存在重复时出现的非唯一性问题，并计算最终树状图的五个描述符：共生相关系数、空间失真率、凝聚系数、链式系数和树平衡。
• protoclust 包实现了一种层次聚类形式，它将原型元素与树状图的每个内部节点相关联。使用该包的 plot() 函数，可以生成原型标记的树状图，因此更容易解释。
• pvclust 包评估了层次聚类分析中的不确定性。它提供了近似无偏的 p 值以及引导 p 值。

划分聚类

• 包 stats 中的 kmeans() 函数提供了多种算法，用于计算关于欧氏距离的划分。
• 包 cluster 中的 pam() 函数实现了围绕中心点的划分，并且可以处理任意距离。clara() 函数是 pam() 函数针对大型数据集的包装器。轮廓图和跨越椭圆可以用于可视化。
• 包 apcluster 实现了 Frey 和 Dueck 的亲和传播聚类。该包中的算法类似于 Frey 和 Dueck 发布的 Matlab 代码。
• 包 ClusterR 实现了 k 均值、小批量 k 均值、k 中心点、亲和传播聚类和高斯混合模型，并可以选择绘制、验证、预测（新数据）和估计最佳聚类数量。该包利用 RcppArmadillo 来加速函数的计算密集部分。
• 包 clusterSim 允许搜索给定数据集的最佳聚类过程。
• 包 clustMixType 实现了 Huang 的 k 原型扩展，用于混合类型数据的 k 均值。
• 包 evclust 实现了各种聚类算法，这些算法生成一个置信划分，即一组 Dempster-Shafer 质量函数，表示对象对聚类的隶属关系。
• 包 flexclust 提供了针对任意距离度量的 k 中心点聚类算法、硬竞争学习、神经气体和 QT 聚类。邻域图和划分的图像图可用于可视化。部分功能也由包 cclust 提供。
• 包 kernlab 通过 kkmeans 提供了 k 均值算法的加权核版本，并通过 specc 提供了谱聚类。
• 包 kml 提供了专门针对纵向（联合）数据的 k 均值聚类。
• 包 QuClu 提供了高维聚类，其中可能存在偏斜的集群内分布，通过分位数表示集群。
• 包 skmeans 允许球面 k 均值聚类，即使用余弦相似度的 k 均值聚类。它具有多种方法，包括遗传算法和简单的固定点算法，以及用于对高维数据集进行聚类的 CLUTO vcluster 程序的接口。
• 包 Spectrum 实现了一种自调整谱聚类方法，适用于单视图或多视图数据，并使用特征间隙或多模态间隙启发式方法来确定聚类数量。该方法足够灵活，可以对各种高斯和非高斯结构进行聚类，并自动选择 K。
• 包 tclust 允许进行修剪的 k 均值聚类。此外，使用此包还可以为聚类指定其他协方差结构。

基于模型的聚类

• 最大似然估计
  • 对于半监督或部分监督问题，其中一部分观测值的标签以确定性或某种概率给出，包 bgmm 提供基于信念和软标签混合建模，用于使用 EM 算法对高斯混合进行混合建模。
  • 包 EMCluster 提供 EM 算法和几种高效的初始化方法，用于对具有非结构化分散的有限混合高斯分布进行基于模型的聚类，在无监督和半监督学习情况下。
  • 包 funFEM 通过实现 funFEM 算法提供基于模型的函数数据分析，该算法允许对时间序列或更一般地对函数数据进行聚类。它基于一个判别性函数混合模型，该模型允许在唯一的判别性函数子空间中对数据进行聚类。该模型具有简洁的优点，因此可以处理较长的时间序列。
  • 包 GLDEX 拟合广义兰姆达分布的混合，对于分组条件数据，包 mixdist 可以使用。
  • 包 GMCM 拟合高斯混合copula模型，用于无监督聚类和元分析。
  • 包 HDclassif 提供函数 hddc 来将高斯混合模型拟合到高维数据，假设数据存在于比原始空间更低的维度中。
  • 包 teigen 允许从聚类或分类的角度拟合多元 t 分布混合模型（具有特征分解的协方差结构）。
  • 包 mclust 使用 EM 算法拟合高斯混合模型。它允许对协方差矩阵的体积和形状进行精细控制，并基于最大似然进行凝聚层次聚类。它提供了使用层次聚类、EM 和贝叶斯信息准则 (BIC) 的综合策略，用于聚类、密度估计和判别分析。包 Rmixmod 提供了工具，用于将多元高斯或多项式分量的混合模型拟合到给定的数据集，无论是从聚类、密度估计还是判别分析的角度。包 mclust 以及包 mixture 和 Rmixmod 提供了基于特征值分解的所有 14 种可能的方差-协方差结构。
  • 包 MetabolAnalyze 使用 EM 算法拟合概率主成分分析的混合模型。
  • 对于分组条件数据，可以使用包 mixdist。
  • 包 MixAll (已归档) 提供了基于条件独立假设的，使用不同 EM 变体并允许缺失观测值的，对角高斯、伽马、泊松和分类混合模型的 EM 估计。该包访问了统计工具包 STK++ 的聚类部分。
  • 包 mixR 使用 EM 算法对原始数据或分箱数据执行有限混合模型的最大似然估计，这些模型的族包括正态、威布尔、伽马和对数正态，以及在必要时使用牛顿-拉夫森算法或二分法。该包还提供了模型选择的信息准则或自举似然比检验，并且使用包 Rcpp 加速了模型拟合过程。
  • 包 mixtools 提供了使用 EM 算法对参数和非参数（多元）混合模型进行拟合。参数混合模型包括多项式混合、多元正态混合、具有重复测量的正态混合、泊松回归和高斯回归（具有随机效应）。非参数混合模型包括单变量半参数情况，其中对称性被强加以确保可识别性，以及具有条件独立假设的多元非参数混合模型。此外，还提供使用 Metropolis-Hastings 算法拟合高斯回归混合模型。
  • 包 mixsmsn 提供了使用 EM 算法拟合单变量和多变量偏态正态分布的有限混合模型。
  • 包 MoEClust 使用 EM 算法拟合简约的多元高斯混合专家模型。协变量可以影响混合比例和/或成分密度，并实现了包 mclust 中的所有 14 种约束协方差参数化。
  • 包 movMF 使用 EM 算法拟合冯·米塞斯-费舍尔分布的有限混合模型。
  • 包 otrimle 执行稳健的聚类分析，允许存在任何聚类都无法拟合的异常值和噪声。数据由高斯分布的混合模型和一个噪声成分建模，噪声成分是一个覆盖整个欧几里得空间的不适当均匀分布。
  • 包 prabclus 通过计算距离的 MDS 并将最大似然高斯混合聚类应用于 MDS 点，对存在-不存在矩阵对象进行聚类。
  • 包 psychomix 估计二元 Rasch 模型（通过条件 ML）和 Bradley-Terry 模型的混合模型。
  • 包 rebmix 实现 REBMIX 算法来拟合条件独立的正态、对数正态、威布尔、伽马、二项式、泊松、狄拉克或冯·米塞斯成分密度的混合模型，以及具有不受限制的方差-协方差矩阵的多元正态成分密度的混合模型。
  • 包 RMixtComp 使用具有异构数据和部分缺失数据的混合模型执行聚类。混合模型使用 SEM 算法拟合，该包包括用于实数、分类、计数、函数和排序数据的 8 个模型。
  • 包 stepmixr 是 Python 包“StepMix”的接口，它允许对连续和分类数据进行基于模型的聚类和广义混合建模（潜在类别/特征分析）。此外，stepmixr 包提供了多个逐步期望最大化算法（例如，1 步、2 步、3 步 Bolck-Croon-Hagenaars (BCH) 和最大似然 (ML)），用于将潜在类别回归到协变量（预测变量）和/或从潜在类别预测结果。它通过完全信息最大似然 (FIML) 处理缺失值，并允许在半监督和无监督设置中进行推理，并使用非参数引导。该包使用 reticulate 包来连接 Python 中的“StepMix”包。“Stepmix”必须安装在 reticulate 使用的 Python 版本中。这可以在 stepmixr 包内完成，也可以使用 pip 命令（pip install stepmix）完成。
• 贝叶斯估计
  • 可以使用包 bayesm 对多元高斯分布的有限混合模型进行贝叶斯估计。该包提供了从这种混合模型中采样的功能，以及使用 Gibbs 采样估计模型的功能。还提供了用于分析 MCMC 链的附加功能，用于对 MCMC 抽取的矩进行平均，用于确定边际密度，用于对观测值进行聚类，以及用于绘制单变量和双变量边际密度。
  • 包 bayesmix 使用 JAGS 提供贝叶斯估计。
  • 包 bmixture 提供单变量 Gamma 和正态分布的有限混合的贝叶斯估计。
  • 包 GSM 拟合伽马分布的混合。
  • 包 IMIFA 拟合无限因子分析的无限混合以及用于对高维数据进行聚类的灵活相关模型套件。聚类数量和/或特定于聚类的潜在因子数量可以非参数地推断，无需借助模型选择标准。
  • 包 mcclust 实现用于处理（硬）聚类样本的方法，例如贝叶斯聚类模型的 MCMC 输出。其中包括基于后验相似性矩阵或重新标记算法找到代表样本的单个最佳聚类的方法。
  • 包 mixAK 包含混合的统计方法，包括用于分析可能存在删失数据的正态混合的 MCMC 方法。
  • 包 NPflow 拟合多元正态、偏态正态或偏态 t 分布的狄利克雷过程混合。该软件包的开发面向流式细胞术数据预处理应用。
  • 包 PReMiuM 是一个用于轮廓回归的软件包，它是一种狄利克雷过程贝叶斯聚类，其中响应非参数地链接到协变量轮廓。
  • 包 rjags 提供与 JAGS MCMC 库的接口，其中包括用于混合建模的模块。
• 其他估计方法
  • 包 AdMit 允许拟合学生 t 分布的自适应混合，以通过其核函数逼近目标密度。

其他聚类算法和聚类套件

• 包 ADPclust 允许基于二维决策图对高维数据进行聚类。此密度-距离图针对每个数据点绘制局部密度与到所有具有更高局部密度值的观测值的最近距离。可以使用交互式或自动选择模式选择此非迭代过程的聚类中心。
• 包 amap 提供 k 均值和凝聚层次聚类的替代实现。
• 包 biclust 提供几种算法来查找二维数据中的双聚类。
• 包 cba 实现用于商业分析的聚类技术，例如“rock”和“proximus”。
• 包 clue 实现用于层次聚类和划分聚类方法的集成方法。
• 包 CoClust 实现了一种基于 copula 函数的聚类算法，因此允许根据生成过程的多元依赖结构对观测值进行分组，而无需对边缘进行任何假设。
• 包 compHclust 提供补充层次聚类，该聚类专门为微阵列数据设计，以揭示数据中存在的由“弱”基因引起的结构。
• 包 DatabionicSwarm 实现了一个名为 Databionic swarm (DBS) 的群系统，用于自组织聚类。该方法能够适应高维数据的结构，例如以数据空间中的距离和/或密度为特征的自然聚类。
• 包 dbscan 使用 kd 树提供 DBSCAN（基于密度的应用空间聚类，带有噪声）算法的快速重新实现。
• 模糊聚类和袋装聚类在包 e1071 中可用。包 fclust 提供了更多更广泛的模糊聚类工具。
• 包 FCPS 提供了许多具有一致输入和输出的传统聚类算法，几种用于估计聚类数量的统计方法以及聚类能力的镜像密度图 (MD-plot)，并提供各种聚类挑战，任何算法在面对现实世界数据时都应该能够处理这些挑战。
• 该 hopach 算法是层次方法和 PAM 的混合体，通过递归地划分数据集来构建树。
• 对于图和网络，模型驱动的聚类方法在 latentnet 中实现。
• 包 ORIClust 提供了基于信息的有序限制聚类，这是一种专门为生物信息学应用而开发的聚类算法。
• 包 pdfCluster 提供了通过核密度估计进行聚类分析的工具。聚类与估计密度高于阈值的最大连接组件相关联。此外，还获得了与连接组件相关的树结构。
• 包 prcr 实现了 2 步聚类分析，其中首先执行层次聚类以确定后续 k 均值聚类过程的初始分区。
• 包 ProjectionBasedClustering 实现了基于投影的聚类 (PBC) 用于高维数据集，其中聚类由距离和密度结构 (DDS) 形成。
• 包 randomLCA 提供了潜在类别模型的拟合，该模型可以选择性地包含随机效应。包 poLCA 允许多项变量潜在类别分析和回归。 BayesLCA 允许使用 EM 算法、吉布斯采样或变分贝叶斯方法拟合贝叶斯 LCA 模型。
• 包 RPMM 拟合了 Beta 和高斯混合物的递归分区混合模型。这是一种基于模型的聚类算法，它返回一个类层次结构，类似于层次聚类，但也类似于有限混合模型。
• 自组织映射在包 som 中可用。

按聚类回归

• 包 crimCV 拟合了具有时间作为协变量的纵向数据的零膨胀泊松模型的有限混合。
• 可以使用 depmix 或 depmixS4 拟合混合分类和连续数据（包括时间序列）上的潜在马尔可夫模型的多组混合。参数使用给定参数的线性约束和非线性约束的通用优化例程进行优化。
• 包 flexmix 实现了一个用户可扩展的框架，用于 EM 估计回归模型混合，包括（广义）线性模型混合。
• 包 fpc 提供了用于基于模型的聚类和线性回归的固定点方法。可以使用一系列非对称投影方法来绘制聚类的各个方面。
• 包 lcmm 使用最大似然方法拟合潜在类别线性混合模型，也称为增长混合模型或异质线性混合模型。
• 包 mixreg (已归档) 拟合单变量回归混合，并提供用于组件数量的引导检验。
• 包 mixPHM 使用 EM 算法拟合比例风险模型混合。

其他功能

• 包 clusterGeneration 包含用于生成随机聚类和随机协方差/相关矩阵、计算聚类对或聚类分布的分离指数（数据和总体版本）以及用于可视化聚类的 1-D 和 2-D 投影图的函数。或者，MixSim 生成具有高斯分量的有限混合模型，用于预先指定的最大和/或平均重叠水平。此模型可用于模拟数据以研究聚类算法的性能。
• 包 clusterCrit 计算各种聚类验证或质量标准和分区比较指标。
• 对于聚类验证，包 clusterRepro 测试聚类的可重复性。包 clv 包含常用的内部和外部聚类验证方法，可用于包 cluster 和 clValid 中函数产生的大多数输出，并计算几个稳定性度量。
• 包 clustvarsel 为基于高斯模型的聚类提供变量选择。包 LCAvarsel 中实现了用于聚类多元分类数据的潜在类别分析的变量选择。包 VarSelLCM 为具有缺失值的连续、计数、分类或混合类型数据的基于模型的聚类提供变量选择，其中使用的模型在给定组成员资格的情况下施加条件独立性假设。
• 包 factoextra 提供了一些易于使用的函数，用于提取和可视化多元数据分析的输出，包括启发式和基于模型的聚类分析。该包还包含用于简化一些聚类分析步骤的函数，并使用基于 ggplot2 的可视化。
• 包 fpc 中的 cluster.stats() 提供了比较两个聚类解决方案之间相似性的功能。
• 使用 flexclust 包中的函数拟合的 k-中心聚类解决方案的稳定性也可以通过使用引导方法的 bootFlexclust() 进行验证。
• MOCCA 包提供了基于聚类验证指标的多目标优化分析聚类备选方案的方法。
• NbClust 包实现了 30 种不同的指标，这些指标评估聚类结构，应该有助于确定合适的聚类数量。
• 可以使用 nor1mix 包打印和绘制单变量正态分布的混合。
• seriation 包提供了 dissplot() 用于使用排序和矩阵阴影可视化差异矩阵。这也可以通过将属于同一聚类的对象限制为按连续顺序显示来检查聚类质量。
• sigclust 包提供了一种统计方法来测试聚类结果的显著性。
• treeClust 包根据每个变量的回归或分类树中的叶成员资格计算数据点之间的差异。它还使用 R 中可用的启发式聚类算法对使用得到的差异矩阵进行聚类分析。

CRAN 包

其他资源

• Bioconductor 包：hopach