贝叶斯动态聚类因子模型

贝叶斯动态聚类因子模型

Bayesian Dynamic Clustering Factor Models

https://arxiv.org/pdf/2505.21490

摘要

我们提出了新颖的贝叶斯动态聚类因子模型（BDCFM），用于多变量纵向数据的分析。BDCFM 将因子模型与隐马尔可夫模型相结合，以同时执行降维、聚类以及估计受试者在聚类之间的动态转移。我们开发了一种高效的吉布斯采样器，用于探索后验分布。对一个模拟数据集的分析表明，我们的推断方法在参数估计和受试者聚类方面都运作良好。最后，我们通过分析一个关于阿片类药物使用障碍的数据集，说明了我们 BDCFM 的实用性。

关键词—— 贝叶斯动态模型；因子模型；隐马尔可夫模型；阿片类药物使用障碍。

1 引言

我们提出了一种用于多变量纵向数据分析的新方法。该方法的动机源于我们之前的工作 [Craft et al., 2023]，在该工作中我们使用了主成分分析（PCA）和 k -均值聚类的组合 [Yeung and Ruzzo, 2001, Hastie et al., 2009]。虽然提供了降维和聚类，但这些后者的组合方法并未提供不确定性量化。我们最近开发了贝叶斯聚类因子模型（BCFM），这是一个将因子模型 [Lopes and West, 2004, Shin and Ferreira, 2023] 与高斯混合模型 [Frühwirth-Schnatter, 2006, Frühwirth-Schnatter et al., 2019] 相结合的框架，以实现横截面数据的同步降维和聚类 [Shin et al., 2025]。为了将其扩展到多变量纵向数据，我们在此提出贝叶斯动态聚类因子模型（BDCFM）。

BDCFM 结合了潜在因子模型（FM）和隐马尔可夫模型（HMM），用于同步降维、聚类以及估计受试者在聚类之间的动态转移。为了提供对不确定性的全面考虑，我们开发了一种马尔可夫链蒙特卡洛（MCMC）算法 [Gelfand and Smith, 1990a, Robert and Casella, 2005, Gamerman and Lopes, 2006]。为了快速便捷的计算，我们考虑条件共轭先验。为了处理标签切换问题，我们采用了一种受单位信息先验启发的经验贝叶斯方法 [Kass and Wasserman, 1995, Steele and Raftery, 2010]，来选择聚类参数的先验超参数。

先前的贝叶斯方法已经将 FM 与高斯混合模型结合起来，用于同步降维和聚类 [Shin et al., 2025, Fokoué and Titterington, 2003, Papastamoulis, 2018, Chandra et al., 2023, Ghilotti et al., 2025]。这些方法为每个观测向量假设了一个因子模型，其公共因子向量来自高斯分布的混合。虽然对横截面数据的分析有用，但这些方法不足以用于纵向数据的分析。为了填补这一空白，BDCFM 假设每个受试者的公共因子向量根据隐马尔可夫模型随时间演变。因此，除了提供降维和聚类之外，BDCFM 还对受试者在聚类之间的动态转移进行建模。

我们通过两个应用来说明 BDCFM 的实用性和灵活性。第一个应用于模拟数据集的应用表明，我们的 BDCFM 框架准确且精确地估计了模型的参数和聚类分配。第二个应用于关于从 OUD（阿片类药物使用障碍）中康复的纵向数据集的应用表明，我们的 BDCFM 框架可以提供关于与康复过程相关的潜在因子、康复亚组以及受试者在亚组之间转移的有用信息。

本文的其余部分组织如下。第 2 节介绍 BDCFM 和条件共轭先验分布。第 3 节介绍用于探索后验分布的 MCMC 算法，包括吉布斯采样器中使用的全条件分布。第 4 节使用模拟数据集评估我们 BDCFM 框架的性能。第 5 节说明 BDCFM 在关于从 OUD 中康复的真实世界数据集上的应用。最后，第 6 节以我们的发现总结和可能的未来研究方向作为结论。附录包含聚类参数先验的经验贝叶斯设定以及全条件分布的推导。补充表 1 提供了贯穿本文使用的符号。

2 模型

2.1 贝叶斯动态聚类因子模型

2.2 先验分布

我们建议使用条件共轭先验分布，这允许表示广泛的先验信息并促进 MCMC 计算。

3 统计推断

我们提出一种吉布斯采样器 [Gelfand and Smith, 1990b]，以从 BDCFM 中所有参数的联合后验分布中获取样本。在本节中，我们展示参数的全条件分布以及吉布斯采样器。

4 模拟数据集分析

我们已经使用第 3 节中描述的吉布斯采样器对这个模拟数据集进行了 BDCFM 分析。具体而言，我们运行了吉布斯采样器 50,000 次迭代，每 10 次迭代进行稀疏化（thinning），并考虑 10,000 次迭代的预热期（burn-in）。

关于聚类分配，BDCFM 几乎完美地对受试者进行了分类，误分类率为 0.1%。此外，补充图 6 显示了 BDCFM 预测的 200 个受试者在 5 个时间点上的聚类分配的冲积图（alluvial plot），并与真实分配进行了比较。

5 OUD 康复的 BDCFM 分析

我们分析了一项为期 24 个月的观察性研究的数据，该研究的对象是接受缓释丁丙诺啡治疗 OUD（阿片类药物使用障碍）的患者 (NCT03604861)。我们对一个由 S = 252 名参与者组成的队列进行了 BDCFM 分析，这些参与者在 T = 4 个时间点（6、12、18 和 24 个月）完成了评估。由于方案变更，时间点 0 没有完整数据，因此被排除在本分析之外。我们考虑了 15 个变量：来自 Sheehan 残疾量表 (SDS) 的三个与工作、社交生活和家庭生活受损相关的变量 [Sheehan et al., 1998]；Kessler 心理困扰量表 (K6) [Kessler et al., 2003]；主观阿片戒断量表 (SOWS) [Handelsman et al., 1987]；来自简明疼痛量表 (BPI) 的三个变量，提供关于平均疼痛、最严重疼痛、最轻微疼痛的信息 [Mendoza et al., 2006]；贝克抑郁量表-II (BDI-II) [Beck et al., 1996]；来自简短健康调查 (SF-12) 的两个变量，该调查考虑了健康相关生活质量的 12 项测量，此处分为 SF12 心理评分和 SF12 生理评分 [Ware et al., 1996]；一个关于家庭和社交关系中冲突天数的变量；一个关于过去 30 天内用于疼痛的药物或毒品数量的变量；一个关于患者对治疗满意度的变量；以及一个关于患者对继续保持戒断、不滥用阿片类药物的信心的变量。在此，我们根据我们先前研究 [Craft et al., 2023] 确定的 G = 4 个聚类和 L = 3 L个因子进行了 BDCFM 分析。BDCFM 分析运行耗时 6.2 分钟。

图 1 显示了因子载荷矩阵 B 的后验均值和 95% 可信区间。从图中可以看出，大多数因子载荷的 95% 可信区间非常窄，表明其估计具有高精度。基于估计的载荷，我们看到 SDS 家庭、SDS 社交和 SDS 工作与第一个因子强烈相关。BPI 平均、BPI 最佳、BPI 最差、SF12 生理评分以及用于疼痛管理的药物数量与第二个因子强烈相关。最后，BDI、K6、SF12 心理评分和戒断信心与第三个因子强烈相关。

6 讨论

在此，我们介绍了我们新颖的 BDCFM 框架，该框架结合了 HMM 和因子模型，以捕捉多变量纵向数据中的时间动态。BDCFM 为每个受试者在每个时间点提供聚类分配，同时允许受试者随时间在聚类之间转移。我们开发了一种吉布斯采样器来探索参数的后验分布，这使得我们的 BDCFM 框架能够同时提供未知量的估计和不确定性量化。

我们通过一个模拟数据集评估了我们 BDCFM 框架的性能。BDCFM 准确地估计了参数。此外，BDCFM 适当地量化了不确定性，并且校准良好。具体而言，95% 可信区间包含参数真实值的次数超过 95%。最后，BDCFM 在每个时间点以非常低的误分类率正确地将受试者分配到聚类。

我们通过对一个关于 OUD 康复的数据集的分析，展示了我们 BDCFM 框架的实用性。该数据集有 S = 252 名受试者，跨越 T = 4 个时间点，BDCFM 框架在 6.2 分钟内完成了这项分析。最后，我们创建了一个 R 包，将在发表后在 CRAN 上提供。

未来研究有几个有前景的方向。其中一个方向是开发用于选择因子数量和聚类数量的方法。另一个可能的未来方向是在 BDCFM 框架中纳入回归变量。这可用于估计回归变量的影响，例如个体层面心理社会因素的变化对聚类之间转移概率的影响。

原文链接：https://arxiv.org/pdf/2505.21490