DBSCAN与HDBSCAN聚类算法比较

数据挖掘机器学习领域,聚类算法是探索数据结构的重要工具。DBSCAN和HDBSCAN是两种流行的基于密度的聚类算法。本文旨在比较这两种算法在特定数据集上的表现,并评估HDBSCAN对某些超参数的敏感性。

算法概述

DBSCAN(Density-Based Spatial Clustering of Applications with Noise)算法是一种基于密度的空间聚类算法,能够识别任意形状的聚类,并且对噪声具有良好的鲁棒性。然而,DBSCAN需要用户指定一个关键的超参数eps(邻域半径),该参数对聚类结果有显著影响。

HDBSCAN(Hierarchical DBSCAN)算法是DBSCAN的扩展,它通过构建一个层次聚类树来捕捉数据在不同密度尺度上的聚类结构。HDBSCAN不需要指定eps参数,而是通过分析整个密度范围来确定聚类,从而提高了算法的鲁棒性和灵活性。

数据集生成与可视化

为了比较这两种算法,首先生成了一个由三个二维高斯分布混合而成的样本数据集。这个数据集的特点是聚类具有不同的密度和尺度,这对于评估聚类算法的性能非常有帮助。

import matplotlib.pyplot as plt import numpy as np from sklearn.cluster import DBSCAN, HDBSCAN from sklearn.datasets import make_blobs def plot(X, labels, probabilities=None, parameters=None, ground_truth=False, ax=None): if ax is None: _, ax = plt.subplots(figsize=(10, 4)) # 省略部分代码以简化展示

使用matplotlib库来可视化聚类结果。上面的代码定义了一个辅助函数plot,它可以根据聚类标签和概率来绘制数据点。

尺度不变性

DBSCAN算法虽然提供了eps参数的默认值,但这个值通常需要针对特定的数据集进行调整。例如,如果对一个数据集进行了缩放,那么eps参数也需要相应地进行调整以保持聚类结果的一致性。

相比之下,HDBSCAN算法在尺度变化方面表现出更好的鲁棒性。它可以在不同的尺度上捕捉数据的聚类结构,而不需要用户手动调整任何参数。

多尺度聚类

HDBSCAN算法的一个显著优势是其多尺度聚类能力。与DBSCAN不同,HDBSCAN不假设所有潜在聚类具有相同的密度。这意味着HDBSCAN能够更好地处理密度不均匀的数据集。

为了演示这一点,生成了一个新的数据集,其中包含不同密度和空间分布的聚类。DBSCAN算法在处理这个数据集时面临挑战,因为它需要找到一个合适的eps值来同时分离密集聚类并避免稀疏聚类的碎片化。

# 省略部分代码以简化展示

通过比较DBSCAN和HDBSCAN在该数据集上的表现,可以看到HDBSCAN在没有用户干预的情况下能够产生更高质量的聚类结果。

超参数鲁棒性

尽管HDBSCAN不需要指定eps参数,但它仍然有一些超参数,如min_cluster_size和min_samples,这些参数控制着聚类结果的密度。可以通过调整这些参数来优化HDBSCAN的性能。

min_cluster_size参数定义了一个聚类中所需的最小样本数。如果一个聚类的样本数少于这个值,那么它将被标记为噪声。min_samples参数则定义了一个点成为核心点所需的邻域样本数。这两个参数的调整可以帮助控制聚类的粒度和鲁棒性。

# 省略部分代码以简化展示

通过实验,发现HDBSCAN在不同的超参数设置下仍然能够保持较好的聚类性能,这表明它在实际应用中具有较高的鲁棒性。

沪ICP备2024098111号-1
上海秋旦网络科技中心:上海市奉贤区金大公路8218号1幢 联系电话:17898875485