在机器学习领域，决策边界的生成是一个重要的任务。本文将通过Iris数据集展示标签传播、自训练和支持向量机(SVM)在生成决策边界时的表现。特别地，关注在仅有少量标记数据时这些算法的表现。值得注意的是，自训练在100%的数据上的表现与在100%的数据上训练支持向量机(SVC)相同，因此在此省略。
本示例由Clay Woolam和Oliver Rausch编写，遵循BSD许可。首先，需要导入必要的库，包括matplotlib用于绘图，numpy用于数学运算，以及sklearn中的一些模块用于数据加载和模型训练。
import matplotlib.pyplot as plt
import numpy as np
from sklearn import datasets
from sklearn.semi_supervised import LabelSpreading, SelfTrainingClassifier
from sklearn.svm import SVC
接下来，加载Iris数据集，并仅选取前两个特征以便于可视化。然后，创建了两个版本的标签数据，一个有30%的数据未标记，另一个有50%的数据未标记。
iris = datasets.load_iris()
X = iris.data[:, :2]
y = iris.target
# 网格步长
h = 0.02
rng = np.random.RandomState(0)
y_rand = rng.rand(y.shape[0])
y_30 = np.copy(y)
y_30[y_rand < 0.3] = -1 # 设置随机样本为未标记
y_50 = np.copy(y)
y_50[y_rand < 0.5] = -1 # 设置随机样本为未标记
首先创建SVM和标签传播的实例，并使用不同比例的标记数据来训练它们。自训练的基分类器与SVC相同。
base_classifier = SVC(kernel="rbf", gamma=0.5, probability=True)
ls30 = (LabelSpreading().fit(X, y_30), y_30, "标签传播 30% 数据")
ls50 = (LabelSpreading().fit(X, y_50), y_50, "标签传播 50% 数据")
ls100 = (LabelSpreading().fit(X, y), y, "标签传播 100% 数据")
st30 = (SelfTrainingClassifier(base_classifier).fit(X, y_30), y_30, "自训练 30% 数据")
st50 = (SelfTrainingClassifier(base_classifier).fit(X, y_50), y_50, "自训练 50% 数据")
rbf_svc = (SVC(kernel="rbf", gamma=0.5).fit(X, y), y, "使用rbf核的SVC")
接下来，创建一个网格来绘制决策边界。然后，遍历所有的分类器，为每个分类器绘制决策边界和训练点。未标记的点被涂成白色。
x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1
y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))
color_map = {-1: (1, 1, 1), 0: (0, 0, 0.9), 1: (1, 0, 0), 2: (0.8, 0.6, 0)}
classifiers = (ls30, st30, ls50, st50, ls100, rbf_svc)
for i, (clf, y_train, title) in enumerate(classifiers):
plt.subplot(3, 2, i + 1)
Z = clf.predict(np.c_[xx.ravel(), yy.ravel()])
Z = Z.reshape(xx.shape)
plt.contourf(xx, yy, Z, cmap=plt.cm.Paired)
plt.axis("off")
colors = [color_map[y] for y in y_train]
plt.scatter(X[:, 0], X[:, 1], c=colors, edgecolors="black")
plt.title(title)
plt.suptitle("未标记的点被涂成白色", y=0.1)
plt.show()