等渗回归是一种统计方法，用于在保持数据单调性的同时，寻找数据的最佳拟合。与传统的线性回归不同，等渗回归不预设目标函数的具体形状，只要求函数是单调的。这种非参数模型的优势在于其灵活性和对数据分布的低假设。在本文中，将通过生成的数据集来演示等渗回归的效果，并与线性回归模型进行比较。
在下面的代码示例中，首先生成了一个包含均匀噪声的非线性单调趋势数据集。然后，使用等渗回归和线性回归模型对这些数据进行拟合。等渗回归模型通过最小化均方误差来寻找一个非递减的函数近似，而线性回归模型则寻找一个最佳的直线来拟合数据。
import matplotlib.pyplot as plt
import numpy as np
from matplotlib.collections import LineCollection
from sklearn.isotonic import IsotonicRegression
from sklearn.linear_model import LinearRegression
from sklearn.utils import check_random_state
# 生成数据
n = 100
x = np.arange(n)
rs = check_random_state(0)
y = rs.randint(-50, 50, size=(n,)) + 50.0 * np.log1p(np.arange(n))
# 拟合等渗回归和线性回归模型
ir = IsotonicRegression(out_of_bounds="clip")
y_ = ir.fit_transform(x, y)
lr = LinearRegression()
lr.fit(x[:, np.newaxis], y) # x需要是2D数组以适应LinearRegression
# 绘制结果
segments = [[i, y[i]], [i, y_[i]] for i in range(n)]
lc = LineCollection(segments, zorder=0)
lc.set_array(np.ones(len(y)))
lc.set_linewidths(np.full(n, 0.5))
fig, (ax0, ax1) = plt.subplots(ncols=2, figsize=(12, 6))
ax0.plot(x, y, "C0.", markersize=12)
ax0.plot(x, y_, "C1.-", markersize=12)
ax0.plot(x, lr.predict(x[:, np.newaxis]), "C2-")
ax0.add_collection(lc)
ax0.legend(("训练数据", "等渗拟合", "线性拟合"), loc="lower right")
ax0.set_title("等渗回归拟合在噪声数据上 (n=%d)" % n)
x_test = np.linspace(-10, 110, 1000)
ax1.plot(x_test, ir.predict(x_test), "C1-")
ax1.plot(ir.X_thresholds_, ir.y_thresholds_, "C1.", markersize=12)
ax1.set_title("预测函数 (%d 个阈值)" % len(ir.X_thresholds_))
plt.show()
在上述代码中，特别传递了参数 out_of_bounds="clip" 给等渗回归模型的构造函数，以控制模型在训练集观察到的数据范围之外的外推方式。这种“剪切”外推可以在右侧的决策函数图上看到。
通过比较等渗回归和线性回归的拟合结果，可以观察到等渗回归在保持数据单调性的同时，能够更好地适应数据的非线性趋势。而线性回归模型则可能在数据的非线性部分产生较大的误差。