等值回归算法是一种非参数模型，它在最小化训练数据上的均方误差的同时，寻找一个非递减的函数近似。这种模型的优势在于，除了单调性之外，它不对目标函数的形状做任何假设。与之相比，线性回归模型则假设目标函数是一条直线。右侧的图表展示了通过线性插值阈值点得到的模型预测函数。阈值点是训练输入观测值的一个子集，它们的匹配目标值由等值非参数拟合计算得出。
在下面的Python代码中，首先导入了必要的库，然后生成了一组随机数据，并对其进行了等值回归和线性回归的拟合。等值回归模型通过设置out_of_bounds="clip"参数来控制模型在训练集观察到的数据范围之外的外推方式。这种“剪切”外推可以在右侧的决策函数图表上看到。
import matplotlib.pyplot as plt
import numpy as np
from matplotlib.collections import LineCollection
from sklearn.isotonic import IsotonicRegression
from sklearn.linear_model import LinearRegression
from sklearn.utils import check_random_state
n = 100
x = np.arange(n)
rs = check_random_state(0)
y = rs.randint(-50, 50, size=(n,)) + 50.0 * np.log1p(np.arange(n))
# 拟合等值回归和线性回归模型
ir = IsotonicRegression(out_of_bounds="clip")
y_ = ir.fit_transform(x, y)
lr = LinearRegression()
lr.fit(x[:, np.newaxis], y) # x需要是2D以适应LinearRegression
# 绘制结果
segments = [[i, y[i]], [i, y_[i]] for i in range(n)]
lc = LineCollection(segments, zorder=0)
lc.set_array(np.ones(len(y)))
lc.set_linewidths(np.full(n, 0.5))
fig, (ax0, ax1) = plt.subplots(ncols=2, figsize=(12, 6))
ax0.plot(x, y, "C0.", markersize=12)
ax0.plot(x, y_, "C1.-", markersize=12)
ax0.plot(x, lr.predict(x[:, np.newaxis]), "C2-")
ax0.add_collection(lc)
ax0.legend(("训练数据", "等值拟合", "线性拟合"), loc="lower right")
ax0.set_title("等值回归拟合在噪声数据上 (n=%d)" % n)
x_test = np.linspace(-10, 110, 1000)
ax1.plot(x_test, ir.predict(x_test), "C1-")
ax1.plot(ir.X_thresholds_, ir.y_thresholds_, "C1.", markersize=12)
ax1.set_title("预测函数 (%d个阈值)" % len(ir.X_thresholds_))
plt.show()
请注意，在IsotonicRegression构造函数中明确传递了out_of_bounds="clip"参数，以控制模型在训练集观察到的数据范围之外的外推方式。这种“剪切”外推可以在右侧的决策函数图表上看到。脚本的总运行时间为：(0分钟 0.137秒)。