交叉验证是一种评估模型性能的技术，它通过将数据集分成多个子集，然后使用其中的一部分进行训练，其余部分进行测试，来评估模型的泛化能力。这种方法可以减少过拟合的风险，并且能够更准确地估计模型在未知数据上的表现。常见的交叉验证方法包括K折交叉验证、留一法、留P法等。
在机器学习中，GroupKFold、GroupShuffleSplit、KFold、LeaveOneGroupOut、LeaveOneOut、LeavePGroupsOut、LeavePOut、PredefinedSplit、RepeatedKFold、RepeatedStratifiedKFold、ShuffleSplit、StratifiedGroupKFold、StratifiedKFold、StratifiedShuffleSplit、TimeSeriesSplit等都是用于实现交叉验证的工具。
此外，还有check_cv和train_test_split这样的工具，分别用于检查交叉验证器的输入和将数据集随机分割为训练集和测试集。这些工具在模型开发过程中扮演着重要的角色，帮助构建更加稳健和可靠的模型。
参数调优
参数调优是机器学习中的一个重要步骤，它涉及到调整模型的超参数以优化模型的性能。这个过程可以通过网格搜索（GridSearchCV）、减半搜索（HalvingGridSearchCV）、随机搜索（RandomizedSearchCV）等方法来实现。这些方法通过遍历预定义的参数网格，找到最佳的参数组合，从而提高模型的准确率和泛化能力。
除了上述方法，还可以使用ParameterGrid和ParameterSampler来生成参数网格和从给定分布中采样参数。这些工具提供了灵活的方式来探索参数空间，帮助更有效地找到最优的参数设置。
模型验证
在模型训练完成后，通常需要对模型进行验证，以确保其在新的、未见过的数据上也能表现良好。这可以通过cross_val_predict、cross_val_score、cross_validate等函数来实现。这些函数通过交叉验证的方式，评估模型的性能指标，如准确率、召回率等，并记录模型的训练和评分时间。
此外，还可以使用learning_curve、permutation_test_score和validation_curve等工具来进一步分析模型的性能。这些工具可以帮助理解模型在不同数据量下的表现，以及模型对数据的敏感性。
为了更直观地理解模型的性能和参数调优的结果，可以使用LearningCurveDisplay和ValidationCurveDisplay等可视化工具。这些工具可以帮助直观地观察学习曲线和验证曲线，从而更好地理解模型在不同参数设置下的表现。