参数优化预测模型

为何参数优化对提升预测准确率至关重要

• 参数决定模型的偏差-方差权衡、对噪声的鲁棒性以及对类别不均衡的敏感度；合理调校能显著提升精确率、召回率与F1-score。
• 在样本量3万、特征300维且1:10不均衡的场景中，逻辑回归对正类权重、正则化强度（C）和决策阈值尤其敏感；系统化优化能在有限计算资源下获得稳定、可复现的收益。

参数调整的分步方法

a. 识别影响模型性能的关键参数

• 正则化强度 C（0.1-10，log标度）：影响过拟合/欠拟合与稀疏性（配合L1）。
• penalty（l1|l2）：L1产生稀疏特征选择、L2更稳定且对共线性更鲁棒。
• class_weight（balanced 或 {0:1,1:w_pos}，w_pos∈[1,10]）：直接影响召回率/精确率的平衡。
• 决策阈值 threshold（0.3-0.7）：在不改变模型参数的情况下显著改变P/R/F1。
• 特征选择 k（SelectKBest，50-200）：减少噪声特征，提高泛化与训练速度。
• max_iter（200-1000）：确保收敛（性能影响次要，更多是时间/收敛保障）。
• solver 固定为 saga（支持L1/L2，大规模稀疏友好）。
• 标准化 z-score：对LR系数稳定性与收敛至关重要（必须在CV内管道化，避免泄漏）。

优先级建议：threshold ≈ class_weight ≈ C > penalty ≈ k >> max_iter（前五者对P/R/F1影响最大）。

b. 参数调校方法（随机搜索与贝叶斯优化）

• 随机搜索（探索性强、易并行、对高维空间稳健）
  • 先进行粗粒度探索，覆盖C的log空间、不同penalty、权重与阈值，快速锁定可行区域。
  • 优势：实现简单、对条件依赖低、在1小时内可做较多评估。
• 贝叶斯优化（利用历史试验指导下一轮搜索）
  • 在随机搜索找到的“好区域”内做精细化搜索，优先采样高潜力点，节省预算。
  • 建议用于细化C、threshold、k与class_weight，penalty作为类别变量共同优化。

资源预算建议（16核、32G、5折、1小时）：

• 阶段1：随机搜索 n_iter ≈ 50-70（5折→250-350次拟合，n_jobs=16 并行）
• 阶段2：贝叶斯优化 n_iter ≈ 20-30（精细化，refit='f1'）
• 如发现L1显著优于L2或相反，可在阶段2缩小penalty的候选集合。

c. 参数调整影响的评估方法

• 使用5折StratifiedKFold，计算每折的精确率、召回率、F1并报告均值与标准差（稳定性）。
• 关注阈值对PR/F1的折间方差；过高的方差提示过拟合或数据漂移。
• 在CV内部进行阈值调优（避免在验证集外单独调阈值导致乐观偏差）。
• 保留独立测试集，最终仅在测试集上评估一次（确保真实性能）。

模型复杂度与过拟合的平衡

• C越大正则化越弱：易提高训练F1但风险是测试F1下降，尤其在不均衡数据中。
• L1可做隐式特征选择；若已使用SelectKBest，避免过度稀疏（建议在L1下增大k或与L2比较）。
• k过小可能欠拟合、k过大可能引入噪声特征；使用CV稳定性（std）辅助决策。
• class_weight过大（例如>8-10）可能提升召回但显著降低精确率，F1不一定提升。
• 阈值过度调优可能过拟合验证集；需在CV内调、在测试集上仅报告一次。

使用交叉验证确保参数选择稳健性

• 使用StratifiedKFold(n_splits=5, shuffle=True, random_state=42)。
• 将标准化与特征选择置于Pipeline；避免信息泄漏。
• 若时间允许，可进行重复交叉验证（例如5x2），但在1小时预算下优先单次5折。
• 对最终选择参数，报告每折指标与方差，必要时进行学习曲线或PR曲线检查。

参数优化结果的解读指导

• 如果最佳模型选择了：
  • penalty='l1' + 较小C：模型更稀疏，依赖少数强特征；解释更清晰。
  • penalty='l2' + 中等C：更稳定、泛化更好；适合高维共线性的场景。
  • class_weight='balanced'：数据分布驱动权重；如F1偏低，可尝试自定义更高正类权重。
  • threshold < 0.5：偏向召回（更少漏报）；如果精确率过低，需提升threshold或降低正类权重。
  • k较小（如<100）：说明信息主要集中在关键特征；若F1不稳定，增大k或改用L2。
• 关注测试集与CV的指标差异；若测试F1显著低于CV均值，考虑：
  • 过拟合（降低C、增大k、调整权重/阈值）。
  • 数据漂移或CV划分偏差（重新检查分层与随机种子）。

优化过程的文档化与报告撰写建议

• 明确记录：
  • 数据版本、特征列表、预处理（标准化、特征选择方法与k范围）。
  • 搜索空间、分布（loguniform等）、随机种子、CV方案。
  • 计算资源与时限、并行设置、库版本。
  • 每轮搜索的结果（参数→指标），保存为CSV/JSON；可视化F1对C/threshold的响应曲线。
• 报告结构：
  • 目标与约束（指标、时间、资源）。
  • 方法（随机+贝叶斯）、搜索空间与理由。
  • 结果（最佳参数、CV指标均值±std、测试集指标）。
  • 解释与业务含义（阈值选择/代价权衡）。
  • 后续计划（再训练频率、监控指标）。

持续优化与模型维护的最佳实践

• 保留独立测试集，仅用于最终评估与发布决策。
• 监控线上性能（F1、P/R、漂移指标），定期再训练与再调阈值（例如每月/季度）。
• 版本化数据与模型，保证可复现性（固定随机种子、环境依赖、序列化Pipeline）。
• 在新数据分布变化时，优先重估class_weight与threshold；必要时重新搜索C与k。
• 避免过于复杂的优化策略（条件/级联太多）导致过拟合与不可复现。

参考实现（Pipeline + 随机搜索 + 贝叶斯优化 + 阈值调优）

# 安装：pip install scikit-learn scikit-optimize
import numpy as np
from sklearn.base import BaseEstimator, ClassifierMixin, clone
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.feature_selection import SelectKBest, f_classif
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import StratifiedKFold, RandomizedSearchCV
from sklearn.metrics import make_scorer, f1_score, precision_score, recall_score
from scipy.stats import loguniform, randint, uniform

# 可复现性
RANDOM_STATE = 42

class ThresholdWrapper(BaseEstimator, ClassifierMixin):
    """将阈值作为可调参，兼容CV与搜索器"""
    def __init__(self, base_estimator=None, threshold=0.5):
        self.base_estimator = base_estimator
        self.threshold = threshold

    def fit(self, X, y):
        self.base_estimator_ = clone(self.base_estimator)
        self.base_estimator_.fit(X, y)
        return self

    def predict(self, X):
        proba = self.base_estimator_.predict_proba(X)[:, 1]
        return (proba >= self.threshold).astype(int)

    def predict_proba(self, X):
        return self.base_estimator_.predict_proba(X)

    def get_params(self, deep=True):
        params = {'threshold': self.threshold, 'base_estimator': self.base_estimator}
        if deep and hasattr(self.base_estimator, 'get_params'):
            for k, v in self.base_estimator.get_params(deep=True).items():
                params[f'base_estimator__{k}'] = v
        return params

    def set_params(self, **params):
        base_params = {}
        for k, v in params.items():
            if k == 'threshold':
                self.threshold = v
            elif k == 'base_estimator':
                self.base_estimator = v
            elif k.startswith('base_estimator__'):
                base_params[k.split('__', 1)[1]] = v
        if base_params and hasattr(self.base_estimator, 'set_params'):
            self.base_estimator.set_params(**base_params)
        return self

# 构建Pipeline：标准化 -> 单变量筛选 -> 逻辑回归（带阈值包装）
pipe = Pipeline([
    ('scaler', StandardScaler()),
    ('select', SelectKBest(score_func=f_classif)),
    ('clf', ThresholdWrapper(
        base_estimator=LogisticRegression(
            solver='saga',
            penalty='l2',            # 初始值，搜索中会覆盖
            C=1.0,
            class_weight='balanced', # 初始值，搜索中会覆盖
            max_iter=500,
            random_state=RANDOM_STATE  # 提高可复现性
        ),
        threshold=0.5
    ))
])

# 5折分层交叉验证
cv = StratifiedKFold(n_splits=5, shuffle=True, random_state=RANDOM_STATE)

# 多指标打分（refit用F1）
scoring = {
    'F1': make_scorer(f1_score),
    'Precision': make_scorer(precision_score),
    'Recall': make_scorer(recall_score)
}

# 随机搜索空间（粗搜索）
param_dist = {
    'select__k': randint(50, 201),
    'clf__threshold': uniform(0.3, 0.4),  # [0.3, 0.7]
    'clf__base_estimator__penalty': ['l1', 'l2'],
    'clf__base_estimator__C': loguniform(0.1, 10.0),
    'clf__base_estimator__class_weight': [
        'balanced',
        {0: 1, 1: 1}, {0: 1, 1: 2}, {0: 1, 1: 4}, {0: 1, 1: 6}, {0: 1, 1: 8}, {0: 1, 1: 10}
    ],
    'clf__base_estimator__max_iter': randint(200, 1001)
}

rs = RandomizedSearchCV(
    estimator=pipe,
    param_distributions=param_dist,
    n_iter=60,                      # 根据时间预算可调：50-70
    cv=cv,
    scoring=scoring,
    refit='F1',
    n_jobs=16,
    verbose=1,
    random_state=RANDOM_STATE,
    return_train_score=False
)
rs.fit(X_train, y_train)  # 请事先划分并保留测试集 X_test, y_test

print("Random Search Best F1 (CV):", rs.best_score_)
print("Best Params (Random):", rs.best_params_)

# 可选：在随机搜索的最优附近做贝叶斯优化（精细化）
from skopt.space import Real, Integer, Categorical
from skopt import BayesSearchCV

search_spaces = {
    'select__k': Integer( max(50, rs.best_params_['select__k'] - 50),
                          min(200, rs.best_params_['select__k'] + 50) ),
    'clf__threshold': Real( max(0.3, rs.best_params_['clf__threshold'] - 0.1),
                            min(0.7, rs.best_params_['clf__threshold'] + 0.1) ),
    'clf__base_estimator__penalty': Categorical(['l1', 'l2']),
    'clf__base_estimator__C': Real(0.1, 10.0, prior='log-uniform'),
    'clf__base_estimator__class_weight': Categorical([
        'balanced',
        {0: 1, 1: 1}, {0: 1, 1: 2}, {0: 1, 1: 4}, {0: 1, 1: 6}, {0: 1, 1: 8}, {0: 1, 1: 10}
    ]),
    'clf__base_estimator__max_iter': Integer(200, 1000)
}

bo = BayesSearchCV(
    estimator=pipe,
    search_spaces=search_spaces,
    n_iter=25,                      # 时间预算20-30
    cv=cv,
    scoring='f1',                   # skopt更稳妥支持单指标；后续再评其他指标
    n_jobs=16,
    verbose=1,
    random_state=RANDOM_STATE
)
bo.fit(X_train, y_train)

best_model = bo.best_estimator_
print("Bayes Opt Best F1 (CV):", bo.best_score_)
print("Best Params (Bayes):", bo.best_params_)

# 最终在保留测试集上评估（仅一次）
from sklearn.metrics import classification_report
y_pred = best_model.predict(X_test)
print(classification_report(y_test, y_pred, digits=4))

# 若需进一步查看CV稳定性：
from sklearn.model_selection import cross_validate
cv_res = cross_validate(best_model, X_train, y_train, cv=cv,
                        scoring={'f1': 'f1', 'precision': 'precision', 'recall': 'recall'},
                        n_jobs=16, return_estimator=False)
print("CV F1 mean±std:", np.mean(cv_res['test_f1']), np.std(cv_res['test_f1']))
print("CV Precision mean±std:", np.mean(cv_res['test_precision']), np.std(cv_res['test_precision']))
print("CV Recall mean±std:", np.mean(cv_res['test_recall']), np.std(cv_res['test_recall']))

重要注意事项与技巧

• 避免泄漏：标准化与特征选择均在Pipeline中并随CV折内拟合。
• 领域知识引导：
  • 若正类漏报代价高（例如风险识别），倾向较低threshold与较高class_weight。
  • 若误报代价高（例如人工核查成本），提高threshold或降低class_weight。
• L1与特征选择的协同：
  • 若选择L1，建议k选择偏大（≥150），让L1自适应稀疏；若L2，k可更激进地向下搜索。
• 收敛与效率：
  • 若训练耗时过长，适度增大tol（默认1e-4；可设为1e-3）或降低max_iter（≥400常足够），但需确保性能不受明显影响。
• 可复现性：固定random_state并记录库版本；使用环境锁定（requirements.txt，Docker）。

以上流程在您的资源与时间约束下，优先优化C、class_weight、threshold与k，结合随机搜索与贝叶斯优化，能在1小时内达到稳定、可复现的精确率/召回率/F1的综合提升。

LightGBM回归参数优化方案（MSE | 12万样本×80特征 | 月度序列24期 | 2.5小时预算）

参数优化是将模型潜在能力转化为稳健预测质量的关键过程。通过系统化地调校高影响参数、选择合适的搜索策略与严谨的评估方法，可以显著降低均方误差（MSE），同时控制模型复杂度与过拟合风险。在时间序列回归场景中，合理处理时序交叉验证与特征工程（如滞后特征、季节性）尤为重要。

1) 参数优化的重要性

• 提升预测准确率：优化学习率、叶子数、树深等参数可明显降低MSE。
• 改善泛化能力：合理的正则化与数据子采样能减少过拟合，使模型在未来月份表现稳定。
• 提高训练效率：通过早停、剪枝与高效的搜索算法，在有限计算资源和时间内获取近似最优解。
• 保障可复现与可维护性：标准化的优化流程和记录使日后复训与模型监控更可靠。

2) 分步骤参数调整方法

a) 识别影响性能的关键参数（重点优先）

• 树结构与复杂度
  • num_leaves（31-255）：控制叶子数，直接影响模型容量与拟合能力；过大易过拟合。
  • max_depth（-1或4-12）：限制树深，避免极端复杂的树结构；与num_leaves强耦合。
  • min_data_in_leaf（20-120）：每叶最小样本数，增大可抑制过拟合。
• 学习动力学
  • learning_rate（0.01-0.1）：步长；低步长结合更多树通常更稳健。
  • n_estimators（400-1200）：弱学习器数量；与learning_rate成反比关系。
  • early_stopping_rounds（50-100）：早停以防无效迭代，节省时间并降过拟合。
• 子采样与正则化
  • feature_fraction（0.6-1.0）：特征子采样，提升泛化、加速训练。
  • lambda_l2（0-5）：L2正则，缓解过拟合，尤其在大叶子数时。
• 时序特征工程（非模型参数，但需联合优化）
  • lag_windows（3-12）：滞后窗口大小决定可用历史信息深度。
  • seasonal_period（固定12）：月度季节性，建议构造12期季节性与对应滞后交互特征。

建议先优化对MSE影响最大的组合：{num_leaves, max_depth, min_data_in_leaf, learning_rate, n_estimators}，随后微调{feature_fraction, lambda_l2}，最后联合搜索滞后窗口（lag_windows），以避免在未稳固模型结构前过度扩展特征空间。

b) 参数调校方法与计算成本

• 网格搜索（不推荐主用）
  • 优点：简单、可控。
  • 缺点：维度高且参数相关性强，计算代价高；在2.5小时预算内不可取。
• 随机搜索（可用于粗取）
  • 优点：相较网格效率更高；便于并行；适合预热阶段。
  • 缺点：不利用历史评估信息。
• 贝叶斯优化（主力方法）
  • 优点：基于以往结果智能探索高价值区域；在高维且参数相关的空间有效。
  • 成本：每次评估仍需CV训练；配合Optuna的剪枝/多臂策略可降时。
• 进化算法（辅助方法）
  • 优点：适合离散/混合空间与复杂交互（例如结构参数+滞后窗口）；群体搜索能跳出局部最优。
  • 成本：评估次数较多；需设置合理的代数与种群规模避免超时。

推荐策略（两阶段混合）：

1. 贝叶斯优化（Optuna/TPE）聚焦核心模型参数，使用时间序列CV与剪枝；快速收敛到稳健组合。
2. 进化算法在贝叶斯最优附近精修，以探索lag_windows与结构参数的交互（控制代数，避免超预算）。

c) 参数调整影响评估方法

• 使用时序交叉验证（滚动/扩展窗口）计算CV-MSE的平均与方差。
• 记录每折早停的最佳迭代轮次，分析稳定性（轮次方差大说明过拟合风险或不稳定）。
• 观察学习率-树数的权衡：过小学习率但不足树数会欠拟合，反之易过拟合。
• 对lag_windows：较大窗口若CV-MSE下降且方差不增，说明引入的历史信息有效；反之可能噪声过多。

3) 模型复杂度与过拟合的平衡

• 约束关系建议：
  • 若max_depth = -1，限制num_leaves ≤ 127，且min_data_in_leaf ≥ 40。
  • 若max_depth ≥ 10，建议lambda_l2 ≥ 1.0并feature_fraction ≤ 0.9。
• 学习率与树数：
  • learning_rate ≤ 0.05时，建议n_estimators ≥ 800，并启用早停。
• 子采样与正则：
  • feature_fraction在0.7-0.9间通常能提供稳健泛化。
  • min_data_in_leaf调大常能显著降低波动，特别在多滞后特征场景。
• 特征工程：
  • lag_windows增加会扩展维度与序列相关性，谨防泄漏与噪声引入；逐步扩大并验证CV稳定性。

4) 使用交叉验证确保稳健性（保留测试集用于最终评估）

• 测试集严格留出，代表未来月份，不参与任何调参。
• 时序CV设计（示例，月度24期；可按业务月索引进行）：
  • 使用滚动扩展窗口：训练[1..t-1]，验证[t]，t从14,16,18,20,22（5折），保证顺序性。
  • 若为多实体面板数据，先按实体分组，再对时间进行滚动切分（避免泄漏）。
• 指标与方差：
  • 使用平均CV-MSE作为优化目标，同时跟踪各折MSE方差，优选“低均值+低方差”的参数组合。
• 早停：
  • 每折都启用early_stopping_rounds（建议80），并记录最佳迭代。

5) 参数优化结果解读指导

• 结果视角：
  • 性能：报告CV-MSE均值、标准差、最佳折的MSE、最佳迭代轮次分布。
  • 结构：num_leaves、max_depth、min_data_in_leaf的组合是否合理（不过度复杂）。
  • 学习动态：learning_rate与n_estimators的匹配是否平衡（早停轮次是否集中）。
  • 特征工程：lag_windows提高是否带来稳定的MSE下降；若方差上升，考虑收缩窗口或正则增强。
• 业务一致性：
  • seasonal_period=12为月度季节性，应能在最佳方案中体现；如出现非季节性参数更优，需检查数据季节性强度与节假日/促销等额外特征。

6) 优化过程文档化与报告建议

• 记录要点：
  • 数据版本、特征处理细节（滞后构造、标准化/变换、缺失处理）、拆分策略与随机种子。
  • 参数搜索空间、采样分布、优化算法与预算（试验次数、并行数、剪枝策略）。
  • 每次试验的CV结果、训练时长、早停轮次、环境信息（库版本、硬件）。
• 可视化：
  • 超参-性能响应图（如learning_rate vs CV-MSE）。
  • 试验过程收敛曲线（最优MSE随试验次数变化）。
  • 各折残差分布与时序稳定性图。
• 工具：
  • 推荐使用MLflow/Weights & Biases记录超参与指标，Optuna内置可视化（参数重要度、平行坐标）。

7) 持续优化与模型维护最佳实践

• 保持测试集独立，按季度或半年度滚动更新（新月份进入训练，最远月份作为新测试）。
• 数据漂移监控：监控特征分布与残差随时间变化；发现漂移后触发再调参。
• 多保真优化：先用子样本/较少树数快速搜，再用全数据精修，提高效率。
• 定期复训与轻量再调：小范围贝叶斯优化微调核心参数，避免大规模搜索导致过拟合。
• 可复现性：
  • 固定随机种子；记录所有依赖版本；保存训练/验证切分索引与最终最佳参数。
• 资源利用：
  • 并行试验与每试验内多线程合理分配，避免CPU过度竞争；建议总并行核数与LightGBM线程数匹配。

建议的优化执行计划（2.5小时内）

阶段A：贝叶斯优化（主力，TPE + 剪枝）

• 目标参数：num_leaves, max_depth, min_data_in_leaf, learning_rate, n_estimators, feature_fraction, lambda_l2, lag_windows
• 预算与并行：
  • 试验数：60-80（取决于单次训练耗时与剪枝效率）
  • 并行工作数：6；每试验 LightGBM num_threads=4（总占用≈24核）
  • 剪枝：MedianPruner or SuccessiveHalvingPruner
• 采样策略：
  • learning_rate：对数均匀采样[0.01, 0.1]
  • n_estimators：条件采样（learning_rate小则倾向较大）
  • max_depth：类别采样{-1, 6, 8, 10, 12}
  • num_leaves：在[31, 255]内，但约束为num_leaves ≤ 2^(max_depth)（若max_depth = -1则≤127）
  • min_data_in_leaf：[30, 100]（在给定范围内偏向稳健）
  • feature_fraction：[0.7, 0.95]
  • lambda_l2：[0.5, 5.0]
  • lag_windows：[3, 12]（整数）
  • early_stopping_rounds：固定80（或在[50,100]内小范围微调）
• CV方案：5折滚动时序CV；每折早停；优化目标为平均CV-MSE

阶段B：进化算法（精修，小规模）

• 初始种群：来自阶段A前5-10个最优解
• 目标参数：重点探索lag_windows与结构参数交互（num_leaves, min_data_in_leaf）；其余参数在小范围邻域内变异
• 预算：20-40次评估（种群规模10，进化2-4代）
• 选择与变异：锦标赛选择+小幅高斯变异（保持稳定性）

预算粗估

• 假设单试验（5折CV，早停）耗时 ~60-90秒（取决于特征工程与树数）
• 阶段A 60次 + 阶段B 30次 ≈ 90试验 × ~1分钟 ≈ 90分钟；加上数据准备与复检 ≈ 120-140分钟（满足2.5小时）

代码示例（Optuna + LightGBM + 时序CV + 滞后特征）

import pandas as pd
import numpy as np
import lightgbm as lgb
from sklearn.metrics import mean_squared_error
from sklearn.model_selection import TimeSeriesSplit
import optuna

# 假设df包含列：['date', 'y'] + 80个原始特征，date为月度时间戳或月序整数
# 若为多实体面板数据，需在构造滞后时分组（例如'entity_id'）

def build_lag_features(df, lags=6, seasonal_period=12, group_col=None, date_col='date', target_col='y'):
    df = df.sort_values(date_col).copy()
    if group_col:
        df = df.groupby(group_col, group_keys=False).apply(
            lambda g: add_lags(g, lags, seasonal_period, date_col, target_col)
        )
    else:
        df = add_lags(df, lags, seasonal_period, date_col, target_col)
    df = df.dropna()  # 去除滞后导致的前期NA
    return df

def add_lags(g, lags, seasonal_period, date_col, target_col):
    for L in range(1, lags+1):
        g[f'{target_col}_lag_{L}'] = g[target_col].shift(L)
    # 季节性滞后
    if seasonal_period:
        g[f'{target_col}_lag_{seasonal_period}'] = g[target_col].shift(seasonal_period)
    # 可加入月份one-hot/周期性编码（cos/sin），依据领域知识
    g['month'] = pd.to_datetime(g[date_col]).dt.month
    g['month_sin'] = np.sin(2*np.pi*g['month']/12)
    g['month_cos'] = np.cos(2*np.pi*g['month']/12)
    return g

def time_series_cv_splits(df, date_col='date', n_splits=5):
    # 根据唯一月份进行滚动分割
    months = np.sort(df[date_col].unique())
    # 选取5个验证锚点（例如从后往前每2月），避免过多折数超时
    val_points = months[-10:-0:2]  # 可根据数据实际调整
    splits = []
    for m in val_points[:n_splits]:
        train_idx = df[df[date_col] < m].index.values
        val_idx   = df[df[date_col] == m].index.values
        if len(val_idx) == 0 or len(train_idx) == 0:
            continue
        splits.append((train_idx, val_idx))
    return splits

def objective(trial):
    # 采样超参
    learning_rate = trial.suggest_float("learning_rate", 0.01, 0.1, log=True)
    max_depth = trial.suggest_categorical("max_depth", [-1, 6, 8, 10, 12])
    num_leaves_max = 127 if max_depth == -1 else min(255, 2 ** max_depth)
    num_leaves = trial.suggest_int("num_leaves", 31, num_leaves_max)
    min_data_in_leaf = trial.suggest_int("min_data_in_leaf", 30, 100)
    n_estimators = trial.suggest_int("n_estimators", 600 if learning_rate <= 0.05 else 400, 1200)
    feature_fraction = trial.suggest_float("feature_fraction", 0.7, 0.95)
    lambda_l2 = trial.suggest_float("lambda_l2", 0.5, 5.0)
    lag_windows = trial.suggest_int("lag_windows", 3, 12)
    early_stopping_rounds = 80  # 固定或 trial.suggest_int("early_stopping_rounds", 50, 100)

    # 构造滞后特征（注意：真实场景需缓存以节省时间）
    df_lag = build_lag_features(df, lags=lag_windows, seasonal_period=12, group_col=None, date_col='date', target_col='y')
    target = df_lag['y'].values
    features = df_lag.drop(columns=['y']).select_dtypes(include=[np.number]).values

    splits = time_series_cv_splits(df_lag, date_col='date', n_splits=5)
    cv_mse = []
    for (tr_idx, va_idx) in splits:
        X_tr, y_tr = features[tr_idx], target[tr_idx]
        X_va, y_va = features[va_idx], target[va_idx]
        dtrain = lgb.Dataset(X_tr, label=y_tr)
        dvalid = lgb.Dataset(X_va, label=y_va, reference=dtrain)

        params = {
            'objective': 'regression',
            'metric': 'l2',  # MSE
            'learning_rate': learning_rate,
            'num_leaves': num_leaves,
            'max_depth': max_depth,
            'min_data_in_leaf': min_data_in_leaf,
            'feature_fraction': feature_fraction,
            'lambda_l2': lambda_l2,
            'verbosity': -1,
            'num_threads': 4,  # 与并行试验数相配合
            'force_col_wise': True  # 大特征数时更快
        }
        model = lgb.train(
            params,
            dtrain,
            num_boost_round=n_estimators,
            valid_sets=[dvalid],
            valid_names=['valid'],
            early_stopping_rounds=early_stopping_rounds,
            callbacks=[optuna.integration.LightGBMPruningCallback(trial, "valid_l2")]
        )
        y_pred = model.predict(X_va, num_iteration=model.best_iteration)
        cv_mse.append(mean_squared_error(y_va, y_pred))

        # 报告中间结果以便剪枝
        trial.report(np.mean(cv_mse), len(cv_mse))
        if trial.should_prune():
            raise optuna.TrialPruned()

    return float(np.mean(cv_mse))

# ==== 主流程（示例）====
# 加载数据 df，并确保date为月度索引或时间戳，且不包含测试集数据
# df_test 作为完全留出的未来月份数据

study = optuna.create_study(
    direction='minimize',
    sampler=optuna.samplers.TPESampler(seed=42),
    pruner=optuna.pruners.MedianPruner(n_warmup_steps=5)
)
study.optimize(objective, n_trials=70, n_jobs=6, show_progress_bar=True)

best_params = study.best_params
print("Best params:", best_params, "CV-MSE:", study.best_value)

# 最终评估：在训练集（含CV使用的所有月份）上用best_params拟合，再在留出测试集上评估MSE
# 注意：重复构造滞后特征，并确保测试集的滞后仅来自过去数据，不泄漏未来信息

进化算法阶段可使用DEAP等库，基于study.best_params初始化种群，并限制参数微调范围与评估预算。由于代码较长，此处给出伪代码框架：

# 伪代码
population = init_population_from_best(study.best_params, size=10, noise_scale=small)
for gen in range(2):  # 2-4代
    fitness = [cv_mse(individual) for individual in population]  # 复用objective的CV评估
    parents = selection_tournament(population, fitness)
    offspring = mutate_and_crossover(parents, bounds=local_bounds)
    population = elitism_merge(parents, offspring, fitness, top_k=3)
best_individual = select_best(population, fitness)

结果与风险控制要点

• 关注最优解的稳定性：如果各折最佳迭代轮次差异很大，考虑提高min_data_in_leaf、lambda_l2或缩小num_leaves。
• 如果lag_windows增大导致CV方差上升，说明噪声引入或数据季节性不强；适当回退窗口或加入更强正则。
• 若学习率较小但早停轮次仍很大，建议适当提高n_estimators或略增学习率以缩短训练时间。

领域知识的指导作用

• 月度季节性（12期）明确：优先包含季节性滞后（12）与月份编码，必要时加入节假日/促销等业务特征。
• 业务单调关系（如价格↑销量↓）：可考虑LightGBM的单调约束（若适用），减少不合理拟合。
• 滞后窗口选择应结合业务记忆长度（如库存/结算周期），优先搜索3-6，再视CV表现扩展到9-12。

可复现性与避免过拟合的策略

• 固定随机种子（模型、CV切分、优化器）；记录参数与数据版本。
• 严控搜索空间与试验次数，避免过度复杂策略导致对CV折的过拟合。
• 使用剪枝与早停减少无效试验；保留独立测试集只做最终一次评估。
• 通过MLflow/Optuna日志确保每次实验可追溯。

最终报告建议结构

• 数据与特征工程：样本规模、特征维度、滞后与季节性构造方法。
• 评估设置：时序CV细节、折数、早停策略、指标（MSE）。
• 搜索策略与预算：贝叶斯/进化的试验数、并行配置、剪枝策略。
• 最佳参数与性能：CV-MSE均值±方差、测试集MSE、训练时间。
• 诊断与解释：超参重要度、收敛曲线、残差分析、稳定性评估。
• 复现信息：随机种子、库版本、硬件配置、数据快照。

持续优化与模型维护最佳实践清单

• 定期（例如每月/季度）复训并小范围再调参，监控数据漂移与性能下降趋势。
• 将滞后窗口与正则化参数设为“可重评估”项，在发现季节性变化或业务周期改变时更新。
• 采用多保真/分阶段优化，控制时间成本并避免过拟合调参。
• 维持严格的测试集留出与一次性最终评估策略。
• 构建自动化流水线（特征工程→CV→优化→评估→部署），并使用实验跟踪工具确保可复现。

以上方案在2.5小时预算与24核CPU/64G内存环境下可稳健执行。建议先运行阶段A（贝叶斯优化），若时间允许，再进行阶段B（进化算法）的小步精修，并最终在留出测试集上给出一次性MSE评估与报告。