特征工程与实践核心30 分钟kp-029#工作流#Pipeline#scikit-learn

端到端机器学习工作流与 Pipeline

进度

一句话定义

端到端工作流把机器学习项目组织为「问题定义 → 数据 → 特征 → 基线 → 调优 → 评估 → 交付 → 监控」的闭环，用 Pipeline 把预处理与模型封装成单一可复现对象，让交叉验证、调参与部署共用同一份无泄漏逻辑。

为什么重要

从「跑通一个模型」到「交付一个可信系统」之间隔着流程：多数项目失败不在算法而在流程漏洞——泄漏、不可复现、基线缺失、无人监控。Pipeline 是 scikit-learn 的核心工程发明：一个对象同时解决「防泄漏」「可复现」「可部署」三件事，是本库所有实践知识的汇聚点。

前置知识

特征工程：编码、缩放与缺失值处理的特征处理组件；交叉验证与数据划分策略的 CV 协议；分类评估指标：混淆矩阵、Precision/Recall 与 ROC-AUC 的指标体系。

核心概念

问题定义先行：把业务目标翻译成「预测目标 + 评估指标 + 代价矩阵」，三者不定，后面全白做。
基线优先：先跑多数类基线/均值基线/简单线性基线，复杂模型的提升必须与基线对照。
Pipeline：(transformer 链 → estimator) 的顺序封装，fit 时依次训练、predict 时依次变换。
ColumnTransformer：按列路由不同预处理（数值/类别分支）。
嵌套结构：Pipeline 内层防泄漏，RandomizedSearchCV 外层调参（含 Pipeline 内的超参数如 select__k）。
交付物：序列化的 Pipeline（一个文件即全部逻辑）、评估报告、数据与随机种子记录、模型卡（kp-032）。

直观类比

中央厨房标准化：备料（预处理）、烹制（模型）、出品（评估）都按 SOP 装配成一条流水线（Pipeline）。换菜谱（换模型）只动最后一站，前面的卫生规范（防泄漏）自动继承；质检报告（CV）与门店出品（线上）走的是同一条流水线，才敢说「实验室成绩 = 门店成绩」。

原理与机制

Pipeline 为什么天然防泄漏：它的拟合语义是「只对 fit 时给的数据学习所有变换参数」；嵌入 cross_val_score 后，每一折自动调用 pipe.fit(train_fold)（缩放器、编码器、选择器、模型全部在该折训练数据上重新拟合）再 pipe.predict(val_fold)——kp-025 的独立性条件被库级强制。调参的一致性：搜索空间的键按 组件名__参数名 寻址（如 prep__num__imputer__strategy），预处理策略也能被调优，且调优全程无泄漏。工作流的阶段闸门：每个阶段设「通过标准」才进下一阶段——基线低于业务下限就回去补数据/特征，而不是硬上复杂模型；最终测试集只解锁一次（kp-022 三区协议）。上线后监控数据漂移（输入分布）与概念漂移（ $P(y | x)$ 变化），指标衰减触发回训——闭环的最后一环。

公式与推导

整个工作流的形式化是一个嵌套优化与无偏评估：

ĥ = argmin h R̂ inner-cv (𝒫(h)), R(𝒫(ĥ)) \approx R̂ outer-test

其中 $𝒫(h)$ 是完整 Pipeline（含所有数据依赖变换）。内层用训练区 CV 选配置；外层测试集只在最后估计一次泛化误差——两个估计使用互不相交的信息，这就是「报告的数字可信」的数学条件。

图示

业务目标 → (目标, 指标, 代价) ──┐
数据 → 清洗/去重/实体检查        │ 闸门：基线达标？
   ↓                            ▼
ColumnTransformer ─┐
  数值: 填充+缩放   ├─ Pipeline ── 模型(基线→GBDT)
  类别: 编码       ┘              │
                                  ▼
              RandomizedSearchCV(内层5折, 防泄漏调参)
                                  ▼
              训练区全量重训 → 测试集一次评估 → 报告
                                  ▼
              部署(序列化Pipeline) → 监控漂移 → 回训 ↺

实例或案例

从原始表到可信评估的完整最小闭环（本库知识点的总装配）：

import numpy as np, pandas as pd
from sklearn.compose import ColumnTransformer
from sklearn.impute import SimpleImputer
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import OneHotEncoder, StandardScaler
from sklearn.feature_selection import SelectKBest, f_classif
from sklearn.ensemble import HistGradientBoostingClassifier
from sklearn.model_selection import train_test_split, RandomizedSearchCV
from sklearn.metrics import average_precision_score, classification_report
from scipy.stats import loguniform

# 模拟一张带缺失与类别的原始表
rng = np.random.default_rng(0)
df = pd.DataFrame(rng.normal(size=(2000, 6)), columns=[f"x{i}" for i in range(6)])
df["city"] = rng.choice(["bj", "sh", "gz"], 2000)
df.loc[rng.choice(2000, 120, replace=False), "x3"] = np.nan
y = (df["x0"] + df["x1"] ** 2 + (df["city"] == "bj") + rng.normal(scale=.5, size=2000) > 1.3).astype(int)
X_tr, X_te, y_tr, y_te = train_test_split(df, y, stratify=y, random_state=0)

pre = ColumnTransformer([
    ("num", Pipeline([("imp", SimpleImputer(strategy="median")), ("sc", StandardScaler())]),
     [f"x{i}" for i in range(6)]),
    ("cat", OneHotEncoder(handle_unknown="ignore"), ["city"])])
pipe = Pipeline([("pre", pre), ("select", SelectKBest(f_classif, k=6)),
                 ("clf", HistGradientBoostingClassifier(random_state=0))])

search = RandomizedSearchCV(pipe, {"clf__learning_rate": loguniform(0.03, 0.3),
                                   "clf__max_leaf_nodes": [15, 31, 63]},
                            n_iter=12, cv=5, scoring="average_precision", n_jobs=-1,
                            random_state=0)
search.fit(X_tr, y_tr)                       # 全部预处理逐折拟合：零泄漏
best = search.best_estimator_
print("测试集 PR-AUC:", round(average_precision_score(y_te, best.predict_proba(X_te)[:, 1]), 3))
print(classification_report(y_te, best.predict(X_te), digits=3))

这份脚本涵盖：列路由预处理、折内选择、防泄漏调参、独立测试评估——照此模板即可改造真实项目。

常见误区

跳过基线直奔复杂模型：没有基线就无法判断提升是真信号还是调参噪声。
在 notebook 里手工多步变换不封装：步骤顺序漂移、复现失败，特征工程半泄漏。
拿搜索的 best_score_ 当最终性能：那是内层 CV 分数，报告必须用外层测试集。
部署「裸模型」：线上只加载模型不带预处理逻辑，训练/推理特征不一致，指标静默劣化——必须部署整个 Pipeline。

与其他知识点的关系

本节是数据泄漏与常见评估陷阱防泄漏、交叉验证与数据划分策略三区协议、超参数调优：网格、随机与贝叶斯搜索调参、分类评估指标：混淆矩阵、Precision/Recall 与 ROC-AUC 指标、特征工程：编码、缩放与缺失值处理/特征选择：过滤、包裹与嵌入方法特征处理的装配现场；交付与监控的责任延伸到公平性、可复现性与机器学习伦理的模型卡与可复现性规范。

自测题

Pipeline 防泄漏的机制是什么？

- 要点：fit 语义把所有数据依赖变换的拟合范围绑定在训练数据上，CV 内每折自动重拟合，验证折只 transform。

一个合格的「问题定义」要锁死哪三件事？

- 要点：预测目标（y 的精确定义与时点）、评估指标（与业务代价对齐）、代价矩阵/约束（FP/FN 的业务定价）。

上线后需要监控什么？分别说明含义。

- 要点：数据漂移（输入分布变化，可从特征分布检测）与概念漂移（x→y 关系变化，只能从线上标签/业务指标察觉），触发回训或重定义。

延伸阅读

James 等《An Introduction to Statistical Learning》第 6 章（lab 部分）；scikit-learn 官方文档「Pipelines and composite estimators」章节（按需核对最新 API）。