线性模型为何仍是重要基线

线性模型用特征的加权和描述输出。它表达能力有限，却计算稳定、行为易检查，也能快速暴露数据和评价问题。复杂模型若不能稳定超过合理线性基线，额外成本往往缺少依据。

线性关系建立在表示上

模型形式可以写成特征与权重的线性组合。所谓线性，是对参数和输入表示而言。加入平方项、交互项或基函数后，模型可以表达弯曲关系，但仍对扩展后的特征保持线性。

系数表示在其他特征保持不变时，一个特征变化与输出的关系。特征相关、编码方式和单位会改变系数，不能把它直接解释为因果效应。

回归与分类共享线性打分

线性回归直接预测连续值。逻辑回归先计算线性分数，再通过链接函数得到类别概率。名称中虽然有“回归”，逻辑回归通常用于分类。

分类边界在特征空间中是线性的。若类别关系需要复杂弯曲边界，可以通过特征变换或更灵活模型表达，但增加复杂度前应确认数据量和任务收益。

正则化控制可接受解

特征较多或高度相关时，普通拟合可能得到不稳定的大系数。L2 正则化倾向整体缩小参数，L1 正则化可能把部分系数压到零。正则强度改变偏差与方差，需要在训练数据之外选择。

稀疏系数有助于简化模型，却不保证被保留的变量具有因果意义。相关特征之间可能任意选择一个，数据轻微变化后选择也会改变。

基线模型帮助诊断系统

线性基线训练快，适合检查标签、特征尺度、数据泄漏和划分方式。如果基线已经异常高，应先排查目标是否进入特征；如果训练与验证差距很大，增加更复杂模型通常不会修复数据分布问题。

基线还提供资源和延迟参照。复杂模型带来的指标提升应与推理成本、可维护性和解释要求一起比较。

评价要检查残差与概率

回归除了汇总误差，还应查看残差随预测值、时间和群体是否存在结构；分类则要检查阈值、类别指标和概率校准。一个总体分数可能掩盖特定区域或少数群体的系统误差。

scikit-learn 用户指南给出线性模型的实现范围和参数行为，《Deep Learning》提供统计学习背景。使用具体估计器时应锁定版本，并把数据处理放入同一流水线，避免训练与部署不一致。

适用边界需要明确

线性模型擅长提供可比较的基线和稳定的局部关系，却不能自动处理所有非线性、空间依赖或时间漂移。若残差呈现周期、分组或空间聚集，应先判断缺少了什么结构，再选择特征扩展、分层模型或其他模型族。复杂化应针对已观察到的误差，而不是基于模型名称。

资料依据

• scikit-learn Project：User Guide，https://scikit-learn.org/stable/user_guide.html
• Ian Goodfellow、Yoshua Bengio、Aaron Courville：《Deep Learning》在线版，https://www.deeplearningbook.org/