支持向量机用最大间隔和核函数建立非线性边界

支持向量机把分类问题写成一个几何间隔优化问题：在能够分开训练样本的超平面中，寻找离两类最近样本都尽可能远的边界。真正决定边界的是少数支持向量，而不是所有样本平均参与。这种表示使模型的容量可以通过间隔、松弛惩罚和核函数共同控制。

它适合样本量中等、特征表达明确而维度较高的任务。支持向量机并不天然给出概率，也不会自动处理类别不平衡、特征尺度或数据泄漏。可靠应用要把特征处理、参数选择和评价拆成同一验证流程中的不同环节。

最大间隔把分类置信转成几何距离

在线性可分情形中，分类器由权重向量和截距定义。样本位于超平面的哪一侧决定类别，函数值除以权重范数后对应到边界的几何距离。最大化最小距离等价于在正确分类约束下最小化权重范数，因此边界由贴近间隔的样本约束。

真实数据通常不可完全分开。软间隔引入松弛变量，允许样本落入间隔甚至被错分，并用参数 C 惩罚这些违反约束的情况。较大的 C 更重视训练错误，边界可能变得曲折且对异常点敏感；较小的 C 接受更多训练偏差，以换取更宽间隔。C 的意义还受特征尺度和样本权重影响，不能跨数据集直接照搬。

Cortes 与 Vapnik 的原始论文给出了支持向量网络的核心优化思想：https://doi.org/10.1007/BF00994018 。在二分类之外，多分类一般通过一对一、一对其余或结构化扩展实现，这些组合策略不是原始二分类问题的简单同义词。

核技巧在隐式特征空间计算相似度

当原始空间中不存在合适的线性边界时，可以用核函数计算样本映射到高维特征空间后的内积，而无需显式生成全部高维特征。线性核保留原始线性边界；多项式核表达有限阶交互；径向基核按距离形成局部相似性，能够产生灵活的非线性边界。

核函数必须对应有效的内积结构。核的参数决定相似度衰减和模型复杂度：径向基核的尺度过小会让每个样本只影响极小邻域，过大则使许多样本看起来相似。先标准化连续特征，再在嵌套交叉验证内同时选择 C 和核参数，才能避免用测试集反复调参。

核矩阵的存储和求解成本会随样本数快速增长。特征很多但样本更大时，线性支持向量方法、随机特征近似或其他可增量模型往往更合适。核方法的优势不是“非线性一定更准”，而是在明确相似性假设下控制函数空间。

支持向量和对偶变量决定预测

优化问题的对偶形式把模型写成支持向量核相似度的加权和。大部分远离边界的样本对应系数为零，因此不会直接参与预测。支持向量数量既影响预测成本，也反映边界对训练样本的依赖程度；支持向量比例很高可能意味着类别重叠、噪声较多或核参数不合适。

类别权重可提高少数类错误的惩罚，但不能替代合适指标和采样设计。若阳性事件稀少，应报告精确率、召回率、PR 曲线和业务阈值下的代价，而不只报告准确率。样本存在时间、主体或空间相关时，随机交叉验证会夸大效果，应按真实部署边界分组或分期切分。

距离超平面的分数可排序，却不是校准概率。需要概率时，可在独立验证数据上做校准，并把校准误差和分类性能分别报告。校准数据若与训练或最终测试重叠，会重新引入乐观偏差。

工程流程要控制尺度和计算代价

训练前要在每个训练折内拟合缺失值处理、标准化和特征选择。文本、计数或稀疏高维数据不一定适合中心化；密集化稀疏矩阵会造成内存问题。特征管道应与分类器一起序列化，确保线上转换与训练一致。

超参数搜索要限定合理范围并记录核矩阵规模、支持向量数、训练时长和预测延迟。数据更新后，新增样本可能改变边界和支持向量集合，经典核 SVM 通常需要重新训练。模型监控还要观察分数分布、支持向量附近样本密度和分组误差，而不只是总体命中率。

线上输入超出训练尺度时，径向基核对所有支持向量的相似度可能同时很低，分类分数却仍会给出确定符号。应把特征范围、到训练样本的距离或密度估计作为域外提示，并允许系统拒绝自动判定。对概念漂移明显的任务，需要按时间窗口重新验证，而不是仅在支持向量数量变化后才更新。

《Artificial Intelligence: A Modern Approach》第四版提供了统计学习和分类方法的整体知识边界：https://aima.cs.berkeley.edu/ 。支持向量机的价值在于把边界复杂度、错误代价和相似性假设显式化；只有当验证切分、尺度处理与部署约束一致时，最大间隔才会转化为可复现的泛化表现。

资料依据

• Corinna Cortes、Vladimir Vapnik：Support-vector networks，https://doi.org/10.1007/BF00994018
• Stuart Russell、Peter Norvig：Artificial Intelligence: A Modern Approach，https://aima.cs.berkeley.edu/