本文共 448 字，大约阅读时间需要 1 分钟。

范数（Norm）的定义与意义

范数是数学领域中用于度量向量空间或矩阵中向量长度的重要概念。在L1与L2正则化过程中，"|| ||"表示范数，用于衡量向量的大小或长度。

范数可以看作是一个矢量空间内所有向量赋予的长度函数，它赋予向量一个非负数的大小值，从而为向量的相关度量提供了数学基础。在许多应用场景中，范数被用作核心工具，例如向量空间的内积、矩阵范数等。

范数的作用体现在以下几个方面：

在L1与L2正则化中，范数具体扮演以下角色：

• L1范数（比如"||x||_1"）计算向量中的绝对值之和，反映了向量的稀疏性特性。
• L2范数（比如"||x||_2"）则是向量的欧几里得范数，反映了向量的全局模长。

范数的使用使得约束条件具备更强的几何意义，能够有效指导向量的选择和优化方向。在实际应用中，范数常用于降维、大模型压缩等场景，充分发挥了其在向量约束中的定位作用。