本文共 504 字，大约阅读时间需要 1 分钟。

1. Batch Normalization
   使用顺序
   
   训练
   把数据分为若干组，按组来更新参数，一组中的数据共同决定了本次梯度的方向，下降时候减少了随机性。假设神经网络某层一个batch的输入为X=[x1,x2,…xn],其中xi代表一个样本，n为batch_size。
   首先需要求得mini-batch里面的元素的均值：
   
   接下来，求取mini-batch的方差：
   
   这样就可以对每个元素进行归一化。
   
   最后进行尺度缩放和偏移操作，这样可以变换回原始的分布，实现恒等变换，这样的目的是为了补偿网络的非线性表达能力，因为经过标准化之后，偏移量丢失。
   
   BN的好处
   
2. 孤立森林

异常检测算法，又称为“离群点检测”，一般异常数据有两个特点：

这些特性使得SVM，逻辑回归等分算法在此背景下不是用。