概率分布

离散分布的概率质量函数&连续分布的概率密度函数

概率质量函数（离散）

二项分布（离散）

概率密度函数（连续）

伯努利分布

累积分布函数

均匀分布（最简单的连续分布）

正态分布（高斯分布）

当n很大时，二项分布可以很好地近似为 Gaussian distribution

曲线宽度的度量

数据中心的位置

比例常数

N 代表正态分布

标准正态分布

标准化（正态分布--->标准正态分布）

通过标准化，可以比较在不同的值范围内的不同变量

卡方分布

噪声功率 = 噪声的平方

假设 Z 服从标准正态分布

自由度为1的卡方分布

Degree of free

CDF是PDF的积分

可以通过CDF进行导数运算，得到PDF

在两次传输中累积噪声功率

自由度为 k 的卡方分布

随着 k 增加，PDF更加分散，变得越来越对称

采样概率分布

（需要更大的数据集，可以创建一些很像原始数据的合成数据）

期望值

其他数据集中趋势的的度量：中位数（Median），众数（Mode），均值（Mean）

方差（单位不一致）

偏差

标准差

均值加减1，2，3个标准差

高斯分布

高斯分布

使标准差为1

中心化

+

=

缩放

标准化

描述分布的特征：expected value , varience , standard deviation , skewness (偏度） , kurtosis （峰度）

The first moment   第一矩

The second moment

负偏

数值更多的分布在左侧

正偏

数值更多的分布在右侧

分布的偏斜程度

偏度

中心化和标准化的期望值

尾部较细，峰度较小

尾部较厚，峰度较大

点估计 point estimation：最大似然估计（MLE）

MLE：最大化给定模型的数据的概率

似然是基于模型看到这些数据的概率

取对数：是乘积变成加和的标准方式

MLE：伯努利示例

求导：

MLE：高斯示例

最佳分布是分布的均值 = 样本的均值

最佳分布是分布的方差 = 样本的方差

最大似然估计：线性回归

使用最大似然找到最有可能产生点的线 = 使用线性回归最小化二乘误差

找一条“最可能”生成这些点的直线。

最可能 = 最大似然

基于线抽样点：从每个高斯分布中，抽样出点