矩阵论

方阵可逆的充要条件

  • $\det (A) \neq 0$
  • $rank(A) = n$
  • A 的列（行）向量组线性无关
  • 齐次线性方程组 仅有零解
  • 非齐次线性方程组 有唯一解
  • A 的特征值都不为 0 ()

线性方程组的解（齐次和非齐次）

  • A 为方阵
$AX=0$ 只有零解 $\Leftrightarrow$ $ A \neq 0$
$AX=b$ 有非零解 $\Leftrightarrow$ $ A \neq 0$
  • 一般情况($m \times n$)，矩阵的秩，线性无关

$AX=0$ 有非零解 $\Leftrightarrow$ A 的列向量组线性相关($r(A)<n$) 对于 ： - 当 $r([A,b])>r(A)$时，$AX = b$无解； - 当 $r([A,b])=r(A)=n$时，$AX = b$有唯一解； - 当 $r([A,b])=r(A)<n$时，$AX=b$有无穷多组解；

  • 秩的基本性质
  • $r(A) \leq m$ 且 $r(A) \leq n$
  • $r([A,B]) \geq r(A)$
  • 特征向量

矩阵A不同特征值所对应的特征向量线性无关.
实对称矩阵的特征值都是实数, 并且有n个线性无关(而且是正交)的特征向量.

概率论

  • 样本均值和方差

样本均值：$\overline{X}n =(X_1+\cdots+X_n)/n$
样本方差：${S_n}^2 =\frac{1}{n-1}\sum{i=1}^n\left(X_i-\overline{X}_n\right)^2$

  • 期望和方差

期望： $E(X)=\sum x_kp_k$
方差： $D(X)=E[X-E(X)]^2=E(X^2)-[E(X)]^2$
$E(X^2)=\sum x_k^2p_k$

  • 3$\sigma$ 原则

抽样分布

  • 重复抽样与不重复抽样

$\mu_x^2=\frac{\sigma^2}{n}$ $\rightarrow$ $\mu_x^2=\frac{\sigma^2}{n}(\frac{N-n}{N-1})$ (不重复抽样的平均误差总是小于重复抽样的平均误差)

  • 假设检验

Z检验的条件：样本来自正态分布且方差已知的情况
T检验的条件：样本来自正态分布且方差未知的情况，两独立样本T检验主要用于检验两个样本的平均数差异。
U检验的条件：应用条件和t检验应用条件基本一致，只是大样本时用u检验 ，小样本时用t检验，t检验可以代替U检验。

综合

  • 梯度下降法（偏导 + 线性搜索）