矩阵论

方阵可逆的充要条件

  • det(A)0
  • rank(A)=n
  • A 的列(行)向量组线性无关
  • 齐次线性方程组 AX=0 仅有零解
  • 非齐次线性方程组 AX=b 有唯一解
  • A 的特征值都不为 0 (det(λIA)=0)

线性方程组的解(齐次和非齐次)

  • A 为方阵
AX=0 只有零解 $ A \neq 0$
AX=b 有非零解 $ A \neq 0$
  • 一般情况(m×n),矩阵的秩,线性无关

AX=0 有非零解 A 的列向量组线性相关(r(A)<n) 对于 AX=b: - 当 r([A,b])>r(A)时,AX=b无解; - 当 r([A,b])=r(A)=n时,AX=b有唯一解; - 当 r([A,b])=r(A)<n时,AX=b有无穷多组解;

  • 秩的基本性质
  • r(A)mr(A)n
  • r([A,B])r(A)
  • 特征向量

矩阵A不同特征值所对应的特征向量线性无关.
实对称矩阵的特征值都是实数, 并且有n个线性无关(而且是正交)的特征向量.

概率论

  • 样本均值和方差

样本均值:$\overline{X}n =(X_1+\cdots+X_n)/n{S_n}^2 =\frac{1}{n-1}\sum{i=1}^n\left(X_i-\overline{X}_n\right)^2$

  • 期望和方差

期望: E(X)=xkpk
方差: D(X)=E[XE(X)]2=E(X2)[E(X)]2
E(X2)=x2kpk

  • 3σ 原则

抽样分布

  • 重复抽样与不重复抽样

μ2x=σ2n μ2x=σ2n(NnN1) (不重复抽样的平均误差总是小于重复抽样的平均误差)

  • 假设检验

Z检验的条件:样本来自正态分布且方差已知的情况
T检验的条件:样本来自正态分布且方差未知的情况,两独立样本T检验主要用于检验两个样本的平均数差异。
U检验的条件:应用条件和t检验应用条件基本一致,只是大样本时用u检验 ,小样本时用t检验,t检验可以代替U检验。

综合

  • 梯度下降法(偏导 + 线性搜索)