我们对感知机做Linear Aggregation，可以得到，

利用这样的模型，我们可以很容易实现 and,or,not 这样的逻辑操作，

但是我们无法实现 XOR 这样的非线性操作，

我们可以再加一层，使用 two-layer perceptrons 来实现，

可见，层数越多，我们就能实现更加的复杂的模型。

Neural Network Hypothesis

激活函数选择：

权重训练

链式求导法则：

后向传播算法（Backpropagation Algorithm）.

Neural Network Optimization

神经网络通常遇到的问题是难优化，容易过拟合。

正则化