Neural Network

Neural Network

基础的神经单元

mark

参数 功能
$x_i$ 输入的n维度的向量
$w_i$ 加权的系数
$b$ 偏置
$z$ $\Sigma_{i=1}^{n} w_ix_i+b$ 的值
$h(z)$ 经过激活函数得到的一个范围在0-1之间的数
$a$ 作为输入向量x传给下一个神经元
Read more
Intro to Neural Network

Intro to Neural Network

线性回归补充

  1. 线性回归可以对样本是非线性的,只要对参数线性

$y=\theta_0+\theta_1x+\theta_2x^2$

  1. 局部加权回归

人工神经网络

mark

相同的词向量表示会非常近

  1. 把字用向量表示

  2. 卷积操作

  3. RNN表示

  4. 平均 pool

  5. 全连接

  6. sigmoid