目录

1.概念

(1)隐藏层

(2)2NN图示

2.正向传播过程

(1)图示

(2)向量化计算 m 个样本


1.概念
(1)隐藏层
  • 隐藏层含义:中间节点计算的实际数值是不知道的,不像输入层和输出层一样可以明确
(2)2NN图示

  • input layer
  • hidden layer
  • output layer
  • 符号表示
a[0]   : 输入层激活值
a[1]   : 隐藏层激活值
W[1]1  : 隐藏层第一个W (这个W是转置后的)
b[1]1  : 隐藏层第一个b
W[1]2  : 隐藏层第二个W 

W[2]   : 输出层W(2是因为只有一层隐藏层)
b[2]   : 输出层b
2.正向传播过程
(1)图示

  • 对于隐藏层,向量化
    W[1] (行=计算单元数4,列等于输入特征数3)
    b[1] (行=计算单元数4,列等于1)
  • 对于输出层,向量化
    W[2] (行=计算单元数1,列等于输入特征数4)
    b[2] (行=计算单元数1,列等于1)
(2)向量化计算 m 个样本
  • 将x(1),x(2)......作为(n,m)的矩阵,这里n是3
  则A[0] = X = [x1,x2,........]
  Z[1] = w[1]X +b[1]
  A[1] = σ(Z[1])
  Z[2] = w[2]X +b[2]
  A[2] = σ(Z[2])
Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐