| 第35行: |
第35行: |
| | | | |
| | == 数学基础 == | | == 数学基础 == |
| | + | |
| | + | === 数学模型 === |
| | + | 对于第 [math]\displaystyle{l}[/math] 层神经元,其输出可表达为: |
| | + | |
| | + | [math]\displaystyle{a^{(l)} = f^{(l)}\left(W^{(l)} a^{(l-1)} + b^{(l)}\right)}[/math] |
| | + | |
| | + | 其中: |
| | + | |
| | + | * <nowiki>[math]\displaystyle{a^{(l)}}[/math]:第 [math]\displaystyle{l}[/math] 层的输出;</nowiki> |
| | + | * <nowiki>[math]\displaystyle{W^{(l)}}[/math]:第 [math]\displaystyle{l}[/math] 层的权重矩阵;</nowiki> |
| | + | * <nowiki>[math]\displaystyle{b^{(l)}}[/math]:第 [math]\displaystyle{l}[/math] 层的偏置向量;</nowiki> |
| | + | * <nowiki>[math]\displaystyle{f^{(l)}}[/math]:激活函数,如 ReLU、Sigmoid、Tanh;</nowiki> |
| | + | * <nowiki>[math]\displaystyle{a^{(0)}}[/math]:输入向量</nowiki> |
| | | | |
| | === 激活函数 === | | === 激活函数 === |