From 7ece43471a6c41293a40b4de0c2efdd78dfd38b0 Mon Sep 17 00:00:00 2001 From: Zhou Peng Date: Thu, 10 Aug 2017 08:19:43 +0800 Subject: [PATCH] =?UTF-8?q?=E4=BF=AE=E5=A4=8D=EF=BC=9A=E5=85=AC=E5=85=B1?= =?UTF-8?q?=E5=8E=9F=E5=88=99=E4=B8=BA=E9=80=9A=E7=94=A8=E5=8E=9F=E5=88=99?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- Chapter6/deep_feedforward_networks.tex | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/Chapter6/deep_feedforward_networks.tex b/Chapter6/deep_feedforward_networks.tex index 5efa417..de3e5d9 100644 --- a/Chapter6/deep_feedforward_networks.tex +++ b/Chapter6/deep_feedforward_networks.tex @@ -213,7 +213,7 @@ \section{实例：学习XOR} \caption{\gls{rectified_linear}激活函数。 该激活函数是被推荐用于大多数\gls{feedforward_neural_network}的默认激活函数。 将此函数用于线性变换的输出将产生非线性变换。 然而，函数仍然非常接近线性，在这种意义上它是具有两个线性部分的分段线性函数。 -由于\gls{ReLU}几乎是线性的，因此它们保留了许多使得线性模型易于使用基于梯度的方法进行优化的属性。 它们还保留了许多使得线性模型能够\gls{generalization}良好的属性。 计算机科学的一个公共原则是，我们可以从最小的组件构建复杂的系统。 +由于\gls{ReLU}几乎是线性的，因此它们保留了许多使得线性模型易于使用基于梯度的方法进行优化的属性。 它们还保留了许多使得线性模型能够\gls{generalization}良好的属性。 计算机科学的一个通用原则是，我们可以从最小的组件构建复杂的系统。 就像图灵机的内存只需要能够存储0或1的状态，我们可以从\gls{rectified_linear}函数构建一个\gls{universal_function_approximator}。} \label{fig:chap6_relu_color} \end{figure}