呆板进修：规律斯谛回来模子

规律斯谛回来模子是一种鉴定模子（对应于回来题目），它直接给出了P(Y|X)的函数，求解其漫衍函数。便是概率统计中的统计推测-参数估量，估量的要领是最大似然估量。它假设了条件概率漫衍餍足logistic函数，形如P(Y|X)=1/(1+exp^(wx+b)），如下图：输入聚集可以类似被分为两类（很靠近阶跃函数，但是它是一连的）。以是在神经网络中，我们看到节点的阈值函数也是用这个logistic函数来模仿阈值函数，由于在反向流传的时间要求阈值函数是可导的。

如前所述，该模子（漫衍函数）的参数估量是用最大似然来估量，给定一组输入（x1，...,xn）那么P(x1,....,xn）的最大似然函数为L=∑1/(1+exp^(wx+b)）*exp^(wx+b)/(1+exp^(wx+b)）（数学公式重要表示，不是很严谨），同时假设输入样本之间是相互独立的，对L求导来得到使得L最大的w和b，可以用梯度降落法及拟牛顿法来求解，用w和b的最大似然估量来类似模子的参数。

这里有个要害的假设，便是先假设了概率漫衍有logistic函数的情势，然后通过最大似然法来估量参数值。但是假设是否建立，实在是纷歧定的。从试验数据动身查找纪律，便是要大胆假设，并通过效果利用统计要领来验证假设是否精确，这便是用到了假设查验相干知识，在解空间中找到谁人最有大概的解。logistic回来也可以用于多分类，对付每一个分类对应一组来拟合，猜测时输入对应的分类是全部概率中最大的那一个。