在机器学习领域，经常会遇到需要预测连续值或分类标签的问题。这些问题分别对应于回归问题和分类问题。回归问题涉及到预测一个连续的数值，比如房价、温度等；而分类问题则是预测一个离散的标签，比如邮件是否为垃圾邮件、图片中的对象是什么等。本文将探讨这两种问题的区别，并特别关注逻辑回归在分类问题中的应用。
逻辑回归虽然名字中有“回归”二字，但实际上它是一种分类算法。这可能会让人疑惑，既然是一种分类算法，为何要叫做“回归”。为了理解这一点，可以通过一个简单的例子来说明。假设有一组数据，显示不同年龄段的人是否拥有智能手机。这是一个分类问题，需要根据年龄来预测一个人是否拥有智能手机。
如果尝试使用线性回归模型来解决这个问题，可能会画出一条线，将数据点分为两组：拥有智能手机的人和没有智能手机的人。但是，线性回归模型存在一些问题。首先，如果新的数据点出现在极端位置，可能会导致模型的阈值发生变化，这在预测算法中是不可取的。其次，线性回归模型可能会预测出大于1或小于0的值，这在分类问题中是没有意义的，因为分类结果只能是0或1。
为了解决这些问题，引入了逻辑回归模型。逻辑回归模型使用Sigmoid函数（或称为Logit函数）将线性模型的输出转换为0到1之间的值。这样，无论添加多少新的数据点，模型的预测结果都不会受到影响。此外，逻辑回归模型会为每个观测值提供一个介于0和1之间的连续值，这个值表示该数据点的预测概率。如果预测概率接近1，则将数据点分类为1；否则分类为0。