当谈论人工神经网络（ANN）时，常常会将其与人类大脑的运作方式相比较。尽管大脑的功能可能非常复杂，但人工神经网络算法并不像业界所认为的那样复杂。想象一下，如果人类的大脑像桌面电脑的中央处理器（CPU）那样简单，那么每个人的决策都会完全相同，人类之间的差异性将不复存在。这种差异性是如何产生的？这个问题的答案超出了今天的讨论范围。
认为区分人类大脑与简单机器的关键因素在于，人类大脑能够在感官器官和大脑（决策单元）之间通过神经元创建瞬态状态。这种概率性的中间状态引入了随机性，这就是所说的“创造力”。在ANN或任何机器学习算法中，构建了某种瞬态状态，使机器能够以更复杂的方式学习。本文的目标是将ANN算法的框架与人类大脑的功能进行对比。
一个简单的预测算法试图模仿输入和输出变量之间的关系。在这样的程序中，得到的函数是输入和输出变量之间的直接线性或非线性函数。例如，如果试图根据一个人的年龄来预测他的总工作经验，将观察到以下类型的关系：
工作经验 = f(年龄)
这种关系可以很容易地使用简单的回归算法进行预测。但在复杂的非线性关系和显著的协变量项的情况下，预测变得困难。在这种情况下，需要更复杂的机器学习工具。为了进行这样的预测，有两个选择——要么预测一个复杂的非线性函数，要么将这个问题分解为多个步骤并为每个步骤求解。后者可以很容易地使用人工神经网络（ANN）实现。
正如人们所说，ANN的工作原理源自于人类大脑中的神经网络。ANN操作在所谓的“隐藏状态”上。这些隐藏状态类似于神经元。每个隐藏状态都是一个具有概率行为的瞬态形式。这样的隐藏状态网格作为输入和输出之间的桥梁。
让尝试理解上述图表的实际含义。有一个包含三个输入的向量，打算找到输出事件落入类别1或类别2的概率。为此预测，需要预测中间的一系列隐藏类别（桥梁）。三个输入向量的某种组合预测了激活隐藏节点1-4的概率。隐藏状态1-4的概率组合随后被用来预测隐藏节点5-8的激活率。这些隐藏节点5-8反过来被用来预测隐藏节点9-12，最终预测结果。中间的潜在状态允许算法从每个预测中学习。