大脑的神经元由三部分组成：
树突（输入机制）：通过突触接受输入的树状结构。输入可能是来自感觉神经细胞的感觉输入，也可能是来自其他神经细胞的“计算”输入。单个细胞可以有多达10万输入（每个来自不同的细胞）。
胞体（计算机制）： 细胞体收集所有树突的输入，并基于这些信号决定是否激活输出（脉冲）。这是一个概括性的说法，因为有些计算在传入胞体前就完成了（在树突结构中编码）。
轴突（输出机制）：一旦胞体决定是否激活输出信号（也就是激活细胞），轴突负责传输信号，通过末端的树状结构将信号以脉冲连接传递给下一层神经元的树突。
类似地，神经网络中也有等价的结构：
输入连接：每个神经元接受一组输入，或者来自输入层（等价于感觉输入），或者来自网络中前一层的神经元。
线性计算和激活函数：这些“累加”输入，接着非线性地决定是否激活神经元。
输出连接：这些传递激活信号至网络中下一层的神经元。
但是，大脑神经元的复杂性和鲁棒性要比人工神经元复杂强大得多。这不仅体现在神经元的数量及每个神经元的树突数量上——比我们现在的人工神经网络高出若干数量级，还体现在单个神经元的内部复杂性上：和人工神经元相比，神经元的化学和电学机制精细得多，也强健得多。例如，神经元不是零电位差的——细胞的不同区域可能具有不同的电位，有不同的电流通过。这让单个神经元可以进行非线性运算，识别随着时间发生的变动（例如，移动的目标），或者将不同的区域并行映射至不同的树突区域——这样整个细胞就可以完成复杂的复合任务。和非常简单的人造神经元相比，这些都是高级很多的结构和能力。
