使用材料搜索算法进行训练可以修剪心理元模型

人工神经网络是一个机器学习系统，它由大量被称为人工神经元的连接节点组成。类似于生物大脑中的神经元，这些人工神经元是执行神经计算和解决问题的主要基本单位。神经生物学的进展解释了树突状细胞结构在神经计算中的重要作用，这导致了基于这些结构的人工神经元模型的发展。

最近发展起来的近似逻辑神经元模型(ALNM)是一种具有动态树枝状结构的单一神经模型。ALNM可以在训练中使用神经修剪功能来消除树过程中不必要的分支和突触，以解决特定的问题。然后，简化模型可以以硬件逻辑电路的形式实现。

然而，众所周知的反向传播算法实际上限制了神经元模型的计算能力。金泽大学电气与计算机工程学院对应作者Yuki Todo表示：“BP算法对初始值敏感，容易陷入局部极小值。"因此，我们评估了几种启发式优化方法训练ALMN的能力."

经过一系列实验，选择了材料搜索算法作为最适合ALMN的训练方法。然后，使用六个基准分类问题来评估ALNM在使用SMS作为学习算法时的优化性能。结果表明，与BP等启发式算法相比，短消息系统在准确性方面具有良好的训练性能。收敛速度。

托多副教授说：“基于ALNM和短信的分类器也与其他几种流行的分类方法进行了比较。"统计结果验证了分类器在这些基准问题上的优势."

在训练过程中，ALNM通过突触修剪和树突修剪程序简化了神经模型，然后用逻辑电路代替简化的结构。这些电路还为每个基准问题提供了令人满意的分类精度。这些逻辑电路硬件实现的简单性表明，未来的研究将看到ALNM和SMS被用来解决日益复杂和高维的实际问题。

标签：