近年来，开发人员引入了人工智能(AI)系统，可以模拟或再现人类的各种能力，例如识别图像中的物体、回答问题等。然而，与人类思维相比，人类思维会随着时间的推移而退化，这些系统通常会保持相同的性能，甚至随着时间的推移而提高其技能。
加州大学欧文分校的研究人员最近试图在人工智能代理中模拟衰老和生物神经变性(即神经元的逐渐丧失和相关的心理能力下降)。他们的论文预先发表在arXiv上，可以为利用这种“人工神经变性”执行特定任务的创新人工智能系统的未来发展提供信息。
“这项研究的最初想法是在与 Baldi 博士和 Pishgar 博士共进晚餐时激发的，我们讨论了神经退行性变、学习和人工智能安全等一系列松散相关的主题，”该论文告诉 Tech Xplore。
“最重要的是，我的父亲最近经历了严重的脑外伤和认知能力下降，这激励我从一个新的角度更多地思考这个学科及其在计算机科学和深度学习中的直接应用。”
蔡和他的合作者最近的这项研究并不是旨在人工复制人类大脑疾病。相反，该团队希望使人工智能代理的认知能力下降，以更好地理解复杂系统，从而潜在地增强其可解释性和安全性。
“我们使用大型语言模型 (LLM)，更具体地说，LLaMA 2 进行的智商测试来引入‘神经侵蚀’的概念，”Tsai 解释道。 “这种故意的侵蚀涉及在训练期间或之后消融突触或神经元或添加高斯噪声，从而导致法学硕士的表现受到控制的下降。”
研究人员发现，当他们故意消融(即移除)LLaMA 2 模型的一些人工突触或神经元时，其在智商测试中的表现会按照特定的模式下降。他们的观察结果可以为复杂人工智能系统的功能以及当其底层结构受到损害时首先和最后下降的功能提供新的线索。
蔡说：“除了建立总体框架之外，这项研究最有趣的发现也许是法学硕士失去了抽象思维能力，随后是数学退化，最后是语言能力的丧失，对提示的反应不连贯。” “我们现在正在进行进一步的测试，以更好地理解这种观察到的模式。”
标签：
免责声明：本文由用户上传，如有侵权请联系删除！