计算还是权重适应？重新审视可塑性在学习中的作用

人脑是一个能够泛化到新任务和不熟悉环境中的适应性学习系统。传统观点认为，这种适应性行为需要学习系统的结构性改变（例如通过神经可塑性）。在本研究中，我们使用人工神经网络，特别是大语言模型（LLMs），来挑战这一传统观点，并提出如果学习系统经过充分训练，这种适应性行为也可以仅通过计算来实现。我们聚焦于统计学习范式。这些范式要求识别看似随意的词序列中的潜在规律，并且主要被认为需要神经可塑性。LLMs能够在不进行权重适应的情况下捕捉任意结构，即使这些结构不携带语义内容，且远离模型训练所基于的自然语言分布。我们的工作为可塑性在学习中的作用提供了新的见解，表明经过充分训练的学习系统具有高度灵活性，仅通过计算就能适应新任务和环境，其程度远超此前所认识到的。此外，我们的工作为未来研究使用深度学习模型来构想关于大脑的假设打开了大门。

中文由 AI 翻译，仅供参考，以原文为准。