2最小读|神经心理学

Psychreg新闻台

当人工神经网络花时间不学习时,它们学得更好

引用这
Psychreg News Desk,(2022, 11月19日)。当人工神经网络花时间不学习时,它们学得更好。神经心理学Psychreg.//www.mums-channel.com/artificial-neural-networks-learn-better-when-they-spend-time-not-learning/
阅读时间:2分钟

根据年龄的不同,人类每24小时需要7-13小时的睡眠。在这段时间里,会发生很多事情:心率、呼吸和新陈代谢起伏不定;荷尔蒙水平会调整;身体放松。在大脑中没有那么多。

加州大学圣地亚哥分校医学院的医学教授、睡眠研究员马克西姆·巴切诺夫博士说:“当我们睡觉时,大脑非常忙碌,重复我们白天学到的东西。”“睡眠有助于重组记忆,并以最有效的方式呈现它们。”

研究发表在《公共科学图书馆计算生物学》杂志上。资深作者Bazhenov和同事们讨论了生物模型如何帮助减轻人工神经网络中灾难性遗忘的威胁,提高它们在一系列研究兴趣方面的效用。

在之前发表的文章中,巴切诺夫和同事们报道了睡眠是如何形成的理性的记忆记忆力是指记忆物体、人物或事件之间任意或间接联系的能力,可以防止遗忘旧的记忆

人工神经网络利用人类大脑的结构来改进许多技术和系统,从基础科学和医学到金融和其他领域社交媒体.在某些方面,它们已经实现了超人的性能,比如计算速度,但它们在一个关键方面失败了:当人工神经网络按顺序学习时,新信息会覆盖之前的信息,这种现象被称为灾难性遗忘。

巴切诺夫说:“相比之下,人类的大脑会持续学习,并将新的数据整合到现有的知识中,当新的训练与巩固记忆的睡眠时间交织在一起时,它通常学习得最好。”

科学家们使用了人工模拟自然神经系统的尖峰神经网络:信息不是连续地交流,而是在特定时间点以离散事件(尖峰)的形式传递。

他们发现,当峰值网络接受新任务训练,但偶尔有模拟睡眠的离线时间时,灾难性的遗忘得到缓解。该研究的作者说,就像人脑一样,神经网络的“睡眠”允许它们在不明确使用旧训练数据的情况下回放旧记忆。

记忆在人脑中以突触权重的模式表示;两者之间连接的强度或幅度神经元

巴切诺夫说:“当我们学习新信息时,神经元会以特定的顺序放电,这增加了神经元之间的突触。在睡眠期间,清醒状态下学习到的峰值模式会自发地重复。这被称为再激活或重放。

“突触可塑性,即被改变或塑造的能力,在睡眠期间仍然存在,它可以进一步增强代表记忆的突触重量模式,有助于防止遗忘或使知识从旧任务转移到新任务。”

当Bazhenov及其同事将这种方法应用于人工神经网络时,他们发现它有助于网络避免灾难性遗忘。

“这意味着这些网络可以像人类或动物一样持续学习。了解人类大脑在睡眠时如何处理信息有助于增强人类受试者的记忆力。增强睡眠节奏可以提高记忆力。

“在其他项目中,我们使用计算机模型来开发最佳策略,在睡眠期间应用刺激,例如听觉音调,以增强睡眠节奏和提高学习能力。这在记忆非最佳的情况下尤其重要,比如随着年龄的增长记忆力下降或在某些情况下阿尔茨海默病.”

合著者包括加州大学圣地亚哥分校的Ryan Golden和Jean Erik Delanois;以及捷克科学院计算机科学研究所的Pavel Sanda。


Psychreg主要用于信息用途;本网站的材料不打算取代专业意见。不要因为你在这个网站上看到的内容而忽视专业建议或延迟寻求治疗。阅读我们的完整的免责188博金宝体育声明

Baidu
map