神经网络复刻海马体运营 模拟大脑有戏了
发布时间:2022-10-21 11:01:03 所属栏目:外闻 来源:未知
导读: 理解大脑如何组织和访问空间信息,例如“我们在哪里”、“拐角处有什么”、“如何到达那里”,仍是一项巨大的挑战。该过程涉及从上百亿个神经元中调取一
理解大脑如何组织和访问空间信息,例如“我们在哪里”、“拐角处有什么”、“如何到达那里”,仍是一项巨大的挑战。该过程涉及从上百亿个神经元中调取一系列的记忆及存储其中的空间数据,而每个神经元又连接着上千个其他神经元。神经科学家已经确认了空间认知的关键元素,例如映射位置的网格细胞[1]。然而,要想对此进行更深入的研究,事情就变得棘手了:研究人员想要观察基于位置的有关图像、声音、和味道的记忆是如何流动和互相连接的,却不可能通过取出并研究人的大脑灰质切片来达此目的。 人工智能为此提供了另一条出路。多年来,神经科学家们利用了多种类型的神经网络(神经网络为大多数深度学习的应用提供了动力)来模拟大脑中神经元的放电。于近期的研究中,研究人员发现海马体作为一个对记忆至关重要的脑部结构其实是一种变相的特殊神经网络,这种神经网络被称为Transformer[2]。他们的新模型以一种类似大脑内部运作的方式来追踪空间信息,并且已经取得了显著成效。 同时就职于斯坦福大学和牛津大学蒂姆·贝伦斯(Tim Behrens)实验室的认知神经科学家詹姆斯·惠廷顿(James Whittington)说:“现在我们知道了,这些大脑模型与Transformer模型相当,这就意味着我们的模型表现得更好并且更容易训练。” 惠廷顿及同事所做的研究提示我们,Transformer可以极大地促进神经网络模型模拟网格细胞及大脑其他部分进行运算的能力。惠廷顿表示,这些模型可以推动我们对人工神经网络的工作原理、甚至对大脑运算机制的理解。 在谷歌大脑(Google Brain)研究Transformer模型的计算机科学家大卫·哈(David Ha)表示:“我们并不是在尝试重新建造一个大脑,但我们能否创造出足以复制大脑所作所为的机制呢?” Transformers在2017年作为一种处理语言的新型AI模型首次出现。这一模型是BERT[3]和GPT-3等引人注目的能够补全句子的程序中的秘密武器,而这些程序可以生成以假乱真的歌词、创作莎士比亚十四行诗并模仿客服代表。 伦敦大学学院的神经科学家卡斯维尔• 巴里(Caswell Barry)说道:“网格细胞有这种令人激动的、美丽的、规则的结构,并具有那些不太可能随机产生的、醒目的放电模式。”上述的新研究则向我们展示了Transformer如何精确地复刻这些在海马体观测到的模式。巴里说:“他们认识到,Transformer可以根据以前的状态及其移动情况确定位置,而这正是传统的网格细胞模型描述的定位方式。” (编辑:92站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
站长推荐