知乎日报

每日提供高质量新闻资讯

头图

听觉与视觉存在相互干扰吗?

Victoria_Borodinova / CC0

东华君,NIH博士后 | 前额叶 | 脑高级功能
撰文 | 东华君
编辑 | 赛先生
“脑人言”版本:感觉之间会相互影响吗?
“赛先生”版本:感觉之间会相互影响吗?

我们人类拥有五种公认的感觉:视觉、听觉、触觉、嗅觉和味觉。这些感觉被分成不同类型,是否意味着它们之间“老死不相往来”?

有人说自己摘下眼镜之后听力下降了,还有人说自己能够听到彩虹的颜色,这些是谣言,还是其中自有科学道理?

神奇的“elephant juice”

首先,我们来做一个有趣的实验。方法很简单,找一个小伙伴,面对面坐好,然后对他 / 她说句“elephant juice”——说的时候不要发出声音,只做出嘴型便可。

你的小伙伴“听”到了什么?这时,对方的答案多半很有趣。虽然你说的是“elephant juice” ,但是对方大概率会认为你说的是 “I love you” 。

原因很简单,因为当我们说 “elephant juice” 和 “I love you” 的时候,嘴型的变化非常相似。由于后者对于我们而言更为常见(大象汁是什么?脑洞好大哈哈哈),我们的大脑便很容易根据嘴型产生误判。

图 1. 电影 Elephant Juice(1999)海报 (图片来自网络)

这一实验,可以很直观地向我们传递一个有趣的信息:我们接收到的某些信息不是来自单一感觉,而是多种感觉整合的结果。并且,如果我们将这些感觉信息进行分离的话,可能会对我们大脑的判断产生误导。

多感觉整合能增强已获取的信息

这些现象涉及的原理被称为“多感觉整合”(multisensory integration),是神经科学和心理学领域比较有趣的一类研究。多感觉整合主要研究来自不同感觉方式的信息——例如视觉、听觉、触觉、嗅觉、味觉和自我运动——被神经系统整合的过程。

由于长期生活在包含了各种刺激信息的丰富环境,动物和人类早就进化出了一整套健全又高效的多感觉整合机制。该机制是适应行为的核心,影响着我们生活的方方面面,可以说无所不在。

既然多感觉整合这么普遍,为什么我们平常感觉不到呢?

图 2. 单一感觉信息强度越弱,多感觉整合越明显。右侧图片中绿色的有核物体表示神经细胞,周围的竖线则是神经细胞的活动强度。(图片来源:参考资料 2)

最主要的原因大概是它太普遍了,我们早已习以为常。

另一个有趣的原因是,多感觉整合的强度大小与单一感觉的强弱有很紧密的关系。简单地说,当单一感觉比较强时,多感觉整合后增加的强度相对较小,不易被察觉;当每个单一感觉都比较微弱时,多感觉整合后增加的强度相对更大,甚至要大于之前两种感觉强度之和。日常生活中的单一刺激信息(视觉)通常比较强,可能会导致多感觉整合不易被察觉。

图 2 描述的是在大脑中参与多感觉整合的一个关键脑区——上丘(superior colliculus)中的神经细胞对视觉和听觉信息整合的反应情况。当一只狗在远处时,我们同时看到它的移动,听到它的叫声,脑中神经细胞对多感觉整合信息的反应强度要远大于只接收单一感觉信息(看到 / 听到)的情况。而当它趴在我们窗户上时,因为单一感觉信息都变得特别强烈了,这种多感觉整合虽然也会存在,但是增加的强度会相对降低,不易被察觉。

图 3. 听、说、读、写同步发展有助于学习语言(图片来源:Eye primary school)

上面这个例子说明了多感觉整合能增强(和减弱)已获取信息的能力。这也是我们在学习新的事物时一直强调多感觉信息输入的原因之一。比如,学习语言的时候老师就一直强调:听、说、读、写一样都不能落下(图 3)。我小时候就不理解为什么要这样做,背单词的时候总有一个疑问:为什么看到单词后还要读出来,在心里默念不就行了么?事实证明,单独看或者听的效果不如双管齐下。可惜的是,我在读了神经生物学博士之后才深刻地体会到这一道理。

多感觉整合能创造新的信息

有趣的是,多感觉整合机制不仅可以强化信息,还能创造新的信息。

一个著名的例子是心理学中被称为“麦格克效应”(McGurk effect)的经典概念。“麦格克效应”说的是语音感知过程中听觉和视觉之间存在相互作用:有时人类的听觉会过多地受到视觉的影响,从而产生错误的认知(视频 1)。

https://www.zhihu.com/video/1119557946799009792

视频 1. “麦格克效应” (视频来自网络)

在这个视频里,单独的看 / 听的话,我们会发现这位男士做出的是“ga ga ga”的口型(视觉信息),声音是“ba ba ba” 音节(听觉信息)。但是如果同时接收视觉和听觉信息,我们的大脑就会觉得听到的是“da da da”的音节。

“麦格克效应” 虽然很出名,但是并不常见。大家最熟悉的例子可能是大脑产生味道(taste)的过程。事实上,我们老早就已经有所体会——小时候,妈妈会捏着鼻子给我们喂药,告诉我们这么做能让药变得不那么苦。现在回过头来想想,不少人可能会觉得挺奇怪:鼻子里面又没有味觉感受器,怎么还可以 “闻” 出酸甜苦咸鲜?

图 4. 捏着鼻子吃药能降低我们对“苦”的感觉(图片来自网络)

这正是多感觉信息在脑内整合的结果——关于药物的味觉、嗅觉、视觉信息经过舌头、鼻子、眼睛等感觉器官的收集之后,会在脑内汇聚、整合,形成一种全新的、包含了多种感觉信息的味道。这一味道理论上还会受到之前记忆中的信息的影响。

虽然长大后的我们不会再有捏着鼻子吃药的体验,但闻出味道的情况仍然存在。每当我们感冒或者鼻炎发作的时候,胃口就会不好——吃菜时只能感觉到咸淡,完全体会不到饭菜往昔的美味,甚至会产生“味同嚼蜡”的感觉。这正是由于鼻子失灵导致嗅觉信息获取受阻,进而导致我们无法感知饭菜“全方位立体化”的味道。所以说,我们对一道好菜要求色、香、味俱全,一点都没毛病~

如何使用多感觉整合机制欺骗大脑?

既然明白了个中缘由,我们便可以通过一些特殊的手段来操控我们的“信息处理系统”,让大脑“上当受骗”。相比日常生活中的衣食住行,有些特意设计的实验 / 方法更能够让我们明显地意识到多感觉整合信息的存在。

比如,我们小时候看的少儿节目中,主持人经常拿着一个可以套在手上的小玩偶,通过操控这些玩偶的嘴巴,再加上自言自语,便能制造出和它们对话的感觉。长大之后我们可能会觉得这很幼稚,但在当时,这的确丰富了我们对童话故事的憧憬和想象。

这个做法便是对多感觉整合机制的运用。心理学上将这种声音线索的错误定位称为“口技效应” (ventriloquist effect):我们大脑所感知到的声音线索的位置,会被明显的视觉线索引导到其所在的地方。小玩偶的话虽然是从主持人的嘴里说出来的,但是玩偶们一张一合的嘴巴却是一个强烈的视觉信息, “欺骗” 了大脑,使我们认为话是从玩偶的嘴里说出来的。

图 5. 为什么大脑会认为这些玩具会说话?(图片来源:Muppet Wiki)

这一效应另一个常见的应用是在电影院。电影院的音响来自于放置在不同方位的音箱,可能在大厅两侧、观众的身旁或者座位下面。但是当我们看到银幕上的演员说话时,会不由自主地相信声音出自演员之口。这正是因为强烈的视觉刺激导致我们的大脑误认为声音来自银幕。

这些有趣的现象被统称为“交叉模式错觉(cross-modal illusions)”,指的是不同感觉的整合会导致大脑对真实刺激信息的认知产生偏差。现实生活中任何两种,或者多种感觉信息在特定的情况下都可能发生整合现象。

我们可以通过一个简单的实验来亲身体验更不易察觉的,触觉和听觉的相互作用。具体的做法是先在黑板上写一些字,然后擦掉,带上耳机隔绝写字时的声音,再在同样的地方写上完全相同的字。当你无法听到粉笔在黑板表面上发出吱吱声响时,即使用的是相同的黑板和粉笔,书写的时候也会明显地感觉更顺畅。很显然,书写时发出的声响(听觉)会影响我们对书写过程中手感(触觉)的感知。

除了上面举的这些例子,多感觉整合机制其实早已以各种各样的形式进入了我们的生活,只是很多都还没有被我们意识到。比如,一些有趣的研究表明,我们的大脑会认为装在白色杯子里的咖啡显得味道更淡,吃的时候发出嘎嘎声响更大的薯条味道更新鲜等等。

正似如此,还有许多有趣的神经科学和心理学知识普遍存在于我们的日常生活中,相信我们能通过明亮的眼睛去发现更多。智慧地运用这些知识还可以便利我们的生活,毕竟,说“elephant juice”容易多了〜

主要参考资料:

1.B. Bonath et al., Neural basis of the ventriloquist illusion. Curr Biol 17, 1697-1703 (2007).

2.B. E. Stein, T. R. Stanford, Multisensory integration: current issues from the perspective of the single neuron. Nat. Rev. Neurosci. 9, 255-266 (2008).

3.H. McGurk, J. MacDonald, Hearing lips and seeing voices. Nature 264, 746-748 (1976).