逃出你的肖申克(二):仁者见仁智者见智?从视觉错觉到偏见

《Making Up the Mind》上讲了这么一个简单但深刻的实验:

ambi_sun_up

我们看到这张图片的第一反应是:5个凸的按钮,1个凹的按钮。

现在仅仅将图片上下颠倒一下:

ambi_sun_down

在我们眼中立即就变成了:1个凸的按钮,5个凹的按钮。

为什么同一副图片,仅仅是上下颠倒一下,我们就对其作出了完全不同的解释呢?

我们知道,视觉图像要到达大脑,首先要在视网膜上成像(视网膜上密密麻麻地排布着感光细胞),刺激感光细胞形成的神经电冲动然后经过一系列复杂的神经通路到达视觉皮层。但后续的繁杂步骤其实都是对视网膜上成的像的处理。这里,对我们的讨论而言视网膜不妨可以看作一张感光胶片,重点在于视网膜上的像完全是一张二维图片大脑从图像中提取出来的任何信息都以这张二维图片为原始素材

那么,究竟大脑是怎么从二维图片中看出(推导出)三维的?

其中一个重要的工作就是判定深度。前面的两张图片完全是二维图片,在我们的视网膜上也是二维的。然而大脑却能够从中理解出三维出来,大脑能够判断出一个按钮是“凹”的还是“凸”的。这是怎么办到的?

很简单,假设环境中有光源,并且光源来自上方,那么凸的物体会使其下部出现阴影,凹陷的物体则会在上部出现阴影。于是,图中按钮的下半部出现阴影就意味着按钮是凸的,按钮的上半部出现阴影则代表按钮是凹的。

然而,别忘了,大脑的这个推理成立必须有一个前提,即光线从上方照下来,如果光线从下方照下来的话,一切就反过来了,凸的物体将会使其上部呈现阴影,凹的物体将会使其下部呈现阴影。因此同样的一副图片如果假设光线从下方照耀的话,原来看成凸的物体就应该看成凹的,原来看成凹的就应该看成凸的。

那么,回到我们的第一副图片,你能够看着第一副图片并假想光线从下方照下来,进而把原来凸的按钮看成凹的吗?事实证明这很难,但我们可以做一个等价的事情——将图片上下颠倒一下:考虑到我们总是假设光线从上方照耀以及按钮的上下对称性,颠倒原图就相当于对原来的图片而言假设光线从“下方”照上去了。

我们发现(上文第二张图),一旦颠倒图片之后,果然凹凸就换位了

这就是说,同一副图片其实有两种(乃至更多)可能的解释,取决于你的大脑到底假定光照来自下方还是上方。但为什么我们看上面两幅图片却不会出现“二义性”的错觉呢?因为在我们生存的环境中始终就有这么一个巨大的来自上方的光源——太阳,漫长的进化已经在我们的神经回路中刻下了“光源来自上方”这样一个强大的假设,所以虽然第一副图片本该完全有两种解释,我们还是不可避免地只看到其中的一种解释,即假设光线来自上方的解释,即使卯足了劲看也难以将凸的看成凹的,因为难以克服进化印刻在大脑中的“光线来自上方”的假设,因此为了让你看到“当光线来自下方时你会看到什么景象”我不得不将图片颠倒一下,结果你就看到原来凸的变成凹的了。

对于了解贝叶斯方法的同学,这个“光线来自上方”的假设就是先验(prior)的。

世界在我们眼中其实只是一张二维图片,由于引入了“光照来自上方”这个先验假设,便有了凸凹。否则,文中一开始那张图片中的“按钮”可以是凸的,也可以是凹的,也可以是一张平面的、故意捉弄你的眼睛的画。

最后,我们再来做一个实验,将原图转动90度:

ambi_no_ray

是不是发现凸凹感基本消失了?现在图片看上去更像是透过面板上的一些孔洞看背后的一张黑白条纹纸。前面提到,我们的大脑通过阴影来判断凸凹,在对阴影的“含义”进行推断的时候必须假定光照来自上方,而在这张竖着的图中,假设光照来自上方的话,那些阴影是没有意义的,因为不管凸还是凹,都不会形成这样的阴影,因此我们的大脑便无法判断凸凹了。(注:其实只要稍微把头往某个方向转一下就会看到凸凹了,并且,由于90度的偏角远小于上下颠倒,所以可能不少人还是能够在上图中看出凸凹感来的,只要想象光线来自左方或右方即可,比想象光线来自下方容易多了)。

也许这个实验对你来说过于简单,对于我们大脑中的“光线来自上方”的先验假设你还没有强烈的感觉。下面是一个更强的先验假设——人脸

我们的大脑有一个神经网络模块负责识别人脸,这也是一块硬编码的神经网络,也就是说我们天生就对任何(类似)人脸的图像敏感,所以随处都看到人脸,稍微类似人脸的图像就会被优先解释为人脸(用“手中拿着锤子,什么东西看上去都想钉子”的话来说,人脸模型就是我们的大脑在图像识别时的一柄黄金大锤):

jiong_small

(图片注:荣耀属于八卦@互联网)

当这种对人脸的强大先验假设在与“光线来自上方”假设产生冲突的时候,真正诡异的事情就出现了!

hollow_mask_illusion

这是卓别林的面具在旋转过程中的四个不同瞬间的截图,左上图是面具正面的正常图像,但右下角是从反面看的情形——这个时侯实际上面具是向内凹陷的面孔,但是我们的大脑欺骗了我们,让我们仍然看到凸的面孔,因为大脑的人脸识别模块对“脸是凸曲面”的先验假设轻易地打败了“光照来自上方”的假设。大脑的逻辑是这样的:如果假设光照来自上方,那么根据阴影来推断这就应该是一张凹陷的脸。但我们又知道所有的脸都是凸的,因此必须推翻光线来自上方的假定才能符合“事实”——当大脑中的两个假设相冲突的时候,更强硬的那个获胜。如果这不是一张人脸面具,我们便可以轻易地意识到是凹陷的了。

静态图片不够生动,下面是这个视频的动态旋转过程(看不到视频的话请直接转至youtube link | youku link

下面这个视频则很好地将上文提到的两个实验结合了起来(看不到视频的话请直接转至youtube link | youku link

如果你对这种先天印刻在大脑中的先验假设仍然有所怀疑,再来看看著名的诡异的Ames’ RoomAmes’ Window吧(看不到视频的话请直接转至youtube link #1, #2 | youku link):

(图片/视频注:荣耀属于Richard Gregory,以上视频皆可从那下载)

Ames’ Room的构造有点复杂,但Ames’ Window是很好造的。

在Ames’ Window和Ames’ Room中,由于我们假设屋子的框架和窗户的框架是平行的,从而会将视觉上平行的窗户看作是与我们相对平行放置的,而将视觉上扭曲(一头宽一头窄)的窗户看作是与我们相对垂直放置的(因为其一端离我们远去从而变小)。事实上我们在现实中正是通过物体大小的变化来判断远近的,这也正是透视法能够在平面纸张上创造出三维视觉效果的原理:

perspective_1

在上文的实验中,我们的大脑由于有“内建”的假设,所以轻而易举地将一些按钮无歧义地解释为凸或者凹(后面我们会看到,虽然先验假设帮助我们消解二义性,但先验知识恰恰也正是偏见的本质来源),我们不免要想:如果缺乏先验知识来消解二义性,会出现什么现象呢?

180px-Necker_cube.svg

这个是著名的Necker Cube,对它的三维解释是二义的。也许由于我们对平放的方块更熟悉(对图片来讲这是一个先验知识,因为它并不蕴含在图片本身携带的知识当中),更多的人会看到其中的一种解释(即“一个平放着的方块”),但其实还有一种解释也是完全可能的。如果引入“现实中平放着的方块更常见”这个先验假设,我们其实是无法在两种假设中选出一种的,两种可能性等同。事实上盯着图片久了之后这两种解释就会随机切换。

要消解二义性其实很简单,引入新的evidence(了解贝叶斯方法(《数学之美番外篇:平凡而又神奇的贝叶斯方法》)的同学对这个字眼应该很熟悉吧?):

necker_cubes_2

(图片注:荣耀属于wikipedia和Necker

我们的大脑会综合图片中所有的evidence,以及大脑中原本就有的先验假设,给出最可能的解释。但必须注意的是,如果按照统计学派的观点,应该让数据本身说话,不引入先验假设的话,二维图片就是二维图片,每种解释的可能性都是均等的,但如果考虑了先验假设,那么往往只有一种或几种可能性是靠谱的(plausible):

card2048-378x230

(图片注:荣耀属于Indexed

前一阵子互联网上流行的“看你是左脑还是右脑”的“旋转的女人”图片也是绝佳的例子(注:其实这跟左右脑毫无关系)(类似的多义性视觉错觉参见Multistable Perception):

rotating_girl

有人看到顺时针有人看到逆时针。但更多的人看到的是顺时针,正如Necker Cube中更多的人看到的是一个水平放置的方块一样。一种可能的解释是我们对顺时针旋转更为熟悉(先验假设)。

但是如果我们给图片加上一些新的evidence,就会发现变化出现了:

rotating_girl_clockwise

rotating_girl_counterclockwise

(图片注:荣耀属于Nobuyuki Kayahara八卦的wikipedia,以及台大心理系陈建中副教授的解释

像前面的加上了新的evidence之后的Necker Cube一样,通过对图中旋转的女人的剪影添加轮廓线索,强烈提示了目前这个瞬间到底是正面还是反面。通过这个提示,大脑正确的对二义性进行了消解。

其实,说到底一张二维图片就是一张二维图片(外界物体反射的光线投射到我们的视网膜上也只是留下二维的剪影),其三维解释有N种(甚至无数种),但为什么绝大多数情况下我们的大脑能够一下就锁定在其中的一种可能性解释上呢?皆因我们的大脑对生成这张图片(特别是图片中的阴影)的环境参数有一些先验的假设(如前面提到的“光照来自上方”、“脸是凸曲面——严格来说,鼻子是凸的”)(注意,这些先验假设并不蕴含在图片中,而是我们在长期生活中无意识统计出来的,或者干脆就是漫长的进化过程筛选出来的有价值的先验假设——正如婴儿天生在吃奶期就懂得吮吸一样。)

我们再来回顾一个经典的视觉现象——色彩恒常性(Color Constancy)。我们已经知道,同一个物体,在不同光照条件下我们知觉到它的颜色是基本不变的。一个青苹果在日挂头顶的中午的白炽光线下看上去是青的,在斜阳西下暗红色的光照下是青的,在清晨淡蓝色的雾霭中还是青的。你可能觉得这很正常,青的本来就是青的,有什么好奇怪的。但问题是如果将我们的眼球换成一个光线接收器,从而客观记录下从苹果表面反射出来的光线的RGB值(红、绿、蓝三色的比例),会发现在不同环境光照条件下,实际从苹果表面反射出来的光线差异是很大的;例如环境光只有长波(红色)的话,那么不管苹果表面的反射比如何,反射出来的光也只能是长波,但为什么我们看起来仍还是青色的呢?

如果我们在一个封闭的箱子中放置一张白纸,让观察者透过暗箱上的一个孔洞来观察这张白纸。那么当我们在箱子内用黄光照的时候,观察者会看到黄纸,用红光照的时候会看到红纸。但如果打开箱子,则不管用什么光照,我们看到的还是白纸。

为什么会出现这种现象?目前为止已经有了一个理论解释框架:尽管同一物体在不同光照条件下反射的光线差异很大,即视网膜接收到的光线差异很大,但视觉皮层对视网膜接收到的光线又进行了一层处理,这层处理就是从视网膜接收到的光线中“抽取”出物体的“真实颜色”。但我们的神经回路如何计算目前还并不最终明确,但有靠谱的逼近算法(被称为retinex algorithm),其中一个简洁的版本是这样的:假设目标物体周围的邻近环境中存在完全反射光线中的绿光成分的物体、也存在完全反射光线中的红光成分的物体、也存在完全反射光线中的蓝光成分的物体,那么只要将眼睛采集到的环境光线中最强的绿光成分Gmax,最强的红光成分Rmax,最强的蓝光成分Bmax分别记录下来,然后算一下目标物体所反射的光线的RGB对(Rmax,Gmax,Bmax)的比例即可

这里,再一次,我们的大脑从一个具有多义性的信息源中抽取出了一种最靠谱的解释。从物体表面反射出来的光线并不能唯一确定物体的反射比,一个方程无法解出两个未知数(光照、反射比)。但我们的大脑仍然还是聪明地利用了环境中的evidence,靠谱地解决了这个问题。

然而,接下来的才是我真正想说的,在刚才提到的算法中,一个先验假设是“目标物体周围的邻近环境中存在完全反射光线中的绿光成分的物体…”,问题是如果这个假设不满足呢?戏剧性的错觉就出现了,见下图:

magic_cube_illusion

(图片注:荣耀属于Mauro Vecchi,这是从一个精美的视觉错觉视频中摘取出来的画面,完整版参见这里。)

图中白线所指的两个小方块的颜色一样吗?如果你觉得不一样的话,不妨用软件把这两个色块的像素摘取出来对比一下。(注:这里还有一个关于Color Constancy的不错的视频:多亏色彩恒常性,多彩世界不混乱,或如下)(注:色彩恒常性只是我们体验到的一系列主观知觉恒常性中的一种)(看不到视频的话请直接转至youtube link | youku link

以上这些错觉与实际生活多少有点脱离,但我打赌以下这个现象每个人都看到过——只要你去过理发店,因为这个错觉也被叫做(理发店门口的)“旋转彩柱错觉”:

Barberpole_illusion_animated

Aperture_problem_animated

(图片注:荣耀属于wikipedia

透过条柱看到的黑白条块在往下移动,而透过孔隙看到的黑白条块则往右下方移动。然而,实际上孔隙背后的黑白条纹纸可能正在往下移动,也可能往左移动,实际上其移动的角度有无穷多种可能,为什么我们的大脑只看到了一种可能?具体解释可以参照Barberpole illusion条目

我们的视觉系统通过大量的先验假设来解释投射到我们视网膜上的二维图像,从中推断出三维结构,类似的例子还有:Kinetic Effect, Aerial Perspective, Parallax Scrolling, 等等。视觉系统感知到的三维图像只是我们的大脑给我们玩的一个小把戏,或者,严格来说,一系列小把戏之一。

在一般人看来,视觉错觉只是拿来哄MM开心的小伎俩,是魔术师的小把戏,“不登大雅之堂”,然而在心理学家和认知神经科学家们眼里,视觉错觉是一个迷人的研究领域,是研究人脑如何处理信息的窗口正如数学家们透过悖论对数学的奥秘一窥端倪,心理学家们也在透过形形色色的错觉现象探索大脑对信息的处理机制。一篇严谨而不失趣味的论文可以参考“Perceiving the Present and a Systematization of Illusions(PDF)”)

以上这些错觉现象实质上揭示了一个深刻的原理,这个原理不仅适用于视觉现象,同样适用于其他心理现象:我们的大脑从外界接受到的信息其实是满含着歧义的,单单从这些信息本身来看,我们应该感到无所适从才是,然而我们的大脑几乎每次都能够从富含歧义的信息中找出最靠谱的解释,作出无比牛B的点估计,这得益于漫长的进化过程,以及我们平常生活中积累的大量先验假设,然而,接下来我们要说到,这些先验假设是双刃剑,其锋刃的另一面就是我们常说的“偏见”

《Probability Theory, the Logic of Science》上讲了这么一个故事:

一个月黑风高的夜晚,你是一位警察,在一条荒无人烟的街上巡逻,忽然听到入室盗窃自动警报,你转头望去,发现街对面的珠宝店的玻璃窗户破了个大洞,一个蒙面的家伙背着一个鼓鼓囊囊的的包正从窗户中爬出来,此时,你一定毫不迟疑地断定这个人就是强盗。你是怎么推断的呢?

《疯狂的赛车》里,耿浩到庙里取了骨灰,一出门看到几个黑社会老大模样的家伙,以为是殡仪馆的人,而对方却以为耿浩是杀了泰国佬的地头蛇,并把耿浩手里的骨灰盒当成了藏毒品的工具,还一通佩服,结果一桩阴差阳错的生意就做成了。他们又是怎么推断的呢?

正如以前听过的一句话所说:对于日常生活中的事件,总有一个平凡的解释,和一个疯狂的解释。

例一中的那个背着包的人可能是珠宝店的老板,从假面舞会回来,身上没带钥匙,当他走过自己的珠宝店的时候,一辆卡车呼啸而过,轧飞的石子把他的珠宝店窗玻璃打碎了,为了保护他自己的珠宝,他只能进去把珠宝收起来带走。

至于《疯狂的赛车》,另一种解释不用我说了。

TopLanguage上的一位朋友li kai讲了这么一个故事:

我有个朋友前些日子刚结完婚,这里有一个故事。他本身并不富裕,因此呢,就跟媳妇商量,咱能不能一切从简,什么三金,(就是金项链、金戒指、金耳环)也就都免了吧,媳妇说这是家里规矩,不能同意,这边老丈人当然就更不同意了,非逼着我这穷哥们买三金,给一万元礼钱。

最后,没办法,我这朋友东挪西借把东西弄齐了,婚礼上,老丈人也给新郎一个红包,可我这哥们却始终憋着一股气,接过来之后终于没按耐住,爆发了,你猜怎么?他把红包给撕了扔地上,后来大家就劝他别这样,结婚呢,好不容易安抚下来,有人就说,你把彩礼捡起来吧,看看到底给你多少钱,结果他捡起来一看,是一张存折,上面显示有十万元存款。

原来老丈人并不是想要从男方家捞什么钱,只不过就是认为按照自家风俗这些时必须的,否则女儿嫁的太不风光了。仅此而已。

故事中的这位朋友又是怎么推断的呢?他所得到的信息仅仅是他的丈人坚持要他给礼钱,他并没有得到关于丈人这么做的意图的信息。丈人的意图只是他自己的推断,他对丈人意图的推断只是一种可能性,并非唯一的可能性。然而他仍然还是不可避免地陷入了对自己推断的过分信任的陷阱,一旦脆弱的自尊被触发,接踵而来的便是一连串情绪化的、自动化的行为(仿佛汽车挂上了自动挡)

想一想生活中有多少误解是由于自以为是地对别人的意图的误读而导致的呢?

我们总是混淆“事实”和“推断”尤其是当我们对推断的确信度很高的时候,或者某种推断对我们有利的时候,或者当这个推断源于大脑天生的偏见的时候,例如,将关联误当做因果就是我们的认知死穴之一:

correlation

(图片注:荣耀属于xkcd

松鼠会的新书发布的时候,姬十三发布了一个页面作了简介,我跳转过去浏览了一下,看到介绍的结尾跟着一段话:

作者简介
姬十三
姬十三,神经生物学博士,供职于美商百科网站博闻网(http://www.bowenwang.com.cn)。为《新发现》、《外滩画报》、《时尚健康》等报刊撰写科学专栏。个人博客是:http://jshisan.yculblog.com

我就感到奇怪,《当彩色的声音尝起来是甜的》是松鼠会诸多作者的作品合集,为什么这里作者简介只写姬十三呢?我想当然地把这里的作者简介当作了是新书的作者简介,我心想:那难道还有什么可能呢?(这同样也是我们的认知偏差之一——把“想不出其他可能”当做“没有其他可能”)。然而老婆又适时地泼来一盘冷水(我为什么要说又呢?):这里的作者简介难道不可能是这篇博文的作者简介?我一想,也是啊。要证伪我原来的假设很简单,翻开另一篇博文就知道了。于是我随便打开松鼠会网站上的另一篇博文,果然这里的作者简介是博文的作者简介,而非(我原来所猜测的)新书的作者简介。

但是,关键是,原先我并不知道松鼠会的博文有这么一段作者简介,因而就我原来所持有的知识而言,我作出的推断是唯一靠谱的,这也是为什么我感到如此确信的原因之一。而且,由于我不知道松鼠会的博文有这么一段作者简介,因而我根本无法看到或设想另一种可能性。既然想不到另一种可能性,又怎么可能有机会去证伪我的猜测呢当知识有硬性局限的时候,就算持有Open Mind甚至也是不够的

inf_universe

(图片注:荣耀归于Matrix67

古罗马哲学家Lucretius认为,宇宙是无限的。让我们来看一看他的经典论证。假设宇宙是有限的。我们往宇宙的边界投掷一根标枪。则我们将看到以下两种情况之一:这根标枪穿过边界飞向远方,这说明宇宙并无边界,它是无限的;或者这根标枪一头装上宇宙边界停了下来,这说明边界外“有东西”挡住了标枪,同样说明宇宙是无界的。(来自Matrix67

我想说的是,在我们的知识体系里面还不存在“有限无界”这个概念的时候,上面的推理真的很滑稽吗?我们现在的知识体系和古希腊相比固然得到了极大的进步,但是我们真的变得更“聪明”了吗?要知道推理的引擎(演绎和归纳)几十万年来却并没有变化,我们只是站在巨人(数千年知识的积累)的肩膀上,但这个巨人的高度并不属于我们自己,我们有什么理由五十步笑百步呢?

我们太可能因为受到知识的局限性而对事物的看法产生无法消除的偏见,有时候打破这种偏见的唯一途径就是开阔视野,多积累知识,以及和具有不同知识背景的人讨论,否则就算抱着“我可能是错的”这种信念,你也不知道怎么去证伪自己的一个猜测。

关于我们大脑中的先验假设能够对我们的日常推理和记忆造成多大的影响,有这样一个经典的实验:

1981年,两位心理学家Brewer和Treyens作了这么一个实验:

召集一些人,告知他们将会参加一项学术研究计划,实验者先带领他们来到一间办公室,让他们稍加等候,一段时间之后,叫他们出来,并询问他们记得办公室里面有哪些东西。一些人声称看到了书,然而实际上办公室里面根本没有书。

这里的原理是显而易见的,我们期望在一个学术机构的办公室里面看到典型的事物——书。当我们的直接记忆并不深刻或者我们当时等候的时候并没有刻意留心屋子内的摆设和物品时,我们会依靠之前生活中积累出来的先验假设进行推理,填充记忆的模糊或空白。关于虚假记忆的研究也表明,我们的记忆并不像电脑的存储设施那样,忠实记录,然后忠实读取,而是在记录和读取的时候都是相当程度上“构建性”的,而构建所用的“素材”则是我们之前在生活中积累出来的经验。这也是为什么同一个故事经不同的人口口相传之后会出现形形色色的版本的原因。

— 以下对了解机器学习的geeks插播一段八卦 —

对基于统计(特别地,基于贝叶斯)的垃圾邮件过滤的基本机制有所了解的同学应当知道,在判别公式里面有两项分别是P(S)和P(H),分别代表一封邮件是垃圾邮件和非垃圾邮件的(先验)概率,一项统计表明现实世界中这个比例是8/2,即80%的邮件是垃圾邮件。这个就是过滤器眼中的世界,“八成的人都是坏人”,这个就是过滤器的“偏见”,或者“先验假设”,来一封邮件不管三七二十一首先作一个最坏的打算。正如机器学习方法的偏见来源于训练数据集,我们头脑中的偏见也来源于我们大脑中神经网络的训练数据集——现实生活。

由于8/2的比例并非时间无关的稳定比例,或者其他什么原因(如保守起见),目前大多数贝叶斯垃圾过滤系统实际上将这个比例设为5/5,表示“无偏见”,不设先验。这就基本上将贝叶斯这个词扔掉了。但我个人觉得这并不能称为“无偏见”,如果现实就是“有偏”的,保持公平也是一种偏见,这让我忍不住想起P. Norvig讲的关于人工智能鼻祖Minsky的一则轶事

In the days when Sussman was a novice, Minsky once came to him as he sat hacking at the PDP-6.
"What are you doing?", asked Minsky.
"I am training a randomly wired neural net to play Tic-Tac-Toe," Sussman replied.
"Why is the net wired randomly?", asked Minsky.
"I do not want it to have any preconceptions of how to play", Sussman said.
Minsky shut his eyes.
"Why do you close your eyes?", Sussman asked his teacher.
"So that the room will be empty."
At that moment, Sussman was enlightened.

根据P. Norvig的说法,Minsky是想告诉Sussman一个随机赋值的神经网络也是有模型(或偏见的),只是这很可能是一个极其复杂的模型,我们无法理解。你蒙上眼睛不代表这个屋子不存在,你不知道随机神经网络的模型是什么不代表它不存在。

但我忍不住YY了一把另一种解释:如果现实世界背后的模型本来就是“有偏”的,假装不引入“偏见”本身就是“偏见”。只不过我们所观察到的现实世界纷繁的表象往往只是一个局部有偏样本,导致我们看上去随机抽取的数据其实还是有偏的,如果我们蒙上眼睛骗自己说这就是真正随机的抽样,那么训练出来的模型肯定也是有偏的,为了补偿这种偏差我们有时候宁可扔掉从训练数据中得到的某些概率,这种方法往往导致长期来讲更靠谱(严格来说这里的术语是robust :P)的模型,尤其是在金融市场上,小聪明的人从短期趋势数据上自以为得到了靠谱的模型,把太多的赌注放在了一个建立在因在时间维度上没有随机采样而很可能有偏的数据集上得到的模型上,而真正智慧的玩家则会建议普通人最佳投资方法是无偏见地平均分配资金,避免因模型错误而导致的灾难,这一平均分配的极端形式就是——投资指数。

— 八卦结束,回归正文 —

最后再来一个例子,生动地说明了我们在平常生活中积累的偏见有多深:

问题:现在有两个孩子,张森和李梅,其中一个孩子有四个卡车玩具,你认为是谁?

问题:莉莉和丁丁谁将来更可能成为护士?

(注:荣耀仍属于Frith。以上问题演绎自《Making Up the Mind》p168页的英文版本)

尽管我们只拥有他们的名字,名字本身只是任意的汉字,自身并不携带信息(从一个角度来说),但就连三岁的小孩也能对这两个问题给出“靠谱”的答案。

当然我们也可以说偏见代表着长期积累的生活经验,能够使我们事先就对未知对象的属性进行靠谱的预测,但另一方面,偏见也很可能成为自我实现的预言和自我妨碍的篱笆:女孩和男孩的数学智商真的有显著差异吗?但受文化影响,女孩认为自己更不擅长数学和理科,这个自我信念从两个角度产生作用,第一,它会让女生倾向于投入更少地时间在理科上,从而导致更低的理科成绩,结果进一步强化了她的“我的数学不好”的信念。这几乎是一个死循环。第二,人们为了维护对自我的信念,会拒绝接受与之相反的信息,如果那一次她数学考得不错,她会寻找外部理由,譬如“只是凑巧罢了”,虽然这种把自己看低的心理过程有点不可思议,但这的确是心理学家们实验证实的结果

在社会文化方面,人们常用“仁者见仁、智者见智”这个俗语来指代三种现象:

1) 偏见:不同的人戴着不同的有色眼镜,对同一现象产生不同的理解或解释。是平凡的解释还是阴谋论的解释?存乎一心。

2) 立场:例如对于“生活的意义”没有统一的标准公理,因此每种生活都是合理的,各人可以持有不同的价值观,优化不同的目标函数。

3) 选择性关注:对于同一事物,不同的人关注的点不一样,象有四腿,各摸一条。

与“仁者见仁、智者见智”这个俗语的褒义色彩相反,这里除了第二点是中性的之外,另外两点都不能算是好事,譬如程序员在做项目的时候经常只选择性地关注“使用的技术是否有意思,是否有挑战性,是否好玩,我能否从中得到乐趣,是否能学到新东西”,而并不是关注最应该关注的“如何以最小成本达成项目成功”。至于第一点——偏见——就不用多说了,前文已经说得够多了。如果还觉得不够的,不妨读一读社会心理学经典之作《社会性动物》的冲突和偏见部分。

偏见在我们解决问题、认识世界的过程中都起到了很大的影响,并且很多时候是不好的影响。因此,让我们经常和具有不同信念和知识背景的人讨论,弥补个人经验知识的局限性导致的偏差,并时常使用以下这句话来提醒自己keep an open mind吧:

“这只是一种解释(可能),未必是唯一的解释(可能)。(想不出其他解释不代表就不存在其他解释)。”

 

延伸阅读

见文中大量外链。

《逃出你的肖申克》是一个系列,第一篇见:逃出你的肖申克(一):为什么一定要亲身经历了之后才能明白?

177 Comments

  1. Laurisa-美研 | | Reply

    逃不出的偏见

  2. EbAy | | Reply

    [闪闪绿] 认真学习一下

  3. tk | | Reply

    没有绝对的真实,一切都是矛盾对立的存在

  4. 桃桃 | | Reply

    楼主写的清楚多了,当初看《心智的构建》中文版,痛苦死了,完全不知所云。

  5. 桃桃 | | Reply

    可悲就是情绪问题了,用理性控制住他。哈哈。

  6. 胡颖杰 | | Reply

    你说的没错

  7. 光火点燃 | | Reply

    太厉害了,让人毁三观到想吐!!!膜拜!~!

  8. 血虃修罗 | | Reply

    挺有意思的,马克一下明天上机看

  9. shaojuan_forever | | Reply

    强大的博文~!先验知识确实给人的生活带来了不小的影响,因为偏见而产生了种种不正确的推理。需当开阔视野,将思维定势中的不存在性变为可能性,这样才能对事物作出更好地判断。

  10. 学大学网 | | Reply

    网络中流行的视觉错觉图,这篇文章给与了很明晰的解释。

  11. 肖星池 | | Reply

    看到的太晚了,不过这么经典,虽然在四年之后了,还是冒个泡~

  12. Saturn5 | | Reply

    如果好好利用,这人脑也太好骗了……

  13. 小林唯 | | Reply

    从环形山视错觉找到这里,此文甚好。

  14. 蒙面超人23 | | Reply

    眼见为实?眼见其实未必为实!我们看待这个世界常带着有色眼镜,因此是是非非,谁分得清楚?我们判断一件事情时经常加入自己的主观意识,自己认为怎样就是怎样,根本没有倾听别人的意见,其实事情的背后可能隐藏着不为人知的另一面。凡事都具有两面性,不说不代表不知道,不知道不代表没有,没有不代表不存在。另外,心中有什么,看到的便是什么,何不理性的看待事情呢?放下屠刀,立地成佛~

  15. Orientaqua | | Reply

    博主文章太有质量了,喜欢!不知道您平时有没看佛法的书籍,建议接触一下,应该会让您的思维更开阔,更透彻。

  16. 熊刚 | | Reply

    胜读10年书! 转

  17. CJ | | Reply

    其实我觉得第一个图片效果不太好。因为我看上去始终觉得六个都是凸的,不管横的竖的。要经过大脑提醒后,才试图勉强将其中一个判断成凹的。

  18. 请问 | | Reply

    我还是觉得,所谓“先入为主”不能完全和“偏见”等同,而且“偏见”这个名词本身就极易引起“偏见”。我们身上的“硬件”和“预设算法”是大自然生存测试中选拔出来的相对最高效最经济最KISS的设计,这些设备的设计理念是为了实现让我们生存下去的目的。只有当我们处于一个我们的先验纠错算法会把对的纠成错的的处境时,所谓的“偏见”才会形成。并且更加关键的是,我们能知道你偏见的产生一定是因为我们拥有异常处理的方法。如果我们无法认识到在某些情况下偏见会形成,那么“偏见”这个词就根本不会出现。进一步考虑,我们何以获得异常处理的方法?当然是只有当异常发生的时候才会对这个神经网络重新训练。为什么我们的先验知识中并没包含异常处理部分?因为所谓“异常”就是不容易遇到的情况,并且正常只有一种,而不正常会有无数种。因此我们的设计中包含了当异常发生时的学习机制,但是并没有包含一个异常模式库,所以确实是一个minimal的设计。

  19. KANGOD | | Reply

    不过在现实生活中先验假设正确的时候多,实在需要谨慎的时候再想着有这么回事就OK了。

  20. xx | | Reply

    为了避免 偏见 这样的 “贬义词”, 改为见解即可。这偏见不算是有害的,它其实正是生存的需要,因为其实每个人只是生存一个有限的时间段,并不总需要完全无偏永恒正确的真理,也不可能永远是有创造力。

  21. ZY | | Reply

    你不能想的太复杂深刻了,或许过程中的一些细节也是很有意思的。如果每个人活着都天天思考怎样能活得精彩而不可悲,那实质上就是可悲。

  22. ZY | | Reply

    老兄这话是对的。每个刚来到这个世界上的人都会受到很多因素包括自身因素而形成对一些事物的偏见。但是博主这样论证每个人都有偏见主要还是希望每个人能在看事物时能全面些,丢弃一些不好的偏见。可能我说的话也有偏见吧,呵呵…

  23. 忍者神龟 | | Reply

    老兄这话是对的。每个刚来到这个世界上的人都会受到很多因素包括自身因素而形成对一些事物的偏见。但是博主这样论证每个人都有偏见主要还是希望每个人能在看事物时能全面些,丢弃一些不好的偏见。可能我说的话也有偏见吧,呵呵…

  24. 忍者神龟 | | Reply

    老兄这话是对的。每个刚来到这个世界上的人都会受到很多因素包括自身因素而形成对一些事物的偏见。但是博主这样论证每个人都有偏见主要还是希望每个人能在看事物时能全面些,丢弃一些不好的偏见。可能我说的话也有偏见吧,呵呵…

  25. 初学者 | | Reply

    从第一篇开始看,就发现————英语水平好差劲呢~~看来还是得看了英语,才能知道这文章的意思啊^_^,嘎嘎

  26. patrickjun | | Reply

    如果结合神经生物学来解释楼主的博文,我认为通过这些心理学的实验,可以更好地揭示神经系统的工作性质以及特点,作为人脑的三大独一无二的特性:抽象律、记忆律、反应律,人类的感觉器官以及其后的外围以及中枢神经系统都在忠实地旅行着他们的这一职责,世界原本就是丰富多彩的,而神经系统经过亿万年的进化,其最终目的也是为了让生物能够更好的适应这个世界,进化的过程就是不断的选择过程,选择更有利于生物体生存下去的生理结构,并同时退化掉不合时宜的结构,而在人类的身上,虽然感官以及依附于其后的低级神经结构会为更高级的神经结构带来错觉以及偏见,但是他们也同样是保证我们能够更迅速响应外界的保证,我们的神经系统的计算过程是并行的,举个例子而言,在我们的眼睛看到前述的实验图或者动画的时候,视网膜以及后续一系列的视神经系统就已经开始忙碌,对光线强度敏感的、对颜色敏感的细胞以及对运动敏感的神经结构等等都分别开始执行着自己的辨别以及处理过程,并不断向大脑传递他们的结果,或者说这些神经系统根据已有的经验(有偏的)来做出甄选并尽可能用最快的速度向上级反馈甄选的结果,不过尽管这些信息可能是有偏的,但是其对影响我们大脑最终做出响应决策的作用是有限的,想像一下,当你戴上3D眼镜去看一部立体电影,面对影片中向你飞来的利箭你明知是虚幻的,但是你还是在你的大脑的选择下有意识地要去躲避,这或许是解释我们的神经系统为什么需要有偏的合格理由,避免有偏是需要代价的(时间),而我们的生存环境未必会给予我们想要的,总之不要灰心,尽管有些实验可以骗过我们的感官以及大脑一时,但是不可能骗过一世,你我的大脑同样存在仔细甄别异常的能力,也就是怀疑感官信息的能力,一旦我们发现所看和所见与以往的经验常识有悖,大脑会驱使我们进行更进一步的观察以及思考和研究,这或许是好奇心的来源吧。

  27. tmhan | | Reply

    请教一个关于色彩恒常性的问题,为什么在封闭小箱中黄光照射下 白纸成黄色,而在开放环境中无论什么光白纸都成白色 。
    我的疑问是 既然色彩恒常,那黄光下也应白色啊。
    我的猜测是 根据文中所说retinex algorithm 色彩恒常是有条件的 这个条件是环境中必须有RGB三种颜色能射到眼中 不知道 对不对

  28. 枫之痕 | | Reply

    我们的推论、信念和行动都是建立在有限的信息中(事实、数据、样本)的,所以如果认识到每个人的人生的信息量是从0到N的过程(在信息不断充实的情况下不断抛弃偏见),那么就可以感到欣慰了。

  29. frank | | Reply

    个人认为,很多人都对这篇文章产生了偏见,我觉得博主的意思就是让大家在做决策的时候不要太相信自己的主观判断,其实道理很简单,并且许多人都已经应用的很好。

    例如三权分立制度的存在一方面是为了消除特权,另一方面也是为了消除一些人主观的错误判断带来不好的后果。另外很多成功的人都是非常善于倾听他人想法的,例如李嘉诚就说过:当我要做一个重大决策时,我会找一些董事会的成员,听取他们的意见,在和我自己的想法印证,当我确认可行性很高时才会去执行。

    这篇文章之所以如此热议主要是因为博主引用了大量的例子来证明这个简单的观点。

  30. 暖暖 | | Reply

    我对于“偏见”的认识:

    1、从“看山不是山”到“看山还是山”:“偏见”并不可怕,如果因为恐惧它而陷入“不可知论”,甚至徒增烦恼的话,也许是多余的。

    2、凡事都要“一分为二”。对“偏见”也不能抱有太多“偏见”。它虽然有缺陷,也给我们带来了便捷。我们既不能只途便捷而忽略缺陷,也不能执于缺陷而走火入魔。

    3、如何区分“偏见”给我们带来的便利和阻碍,将便利“发扬光大”,将“阻碍”小心破除,是需要智慧的。

    4、需要克服的“偏见”:
    1)来自于外界的:社会环境(如性别偏见);家庭环境(父母对于孩子潜移默化的作用可以影响一生,有积极的也有消极的);周围的朋友等。想起来李笑来老师说的一句话,“别人说什么你都信,其实挺傻的”。想想看,那些外来的偏见扰乱了你的生活,抢走了你的“幸福”,把它们的嘴脸好好认清吧。因此,可以这么说,幸福是学来的。

    2)来自于内心的:如果说我们生来是一张白纸,其实内心的偏见也是从外界一点点渗透并固化的。就像刘未鹏老师所说,我们需要常常提醒自己,“这只是一种解释,并不是唯一的解释,我没有想到其他解释并不代表它们不存在”。保持一颗宽容和开放的心灵,你在每一天都会因为新的发现而产生“震荡”,“高潮啊、高潮,迭起啊”,我们的天地将会加倍般地宽广。

  31. Neocortex | | Reply

    不要因為事物的成見而排斥,因為如果你是錯的就會失去;
    花點時間去了解事物的本質,才能有機會看到世界的美麗。

    • Neocortex | | Reply

      …不要問為什麼重複,我也很悶

  32. spray gun | | Reply

    光线和角度是影响视觉的因素。

  33. sav2005 | | Reply

    谋杀了我一下午时间没干活,净看博主好文了。

  34. joey | | Reply

    对不起,不知道您的联系方式只有发送到这些文章的回复中了,期望您能够看得到。老师,求求您了,您多一点耐心把这里的看完吧,我真的不知道该怎么办。我的情况是这样的,现在刚满17岁,因为之前读初中的时候一些其他因素没有上普通高中,而是去了一所职业高中,但是在高二的时候跑到了一个培训班去,培训的同时是在接受成人教育,毕业有个成教专科毕业证。现在上到CSDN的一些论坛上发现文凭的重要性质,如果是专科文凭的话工作不仅不好找,而且没有系统的学习过计算机知识(数学也不好)也不会有太大的发展潜力。
    现在有两条路可以走,一重新回去读普通高中,因为才17岁。
    二 继续读成教,在以后工作中花费更多的努力去参加自考(也不确信能够坚持下来。),来弥补自己的文凭上的欠缺,可以系统学习与计算机相关的知识为今后的发展打下更好的基础。
    大概就是这样了,请老师指点一下吧,或者您有更好的办法。我真的感到无所适从,没有办法了才来打搅老师您的。
    因为不知道如何得知老师您的回复,可不可以将回复发送到wangyuTAT@163.com。感谢老师。

  35. 则道 | | Reply

    那个女人转圈和左右脑还是有点关系的,如果你眼睛往右斜视一会再看那她会往顺时针,往左则相反。

    • 则道 | | Reply

      更正一下,往左上或右上斜视效果更好

  36. soso | | Reply

    我们一直生活在一种以自我为中心轴的转轴生活中,太过于相信自我。

  37. 西乔 | | Reply

    查资料查到这来了。好久没看见你冒泡了。啥时出来聚会吧。我们快离开北京了。

  38. 西乔 | | Reply

    耶,突然发现,讲视觉错觉居然没有提Gestalt 格式塔

  39. Betty | | Reply

    我也用软件测了魔方的色彩值,确实不一样,一个是663f00,一个是673e00,看起来很接近就是了。受过训练的画家也许可以看到真实的色彩,而不是被大脑修正过的刻板的色彩印象。想成为真正的画家,这个能力大概是必须的吧。美术书里是这么说的,不过我是做不到啦。

    那个不同光线下纸的颜色的说法,好像有点以偏概全吧。经常有在红光下把白纸看成红纸、在昏暗的灯光下把蓝衣服看成黑衣服的情况啊,并不是每次都能看出本来颜色的。其实我觉得偏色才是很常见的,经常网购的人应该有体会吧(因为网购只能看照片,经常拿到实物发现和照片颜色不一样)。

    关于评论中提到的那个黑色圆盘实验:
    “将新生儿面前放一个大屏幕,屏幕上画一个黑色小圆盘,然后黑色小圆盘突然变大,婴儿立刻产生闪避和自我保护的反应,比如眨眼,肌肉挛缩等。显然他对物体的大小和他自己与物体的远近产生了关联。”
    又黑又大的东西本身就会更可怕一些,所以婴儿就产生自我保护反应,为什么要跟物体远近扯上关系?仅靠大小就可以解释了。扯上远近违背了奥卡姆剃刀原理吧。

  40. camel | | Reply

    推荐上网搜索《关于这个世界你知道个X》影片看看。

  41. zhanghaizzz | | Reply

    其实我觉得偏见可以是个中性词。
    没有偏见的人是不存在的。人们利用偏见(某种理论模型)来理解世界,这是一种有效的方案。不存偏见的看问题,就意味着面向无数的可能性,提高了生存的成本,不经济。
    知识丰富的人,具有多种理论模型之眼,看似偏见较少,但绝对没有偏见的人是不存于世的。
    缺乏知识的人,必须从各种偏见开始学习。
    偏见没啥不好的,偏见就是知识。在实践后,你可以把一些知识贴上偏见的标签,留待下次再用。

  42. cppgohan | | Reply

    再次来看发现视频本土化了,感谢pongba为我们墙内人士重传视频

  43. 小毅 | | Reply

    经典的很啊,佩服啊,实在厉害啊。牛

  44. co63 | | Reply

    “从一个朦朦胧胧的角度解释和从现代科学的“可观察、可度量、可重现”等标准下的深入客观解释……”
    粗糙的东西可不一定逊于看上去精确的。再牛叉的论文也是写在普通的纸上,难道说相对论是用天书写的?
    觉得无论粗糙还是精良,自身成了一定的体系后都会有力量

    • 刘未鹏 | | Reply

      感谢Kuan,很有意思的研究! 🙂

      • kuan | | Reply

        是啊!
        我记得镰刀型细胞贫血病患者对疟疾的抵抗力比正常人高很多。
        或许在某些领域内,神经分裂症患者也能给我们带来意想不到的突破。

  45. 新品种 | | Reply

    博主能否帮忙找到关于声音的主观感觉,关于声音,特别是人类发音跟心理学,跟说服力方面的文章,谢谢!

    • 刘未鹏 | | Reply

      这方面尚未看过什么资料。你不妨去wikipedia上搜搜看相关条目。

  46. 大头阿当 | | Reply

    文中魔方的色彩例子完全不能说明问题。原因在于,这两个点的色彩根本不同。我用gcolor2屏幕取色看到,上面的色彩值是#673E00,而侧面的色彩值是#6A3D00,这两个颜色的诧异不大,但是肉眼还是能看出来区别的,即使是用这两个色彩涂色在一个平面上也是能看出来的。

    • 刘未鹏 | | Reply

      谢谢Adam指出,我拿出原视频重新截了一下图,这两个色块的颜色的确有细微的差别(原来我是剪切了放在同样背景下肉眼看的,没看出来)。不过原图想证明的论点还是成立的,这两个方块单独取出来放在同样背景下看,差别很细微。但放在图中的魔方中,差别就大得多了。理论可以参见 wikipedia color consistancy 条目,上面还有更多的例子。这个illusion来自的视频集锦( http://www.youtube.com/watch?v=bOP37A1EhEs )中也有跟多的例子。

      • 大头阿当 | | Reply

        谢谢pongba的回复。恩,的确理论是正确的。在魔方的图片中看到的侧面色彩比正面色彩感觉上亮度要高。色相也是不同的。但其实这两个色彩差别非常小。当时我只是想验证一下这两个颜色是一致的,就用屏幕取色看了一下,发现了一些小问题。有些吹毛求疵了,哈哈哈

  47. 新品种 | | Reply

    关于偏见,中国的婆媳关系“文化”,也可以看成是偏见的一个普遍实例

  48. resteven | | Reply

    你的博客很不错,思想无界,能否交换链接,我的:商业哲学评论

    • 刘未鹏 | | Reply

      谢谢啊,回头细看 🙂

  49. emma | | Reply

    因为这篇文章,让我对“偏见”有了新的认识,对于自己以前一些偏激的行为有了解释(我总是会将自己的解释和理解强加于别人身上,并且笃定认为就是这样的,由此产生自己心情郁闷,而别人又对我的郁闷不解,),感谢未鹏!向你学习~

  50. jununfly | | Reply

    So long time per topic with wonderful ideas , maybe some of them need some days to understand for me.
    相当同意“思维自我设限”说,意识总是能动的,因此个人所谓的正误两方面仅仅是自己的观点,即使志同道合的俩朋友,看待都赞同的观点时,也只是某种程度上的宏观一致,而非完全一致。这种无所不在的差异性取决于个体的差异性(形成就不废话了)。
    而楼主以前说到的更期望一些书做到“思考和演绎过程的再现”而非“结果的再现”,两者实现起来,如同上例:前者从本质上讲难以达到完全再现,即使书中的文字再客观,也会因个体差异性而“扭曲”了作者本来的“思考和演绎过程”,效果未知。而后者相对来说就简单且适于_教化众人和吸引同道_了,原因是某种程度上的一致很好达成而完全一致简直天方夜谭。尤其开创或者说发现某种理论的先哲们,需要的不是驳倒所有人,而是得到认同,所以亲自写或代笔的文字记录自然主要由抽象后的“结果的再现”组成。当然只是说说,本段讨论更像钻牛角尖,只是看了许久你的文字忍不住冒个泡。

  51. 风雅存 | | Reply

    风雅存 says:
    March 16, 2009 at 3:13 pm
    我是本b新人…能不能先提个建议?呵呵

    这么长的文章能不能分几篇来发?个人觉得很不利于阅读,篇幅太长不利于“新人”学习,分一、二、三、我想我能仔细看完

    Reply
    刘未鹏 says:
    March 16, 2009 at 3:37 pm
    那你就分三次读完呗
    书的篇幅长不长?

    不短哦,要看很久很久的……呵呵

  52. Figoal | | Reply

    我想文中所谓偏见,应该是主观意识思维的一种喜好,在长期印象中形成的套路,也许就是智慧生物细胞对事物认知的学习应用能力,印象刺激的烙印。

    现在我们通常说的“偏见”其实是一种“思维自我设限”。

  53. amberjack | | Reply

    西蒙论证了理性有限,从楼主的分析中,总结出一点:谦卑无止境。那荣耀就永远都不能归给自己了。越来越觉得,基督里面耶稣的行为才真正贯彻了这样一点精神。

  54. 米店老板 | | Reply

    是不是整篇文章可以总结为一句话:先验知识会影响人的判断?

    • lcs012 | | Reply

      先验只是也可能对你产生积极的影响
      本人遇到的一件小趣事:
      苦于生活没有规律,看到自己感兴趣的东西一看就会很晚,最近认识到问题的严重,可是,晚上还是不知不觉的就到了2点多。
      昨晚我试了一下,八点多的时候,我把屋子里的灯全关了,一片漆黑的情况下,没多久就感觉自己想休息了,感觉时间应该不早了吧~

      我们的先验知识,日出而作,日落而息,黑暗的氛围下我们应该休息了。
      结果,困扰我多久的问题,轻易解决了
      或多或少的有点讽刺,我怎么就这么脆弱呢?轻易的一个关灯行为就解决了我以为的“严重”问题~

      以上观点也许只是一个偏见~

      • 刘未鹏 | | Reply

        好法子,我也试试。 谢谢! 🙂

    • lcs012 | | Reply

      第一句,先验只是错了,改成先验知识~~

  55. kt | | Reply

    那个人脸面具转动的时候明显被人做了手脚的,光线在不断变化!

    • 刘未鹏 | | Reply

      面具转动,映照的光当然在变化了。
      你再看看下面一个视频。

  56. freedom | | Reply

    鹏哥,您好~我是一名大学生,很喜欢你的文章,因为它们能让我”哦”一声与现实生活发生联想,给我回味的空间,最后释然:果然是这样的!我也逐渐认识到真正的道理往往都是简单的.面对生活中的一些问题,我逐渐像科学家一样思考,要考虑典型性,全面性等等,在这个过程中,我感到思考有种莫名的成就感,也让我更好地生活.
    在这里,我有个问题想请教一下鹏哥:偏见,不仅仅是偏见,还有贪婪,自私等等这些人性的弱点,这些是自然选择的结果,存在必定合理,为何还要改正?我想的是,世上本不存在一些美好和丑陋的事,这些只是一些人的情感或想象罢了.人具有多面性,就像一个圆,不存在邪恶和善良,丑陋与美好,性格多多少少都包含一些名义上好的或不好的品质,大多数人性格都是好的品质大于坏的品质,这也是生存的个性技能.只是人类主宰了地球,满足了生存需要,太无聊了,想创造一些东西或制造一些事端,想多元化了~据此,我认为偏见或其他的存在也没什么不好的,适应生活罢了!
    吾之浅见,望君指正~

    • 刘未鹏 | | Reply

      建议阅读《Mean Genes》以及“逃出”(一)中提到的其他书籍,并自行思考,这不是一个有标准答案的问题,所以我不能给你答案 🙂

    • lcs012 | | Reply

      我的一个小想法:
      存在说明合理,但可能是它曾经很合理,在我们祖先那时代,占有生活资料就是必须做的事。
      现代社会呢?有些东西就未必了。
      可能是个滞后效应?
      个人愚见。

  57. Steward | | Reply

    这个出版社出了很多个 Hack 的专题 ,譬如 google hack, firefox hack , etc

  58. sun | | Reply

    换个图片,图片有一个向上的箭头,颠倒一下,我们就认为箭头是向下了。
    引用博主的原话:”为什么同一副图片,仅仅是上下颠倒一下,我们就对其作出了完全不同的解释呢?”

    回到开始的按钮图片,其实所谓的凹凸感不过是我们的感觉。图片已经变了,信息自然就应该改变。对那按钮的认识应该是阴影处于上部还是下部,颠倒了,自然上下也改变了,换成我们的语言,就是凹凸变换。

    我觉得,这里说的这种视觉错觉,不能算是真正的视觉错觉,而是经过人脑分析后的感觉(意思是视觉没有错,只不过结论用某些语言描述时会混乱,不如凹凸。但如果改成箭头上下就很清晰,这不过是语言游戏。两幅图的情形是一样的)。

  59. SoftGiant | | Reply

    未鹏您好,您的那个分享阅读的链接 (Google Group) 已经好几天都打不开了 !

    • 刘未鹏 | | Reply

      你是说TopLanguage?今天twitter上也有人跟我提起。但我这里是打得开的呀,我是国内的校园网,应该是电信。
      等我在twitter上询问一下看看。

  60. SoftGiant | | Reply

    未鹏近况如何?现在是做什么工作的呢?

  61. stonewang | | Reply

    文章太好了,冒个泡!

    另外,有几个视频都说不存在。

    • 刘未鹏 | | Reply

      视频都是存在的,我刚检查过了,都是我自己最近传的。你刷新一下试试,我也遇到过跟你一样的情况过,似乎是youtube的问题。

  62. 3id | | Reply

    开你的博客小红伞报错,麻烦检查下?

    • 刘未鹏 | | Reply

      谢谢,不过我这边一切正常。
      p.s. 还有其他读者有类似的情况吗?能否回复本留言告知?
      是否有可能小红伞误报?

  63. Kola | | Reply

    第一个图和第二个图我感觉的和你说的真好相反..

    • 刘未鹏 | | Reply

      的确可能出现这种情况的,普通人如果很长时间盯着看可能也会出现这种情况。
      原因可能是这个图片做得不是太自然,特别是凹按钮。你看一下后面的一个双人脸视频,那个里面的凹按钮效果更明显。

  64. tutu | | Reply

    从和菜头的博客链接过来的,真是好文章啊,以为肯定长期驻扎此博客了。

    因为本人在心里上有一定的强迫倾向,发现看这类心理学的文章,很容易产生强迫。

  65. vdust.leo | | Reply

    类似的问题,我曾在高中上大学中间的假期中间,在家中的房顶睡觉时想过,那时一看到满天的星星,想到天空的深遂和无垠,除了害怕,就是觉得人的渺小。
    想到人的生与死的意义,想到如果没有地球,没有世界,没有宇宙,没有生命,没有思想,那么这个世界将会是什么样子?想来想去发现这个是伪问题,想到这个答案只有在某时才能得到,但又好像得不到。
    大学第一年除了本专业的学习之外,读的最多的书,除了计算机,就是(通俗)哲学与心理学。书读得越多,才越来越发现,所有的答案都与高中的一个政治老师的结论似乎有关,他说,这会导致不可知论。
    奇怪的是,若干年后,我还能在这么一个地方,看到这样的讨论。

  66. | | Reply

    这篇文章太牛了!
    想起来,第一个实验10年前我曾注意过。那时刚用win98,对着窗口上的3d按钮扭着脖子发呆,意识到这是利用了人们光源总在上方的习惯,但那时太小也没继续思考下去。
    关于后面的色彩问题,我想到了数码相机的白平衡。不知道相机的自动白平衡是用怎样的算法?

  67. hedyse | | Reply

    确实文章就应该像这样如行云流水般通俗易懂,看完也不觉得有多长.

  68. kk | | Reply

    “外界物体反射的光线投射到我们的视网膜上也只是留下二维的剪影”
    还是提一下双眼视觉比较好吧,不然好像是以偏概全了

    • 刘未鹏 | | Reply

      双眼视觉(特别地,视差)的确对深度知觉有重要贡献,恩,似乎的确应该写一下。
      P.S. kk 兄是否松鼠会成员或blogger?可以自己写深一点的introduction啊?:)

      • kk | | Reply

        不是,只是路过~~
        我觉得你这篇文章写得真是好~

  69. 百啦 | | Reply

    赶紧出书吧拜托,跟《决策与判断》有点像,但都很好。

  70. 风雅存 | | Reply

    我是本b新人…能不能先提个建议?呵呵

    这么长的文章能不能分几篇来发?个人觉得很不利于阅读,篇幅太长不利于“新人”学习,分一、二、三、我想我能仔细看完

    • 刘未鹏 | | Reply

      那你就分三次读完呗 🙂
      书的篇幅长不长?

      • xx | | Reply

        “逃出你的肖申克”这个系列作者准备写几篇啊?

        • 刘未鹏 | | Reply

          目前还不知道,写着看 🙂

  71. shawn | | Reply

    有人看到顺时针有人看到逆时针。但更多的人看到的是顺时针,正如Necker Cube中更多的人看到的是一个水平放置的方块一样。一种可能的解释是我们对顺时针旋转更为熟悉(先验假设)。

    —–因为,这张图,本来就是一个骗局,顺时针,逆时针会交替出现

    • 卷心菜 | | Reply

      再仔细看看,别人辛辛苦苦写这么一篇,看来对你是白写了

  72. pluskid | | Reply

    关于贝叶斯先验,确实有很多时候使用平均分布,但是似乎大多数时候都仅仅是为了计算上的方便而已,当然人们对于所用的领域没有合适的先验知识也是一个原因,不过这里有另外一个概念叫做“无信息的先验”,并且认为:

    ……使用无信息的先验分布形式能够达到客观性,即样本本身能发挥最大的作用……

    这在 《Pattern Classification》一书 3.5.2 节有讲,不过我对他所说的“对先验概率的可能具有的形式进行约束……如果我们找到满足这种约束的分布,那么最后的结果就成为对这些不变性要求是”无信息的“” 并不是特别理解,所以就不多引了。

    不过书中自己也提到,这种 non informative prior 并不是万能的,一个 prior 是不是 informative ,和具体的问题以及参数都有关系,比如,在估计一个高斯分布的标准差 \sigma 时,我们想保证他的先验是无信息的,但这并不能保证 \sigma^2 也是无信息的。

    • 刘未鹏 | | Reply

      恩,没错。
      P.S. 我猜测Bayesian Spam Filter用5/5分的先验是为了保守起见(避免false positive,毕竟false positive的伤害要大多了)?这方面了解一些基本理论,但涉足不深。似乎计算方便这个理由对于BSF并不适用。有本书,Ending Spam,专门讲这个的,没空细看,毕竟不是要搞这个的。你了解吗?
      P.S. 似乎,如果都不考虑先验了,那还不如直接用discriminative model来搞BSF。

      wikipedia上的解释:
      However, most bayesian spam detection software make the assumption that there is no a priori reason for any incoming message to be spam rather than ham, and consider both cases to have equal probabilities of 50%:
      没有细说为什么there is no a priori reason

      • pluskid | | Reply

        关于工业界做 spam filtering 具体的一些细节我也不大了解。不过 generative model 之于 discriminative model 的优点并不在于可以很容易地引入先验这一点上,另外一点在于得出来一个概率值,这在 spam filtering 或者更典型的 computer aided diagnose 上很重要,分类器可以根据概率值,在某一个阈值之内“拒绝做出判断”,再转交给人或者其他方法来做判断。

        除去这两点,我倒是觉得 discriminative model 似乎更“合理”一些,感觉它更加着眼于解决问题。

        ps: 你这个 comment 邮件提醒用的是什么 WP 插件啊?我之前用过一个,好像中文有乱码的。

        • 刘未鹏 | | Reply

          水煮鱼的Comment Reply Notification,蛮好用的。
          Discriminative Model 也能得出概率值啊。倒是Generative Model老假设存在一个生成模型是比较“不人道的” 😀
          P.S. D&G的问题就不细讨论了,好像这是一个口水话题,我有空还是再去做做功课,免得信口开河把自己搞民科了 😛

          • pluskid | |

            虽然 D.M 也可以搞出概率来,我觉得还是不太一样的。比如一个二元分类,D.M. 关心的是这个东西属于那个类,要么 A 要么 B ,这里通常如果能做出一个概率来的话,P(A)+P(B) = 1 。而 G.M 的概率也许应该说成似然(likelihood)更贴切一些,两个似然加起来并不一定等于 1 。

            举一个简单的例子,比如假设我们实际的事实其实是三个类,然而我们用二元分类来做的话,用 D.M 就会把第三个类别里面的东西“胡乱”地分到这两个类中,相反, G.M 也许会发现对于有一些数据,两个 model 生成它们的似然都很小,这样的信息在某些特定的情况下也许会有用。

            ps: 那个插件似乎和我用的主题不太融洽,回头再琢磨一下。

  73. 闹类硬 | | Reply

    一部关于量子物理的影片《水知道答案》,借由量子物理的科学研究来证实“万物皆空”。其中一个片断,就是描述你看到海平面上的船,其实可以视而不见——如果你的认知系统中没有“船”。

    • 卷心菜 | | Reply

      名字错了,这个片子叫,是个打着科学的旗号宣扬伪科学的片子。

      • 刘未鹏 | | Reply

        Sorry, 一对尖括号会被识别为html tag。所以书名被识别为tag name了。书名号没问题。 😀

  74. 盆地 | | Reply

    太酷了,不得不冒泡回一个。
    很喜欢此类文章,让我们知道眼见不一定为实,年轻人其实有些时候就是太相信自己。

  75. xdfozi | | Reply

    凡所有相,皆为虚妄,若见诸相非相,即见如来。
    缘起性空!

    空手把锄头,

    步行骑水牛。

    人从桥上过,

    桥流水不流。

    • 刘未鹏 | | Reply

      这位同学,我也认为古人智慧中有不少今天看起来也是有道理的朴素内省和归纳。
      但我同样认为从一个朦朦胧胧的角度解释和从现代科学的“可观察、可度量、可重现”等标准下的深入客观解释,是有本质的差异的。
      同样是有道理,前者是感觉上有道理,但又有点抓不着摸不透,属于相当粗糙、非量化的、定性的一些感悟。但后者则可以明明白白摆在你眼前,属于更精确、可量化的模型。两者带来的力量是不一样的。

      • Aw | | Reply

        的确,科学是如此的谦逊和平易近人!

      • xdfozi | | Reply

        没有古代与现代,都是一个名子,理性是一种确定感,而这种确定感也仅仅是确定感。理性是人企图用自我的经验(可以看作数论的集合),解释超验的东西,形成一个公式,然后不断的在实践中随变化而修改这个公式以适应环境,这就是《易经》的易,蜥蜴,变色龙。理性所获的东西是不可靠的,这就是康德的二律背反,老子的道者反之动,佛讲的诸行无常,哥德尔不完备定理,非欧几何,相对论,测不准原理等都揭示了理性的不确定,。当一个人在使用公式(这个公式可以是机器,计算机,自己的身体,经验等)时,并无法确定这些东西确定性,那么又如何确定用这些东西认识的理论呢。就像《影响力》所说的选择性知觉。统计与逻辑所获的东西就像诗词,文学,是一样的都没有严格性,也不能说谁比谁严格。这就像当我算5+7=12,不知是感性还是理性在起作用。对此类问题的研究,还有胡塞尔的《欧洲科学危机与超验现象学》。至于数学本身的发展也是变化的,中国古代数学,也有其特点,可以看看吴文俊的著作。
        理性是理性者的理性,感性是感性者的感性。都是自我确定的。(我执)
        无所谓感性与理性。
        一即一切,一切即一。理事无碍,事事无碍。——《华严经》。

        • You XU | | Reply

          难道这就是传说中的铭刻?

          • xdfozi | |

            或许你可以看看,海伦·凯勒的传记。

        • co63 | | Reply

          个人觉得,这些不确定的东西的集合是个泥潭,怎么绕也绕不出来的。
          就像地球已经绕这太阳运行了很多年,而且以后还会这样公转下去。
          所以不要去随它思考,而是关注目前那些更明确的东西,当自己能力范围了解的东西越来越多的时候,很多原来模糊的东西就会逐渐清晰起来。

      • 人马道 | | Reply

        博主的东西很好,很有趣。
        “同样是有道理,前者是感觉上有道理,但又有点抓不着摸不透,属于相当粗糙、非量化的、定性的一些感悟。但后者则可以明明白白摆在你眼前,属于更精确、可量化的模型。两者带来的力量是不一样的。”针对上面这句话,发表点个人看法:进化的终极方向是什么?就是不断的训练现实的,看得到摸得着的理性?到头来呢?

        另外关于那个芭蕾舞裸女的旋转方向,也许和每个人习惯的成像视野,以及习惯成像视野提供初始线索与中枢的判断之间关系有关。

      • bravebin | | Reply

        过分“偏见”了就经验主义了,适当“偏见”就是客观主义了,这个增益量很重要~

  76. Aw | | Reply

    这篇文章让我们很满足啊!

  77. 渣渣 | | Reply

    这个系列写的非常好,大受启发啊。
    期待下一篇。

    • 刘未鹏 | | Reply

      谢谢 windstorm 兄 🙂

  78. goals | | Reply

    若评选最有价值中文博客,本博当列前三。

  79. iamsujie | | Reply

    整合超多信息的文章,太强了

  80. ShiningRay | | Reply

    我想到那句话
    It’s a feature, not a bug.

    • 刘未鹏 | | Reply

      呵呵,没错,的确可以这么说 🙂

  81. 木扥 | | Reply

    楼上最后一问题够绕的啊….

  82. 老陶 | | Reply

    我的想法是人很可能是通过视错觉来对世界进行正确的认知。就拿视错觉来说,除了平板玻璃以外的任何透镜的成像都会发生畸变。人眼中的泪水、房水、晶状体和玻璃体都是曲面透镜。这样导致的结果是在视网膜上的投影并不来自于同一个波阵面,于是我们看到的整个世界其实是一个在双曲面上的投影,服从罗巴切夫斯基几何。想想看其实这个道理很简单。如果我们的眼睛能够接受平行光,那么首先视网膜应该是一个接近理想平面的大感光板,显然这是不现实的。而且如果接受的真是平行光,那么一个三维物体在一个平面上的投影会砍掉平面法向的分量,这意味着你人将无法区分这个物体和自己距离的远近。也就是说,通过视觉畸变和枕叶视觉中枢的演算,反而能够推算出来本来将会因为在平面上投影而会丢失的信息。
    (当然,以上内容只是推断而并没看过任何相关领域的参考,只是在我做一个神经网络辨识的课题时和我父亲(一名神经外科医生)和祖父(一名神经生理学讲师)讨论过)

    前段时间看过一个实验,将新生儿面前放一个大屏幕,屏幕上画一个黑色小圆盘,然后黑色小圆盘突然变大,婴儿立刻产生闪避和自我保护的反应,比如眨眼,肌肉挛缩等。显然他对物体的大小和他自己与物体的远近产生了关联。这说明这部分神经网络回路确实是“烧录”进去的。

    我还是觉得,所谓“先入为主”不能完全和“偏见”等同,而且“偏见”这个名词本身就极易引起“偏见”。我们身上的“硬件”和“预设算法”是大自然生存测试中选拔出来的相对最高效最经济最KISS的设计,这些设备的设计理念是为了实现让我们生存下去的目的。只有当我们处于一个我们的先验纠错算法会把对的纠成错的的处境时,所谓的“偏见”才会形成。并且更加关键的是,我们能知道你偏见的产生一定是因为我们拥有异常处理的方法。如果我们无法认识到在某些情况下偏见会形成,那么“偏见”这个词就根本不会出现。进一步考虑,我们何以获得异常处理的方法?当然是只有当异常发生的时候才会对这个神经网络重新训练。为什么我们的先验知识中并没包含异常处理部分?因为所谓“异常”就是不容易遇到的情况,并且正常只有一种,而不正常会有无数种。因此我们的设计中包含了当异常发生时的学习机制,但是并没有包含一个异常模式库,所以确实是一个minimal的设计。

    好了现在请听题,pongba您觉得您这篇文章写出来是能消除一些对“偏见”的“偏见”呢,还是会带来对“偏见”更多的“偏见”呢?

    • 刘未鹏 | | Reply

      黑色圆盘实验很有意思,谢谢! 🙂
      P.S. 最后一个问题我也没看懂,不好意思。

      不过我可以解释一下这篇文章的目的:不要太相信自己的判断,即便很肯定。因为知识的缺失或者经历的偏差导致的判断错误是很难觉察的,多和不同的人讨论,多开拓自己的视野。(有点乔布斯说的stay humble, stay foolish的味道)
      并且多关注有关思维的书,从而尽量避开思维的陷阱。

      • 老陶 | | Reply

        That’s the point.

        我所担心的就是,“尽量避开思维的陷阱”本身会不会就是一个“思维的陷阱”呢?
        🙂

        • 刘未鹏 | | Reply

          呵呵,怎讲呢?能否详细一点?初一看我以为我理解你的问题,但细一想又不理解了。

          • 老陶 | |

            其实……具体我也不是非常明白,仅仅是一个设想。比如把事情想得很明白的你,在不明真相的群众组成的社会网络中却被看做一个异教徒被烤了。当然这个例子不符合现在的情况所以不太好,我也得花时间考虑一下,暂且看做一个伪问题好了。

          • soar4ever | |

            我们是有思维惯性的,这个应该就是楼主说的“偏见”吧。这种惯性在大多数情况下对我们是有好处的,因为我们可以仅仅凭借瞬间的直觉而完成很多思维推理,避免出现问题。所谓“思维陷阱”的出现,应该是在我们的思维惯性与实际情况恰好相反,出现反作用的时候。这种情况相对来说还是比较少的。
            那么,如果我们一味强调“避开思维的陷阱”,其实已经踏入了“抛弃思维惯性,以有限的脑力面对无限的可能情况”这一陷阱中,以至于耗费了大量脑力来对付前面说过的“正好与思维惯性适应的情况相反的”通常情况,这样的话,显然会降低处理问题的效率。
            总体上讲,虽然可能会避免一些因“偏见”而被误导的少数情况,但可能会使很多按照思维惯性就可以快速、简洁的处理掉的问题耗费较大脑力。这显然是不合算的。
            因此,避开思维的陷阱,对于无限理性来说还好,否则还是顺其自然,有选择性地使用吧。
            这大概是老陶说的意思吧?

          • poplar | |

            soar4ever ,你将我想要说但组织不出来的话说出来了,:-)

    • 刘未鹏 | | Reply

      老赵严重了,不敢不敢 🙂

    • Michael Chen | | Reply

      偶像也是产生偏见的原因之一。

  83. 半瓶墨水 | | Reply

    对其中那个“Ames’ Window”的视频感到疑惑
    直觉是,如果在现场,会有不同的感觉

    • 刘未鹏 | | Reply

      我当时也是这么觉得的。但看了wikipedia条目的解释,如果你在现场的话:你需要在3米开外用单眼观看或者在6米开外用双眼观看。

  84. ShiningRay | | Reply

    “人脸模型就是我们大脑在图像识别时的一柄黄金大催”
    最后一个错字

    • 刘未鹏 | | Reply

      谢谢指出,订正 🙂

  85. lupa | | Reply

    笑来老师博客上的新文,做补充用:
    FALLACIES: A deductive argument must be both valid and true. A true argument is based on generally accepted, well-backed premises. Learn to distinguish between fact (based on verifiable data) and opinion (based on personal preferences). A valid argument follows a reasonable line of thinking.

    Fallacies are faults in premises (truth) or in reasoning (validity). They may result from misusing or misrepresenting evidence, from relying on faulty premises or omitting a needed premise, or from distorting the issues. The following are some of the major forms of fallacies:

    Non Sequitur: A statement that does not follow logically from what has just been said; in other words, a conclusion that does not follow from the premises.

    Hasty Generalization: A generalization based on too little evidence or on exceptional or biased evidence.

    Ad Hominem: Attacking the person who presents an issue rather than dealing logically with the issue itself.

    Bandwagon: An argument saying, in effect, “Everyone’s doing or saying or thinking this, so you should too.”

    Red Herring: Dodging the real issue by drawing attention to an irrelevant issue.

    Either…Or: Stating that only two alternatives exist when in fact there are more than two.

    False Analogy: The assumption that because two things are alike in some ways, they must be in other ways.

    Equivocation: An assertion that falsely relies on the use of a term in two different senses.

    Slippery Slope: The assumption that if one thing is allowed, it will be the first step in a downward spiral.

    Oversimplification: A statement or argument that leaves out relevant considerations about an issue.

    Begging the Question: An assertion that restates the point just made. Such an assertion is circular in that it draws as a conclusion a point stated in the premise.

    False Cause: The assumption that because one event follows another, the first is the cause of the second. Sometimes called post hoc, ergo propter hoc (“after this, so because of this”).

    鹏哥,我一直有个问题,
    得知自己一生就是摘掉有色眼镜的过程,
    我如何从逻辑上说服自己这不可悲?

    • 刘未鹏 | | Reply

      呵呵,这个问题我得想想再回答你 😀

    • 董春鹏 | | Reply

      lupa,这个问题我来回答你。

      你问这个问题本身其实就中了这个帖子的题了。这个帖子的核心说的就是我们人类有偏见。而你对自己有偏见这一点有偏见。这话有点绕。说的道德点就是,你不必为自己天生有偏见而感到耻辱。问题就在于,尽管我们的博客主人在长篇大论的苦口婆心的让我们认识我们自己的偏见对我们及世界多么的不好。不过我可以负责任的告诉你,大自然孕育咱们人类的时候,没想过这事。也就是说,大自然认为,你有偏见就有偏见吧。这没什么不好的。我这么说,你不高兴,博主也不会高兴。不过这就是事实。不过,这个事实是从大自然的视角出发来看待你的偏见的结果。而博主劝说我们意识到自己的偏见,则是从微观的我们个人的生活以及我们与他人交往的角度出发的。我想,他是好意的。我们的生活大概其的是会因为剔除必须剔除的偏见而更加美好和谐。

      我说的话你明白了吗?最后我要告诉你,兄弟,不要把事情搞得太复杂。你对自己有偏见而自卑,本身就是具有一种“偏见习惯”。而博主千辛万苦写了这么个帖子要告诉你的,就是应该把那些该去掉的偏见去掉,努力这么做。像你这样把一个简单的问题弄得那么绕,其后果就是耽误你自己和大家在偏见这个问题上的正面努力。我说这话你能明白吗?老实说,我对你的理解能力有点偏见。

      • lupa | | Reply

        :)谢谢你的回答,说得非常好~我来讲讲我的看法,我们交流一下:
        用关注圈和影响圈来鉴别,“人生来带着偏见”属于关注圈,而“人一生都在摘掉有色眼镜”属于影响圈;我们应该着重于可控因素(扩大影响圈),而不应该死在关注圈的无力感上(改变能够改变的,接受不能改改变的)。我的做事方法和努力方向皆是“努力摘掉有色眼镜”,因为,对我来说,后者更有现实意义;而前者不是我能够控制的,也解决不了任何问题。
        这是我说服自己的文科生思维。
        我知道工科博主睿智英明,想问问他的思维过程:)

        • anecdotes | | Reply

          同学,工科生的词典里,“偏见不好”非真也非假,因为这么笼统的说“偏见”并没有指向。根据博文的意思,偏见其实是对经验的反映,如果说非要消除偏见的影响,在作出选择前努力完善自己的关于此决策的经验就好了

      • poplar | | Reply

        呵呵~~~~确实答得非常好
        生活就是这样,你用什么态度对她,她就反馈什么信息给你
        你把生活看得很复杂,生活就告诉你确实很复杂,然后你就去钻牛角尖吧
        相反,如果你觉得生活很简单事情总会解决的,生活也会帮你证明确实很简单,然后你突然发现问题确实不是大问题

Leave a Reply

Your email address will not be published. Required fields are marked *