预测的危机:我们如何被预测性引擎所控制?

神经现实 2021-06-11 20:53


日益强大的“预测性引擎”


早在2016年,脸书(Facebook)工程师创造的机器就能“每秒进行超出600万次预测”。毫无疑问,这个预测性引擎现在更加强大,能无情预测出你的品牌忠诚度、你的渴望和你的欲望轨迹。这便是社会心理学家肖珊娜·祖波夫(Shoshana Zuboff)所描述的“预测性产品”:它前所未有地渗入我们的生活和思想,以此猜测我们的未来,并将这些预测出售给想要操纵未来的人


与此同时,这种“预测性控制”的理念,在认知科学中也有了数目惊人的追随者:一个围绕着“预测性大脑”观念发展的神经科学学派越来越有影响力。该学派认为,我们大脑的基本活动是产生源源不断的预测:预测我们将要听到的声音、将体会到的感觉、将觉察到的物体、将采取的行动和的后果。这些预测编织了我们的现实,换句话说,我们猜测自己会看到什么,就会真的看到什么。大约四百年前,勒内·笛卡尔(René Descartes)声称“我思故我在”。而现在,认知科学家阿尼尔·塞斯(Anil Seth)说:“我预测(我自己)故我在”。



在今天,“预测性引擎”被前沿的脑科学家当做理解我们人类最深层次本质的概念工具,也被最强大的公司和政府所利用。这是如何发生的?它又意味着什么?


随时代演化的隐喻


把大脑当做预测性引擎”的这种奇怪的隐喻,来自于一种久远的历史趋势:人们经常通过他们那个时代最前沿的技术来理解神经系统。托马斯·霍布斯(Thomas Hobbes)在他的著作《利维坦》(Leviathan,1651年)中,将人类的身体比做“自动机”、“像手表一样,通过弹簧和轮子自己运转的机械”。同样的道理,笛卡尔把动物精神在神经系统中的流动,描述为与液压机的传动相类似的物理过程。电子通信系统的崛起加速了这一趋势。19世纪中叶,外科医生和化学家阿尔弗雷德·斯米(Alfred Smee)说,大脑是由电池和光伏电路组成的,允许神经系统和身体进行“电报通信”。在第一次世界大战期间,英国皇家外科学院的解剖学家和人类学家亚瑟·基斯(Arthur Keith)将脑细胞比作电话交流中的操作员。


- Josh Patterson -


支配我们生活的技术也逐渐演化成为了复杂的预测系统。旧的层次仍然存在:电线分布于家庭和工作场所,水通过隐藏的管道流进水槽和淋浴间。但现在,这些基础设施由预测性技术掌控。这种技术指导的不仅是物资的运输,还有信息的传送。预测性模型自动完成我们的短信和电子邮件,提醒我们按时上班,并挑选出我们在通勤时的播放列表。在执法、军事和金融领域,重大决策也越来越受到特定预测性引擎自动评估的影响。这些预测性引擎,让我们初步接受了预测性大脑的概念。


自成立以来,心理学也一直关注着人类的预测和控制。心理学家威廉·詹姆斯(William James)在《为心理学作为一门“自然科学”辩护》(A Plea for Psychology as a “Natural Science”,1892年)中写道:“所有的自然科学,都以实际的预测和控制为目标,现在的心理学尤其如此。”詹姆斯认为,心理学家如果不能帮助社会管理公民,就没有社会价值。他曾表示:“每个教育家、监狱长、医生、神职人员和精神病院院长,对心理学的期待都是‘实用’。”


大脑就像“负反馈机器”


第二次世界大战的军事斗争巩固了这种观点,即人类本质上是可量化和可预测的。二战以前,战争中的敌人被描述为要猎杀的野兽、要消灭的虫子甚至是抽象的统计数字。但是,二战中涌现出了新的武器装备,使敌人变成了战斗机飞行员、轰炸机和导弹发射器。攻击这些具备技术设计、传感器和处理器辅助的敌人,成为了风险更大的难题:对敌方的每一次学习、对其运行轨迹的每一次预测,都能让敌方更了解你。历史学家彼得·加利森(Peter Galison)认为,第二次世界大战后,“敌人”成为了在先进实验室中研发,机械化生产的武装力量。它部分是人,部分是机器——我们今天可能称之为赛博格(cyborg)。


为了对付这个敌人,盟军动员了他们可以动员的所有科学,包括行为科学和计算机科学。美国麻省理工学院(MIT)的数学家和科学家诺伯特·维纳(Norbert Wiener)和同事开发出了一套能模拟敌方飞行器、预测其移动轨迹并进行攻击的防空预警系统。他们还就此发展出一套后来被称为“控制论”的理论,把世界理解为动因与后果的反馈循环:一个行动的后果,与目标比较后,可以指导下一步的行动,而这个过程自动纠正着错误。加利森写道:敌方飞行员与机器深入地融合,以至于(他的)人与非人界限变得模糊不清;在控制论的视角下,伺服系统*化的敌人成为人类生理学的原型。


译者注

伺服系统(servomechanism)是一种自动控制系统,能够使物体的位置、方位、状态等输出被控量跟随任意变化的输入目标(或给定值)。


- Josh Patterson -


战争期间,越来越多的机器和武器的设计中添加了反馈系统。精神病学家和控制论者罗斯·阿什比(Ross Ashby)在《大脑设计》(1952年)一书中说:“一大批新机器出现了,它们以前所未有的自我调整和纠正能力行动着。”“高射炮、火箭和鱼雷”给士兵和科学家留下的印象是,机器可以有意图地行动——识别让它们偏航的企图,进行自我纠正并向目标驶去。随着对反馈过程研究的深入,维纳和他的同事开始把自我调节的机器和有意图的人类视为一体,甚至开始用控制论的术语解释生物动力学(如内稳态)和社会现象。这自然也包括大脑。阿什比说,大脑的“所有功能”不过是“纠错”。


大脑就像“激励-响应机器”


敌人是一种能被预测与控制的对象,而消费者则是另一种。约翰·华生(John B Watson)是20世纪初行为主义心理学的创始人之一。他认为,该学科的“理论目标是(通过)预测和控制行为”,满足“教育家、医生、法学家和商人”的需要。


1920年,华生因婚外恋被迫从约翰·霍普金斯大学辞职。随后,他加入了知名广告公司智威汤逊(J Walter Thompson,JWT)。在华生到来之前,心理学和广告业毫无关联,但根据华生的传记作者大卫·科恩(David Cohen)的说法,短短几年之后,智威汤逊的总裁就已经能在伦敦大放厥词:“人类的行为,就像制造业中的物理材料一样,是服从于规律的。”早年的行为主义观点认为,人类是输入-输出的机器,受到激励-响应规律的约束。不存在需要建模的“心智”,只存在输入和可预测的行为输出。“潜在买家是一种机器,给定正确的刺激,他就会做出正确的反应,掏空自己的钱包。”科恩写道。广告公司资助与华生相似的行为主义者的研究,让他们探寻目标消费者(消费机器)的规律,进一步深化对习惯化产品使用、定向宣传以及品牌忠诚度等现象的理解。


上世纪60年代,预测和控制领域迎来了重大的转折。广告代理商不仅运用预测原则来销售麦片和香烟,还以同样的原则“推销”政治候选人。在历史学家吉尔·莱波雷(Jill Lepore)的《如果,就》(If Then,2020年)一书中记录了这种变迁:1959年2月开业后,Simulmatics公司便迎来了这样战争。政治是他们的战场,理查德·尼克松(Richard Nixon)是他们“凶猛的对手”。为了打败这样一个强大的敌人,Simulmatics公司的总裁爱德华·格林菲尔德(Edward L Greenfield)认为,民主党候选人约翰·肯尼迪(John F Kennedy)需要一个秘密武器——“自动模拟器”。为了制造这种武器,该公司集合了来自麻省理工学院、约翰·霍普金斯大学和其他常春藤联盟的顶级科学家,研制出了一个“能对1960年的选举进行计算机模拟的投票行为机器”,这是“有史以来最大规模的政治科学研究项目之一”。模拟的目的是根据人口的背景和政治运动的情况,对各类人的可能投票进行粒度预测(granular prediction)。该公司声称他们对肯尼迪的胜利有功,尽管当选总统否认这一点。Simulmatics公司还预测了许多其它事情:它模拟了委内瑞拉的经济局势,试图阻碍1963年的人民武装起义;它还参与了越南的心理学研究并试图预测种族骚乱。


- Daniel Zender -


Simulmatics的创始人相信,通过计算机科学,一切皆有可能。“总有一天,一切都可能被预测——通过模拟人们的思想,(我们可以)像投放导弹一样,准确无误地向每个人投放目标信息,以引导其行为。”尽管该公司已经破产了,但这一愿景仍在继续。用莱波雷的话说:收集数据;写代码:if/then/else;检测模式;预测行为;指导行动;鼓励消费;影响选举——这几乎是每家公司的使命


大脑就像“资源分配中心”


我们一直把对自己的生物学理解,与对社会的组织方式联系起来。这种联系是双向的。我们常常把适用于个人的概念和法律套用到个人所组成的集体上。例如,在《利维坦》中,霍布斯认为:社会是一种身体。其中,主权是一个人造的灵魂,赋予整个身体生命和活力;法官和其他司法和行政人员是人造的关节;而奖赏和惩罚是神经系统,牢牢系在主权上,调动每一个关节与肢体履行职责。


反过来,我们也会把支配社会的逻辑强加到我们身上。医生和诗人理查德·布莱克摩尔(Richard Blackmore)在《创造:一本哲学诗集》(Creation: A Philosophical Poem,1712)中表示:内在的动物精神是人类行动和感受的原因;精神是“心智的守卫”,被安排在神经系统的最远处巡逻,在每一个“通往感官的通道”驻扎;在“边境”守望后,“警惕的哨兵”回到大脑,根据他们的印象,提交报告并且接受新的命令。


现在,许多探索预测性大脑的神经科学家把当代经济学视为一种启发式的方法。哲学家安迪·克拉克(Andy Clark)在一篇关于预测性大脑的著名综述里说:科学家花了好长一段时间才理解,“耗费高代谢来建造复杂的大脑,能通过带领个体获得适应性成功的方式,给个体带来回报。”预测性大脑的想法是有意义的,因为从新陈代谢的角度来说,它是有利可图的。同样的道理,心理学家莉萨·费尔德曼·巴雷特(Lisa Feldman Barrett)把预测性大脑的主要作用描述为管理“身体预算”。她说,按照这种观点,“你的大脑有点像公司的财务部门”,预测性地分配资源,花费精力,进行投资,寻求回报。压力就像身体预算的“赤字”或“撤资”。我们想象大脑是由统计学家组成的,他们的失误则变成我们的神经症。就像神经科学家卡尔·弗里斯顿(Karl Friston)所说:“如果大脑是推断机器,是统计器官,那如果它出了什么问题,就会犯和统计学家相似的错误。”


- Daniel Zender -


大脑不只是机器


脑科学和预测性经济学之间的联系不容忽视。稍有疏忽,我们就容易被这种比喻引诱,把人类还原,认为人类“不过是机器碎片而已”。我们的大脑不是计算机处理器,尽管这种想象偶尔很有用。我们的身体既不是需要哨兵穿梭守卫的帝国,也不是需要让投资效益最大化的企业。从根本上说,我们更不是可欺骗的消费者、可追踪的敌人、或者可预测与控制的对象。无论是在科学研究领域,还是在企业信息领域,我们都太容易陷入对抗与剥削人类的框架里了。


我们如何看待自己,至关重要。不管技术多发达,人类都不是技术碎片的集合。但如果我们这样谈论自己,也就默许了大公司和政府用这种方式对待我们。鼓吹“预测处理”的“先知”在把预测当做是大脑的决定性成就的同时,也会迷信那些有预测能力的机器,即使预测的结果粗糙、有害或者有自圆其说之嫌。他们暗暗地希望“用预测性引擎塑造和操纵人类主体”的行为能合法化,并鼓励我们按照机器预测的形象塑造自己


科学家们可能认为,他们建造的是方便观察的工具与方便理解的概念,不过是神经科学时代的望远镜和显微镜罢了。但是,观察的工具太容易化为武器,瞄准人群了。正如上面所说,预测性系统起初就是一种为了在战场和市场上让人类可控的武器。因此,质疑现在挥舞这种武器的人,也是合情合理的。预测系统是一把双刃剑,科学家们在思考他们理论与阐释的用途的时候,应尤其警惕,不让科学走样,成为资本主义的工具


正如赛斯所说,感知永远被目标所塑造:感知世界(和自我)不是按照其本身,而是按照这样感知的有用性。按照这种思路,我们必须提问:我们现在试图科学地感知人类心智的功能目标是什么?是听了谁的命令,又迎合了谁的利益?


作者:Joseph Fridman | 封面:Sam Kalda

翻译:Sixin | 审校:山鸡

编辑:山鸡 | 排版:北方

原文:https://aeon.co/essays/on-the-dangers-of-seeing-human-minds-as-predictive-machines




本文来自微信公众号“神经现实”,谢绝转载到其它平台。如需开设白名单,请在后台回复“转载”,查看转载规范。公众号改版,星标“神经现实”公众号,不错过任何一条消息。

推荐阅读