资本主义信息时代让我们无时无刻无处不被监视

《监视资本主义时代》成功描绘出硅谷权力日益增长的黑暗图景,但最终未能成功进行政治分析。对监视资本主义的控制是为谁服务、以谁为代价的?朱伯夫给出最为宏大的解释:她认为硅谷正被一种激进的工具主义意识形态所束缚,这种意识形态旨在用大规模社交工程取代自由个人主义。但我们不需要一个令人毛骨悚然的新政治理论来解释发生了什么;在自由资本主义的背景下,它已经非常清晰。公司不会为了追求斯金纳或彭特兰设计的乌托邦而追求控制权。他们的目标要简单得多:首先,通过定向广告获得利润,其次,提升获取的直接经济政治利益。监视资本主义的问题不仅在于监控,还在于资本主义本身。

资本主义信息时代让我们无时无刻无处不被监视

图为网站文章截图,来源于原文

【法意导言:以谷歌和脸书为代表的硅谷公司开发高新技术监控用户数据,用以预测甚至调整用户行为。最为直接的例子是Go365工作场所健康项目,该项目通过内设的智能设备记录用户锻炼数据,奖优惩劣,以致影响美国西弗吉尼亚州教师的隐私和生计。哈佛商学院教授肖沙娜·朱伯夫(Shoshana Zuboff)在其2019年1月出版的新书《监视资本主义时代》(The Age of Surveillance Capitalism)中,分析得出目前人类处于监视资本主义时代,揭示了大型科技公司如何主导资本主义社会而重新构筑权力体系,认为监视资本主义背后体现工具主义这一意识形态。时任《洛杉矶书评》编辑及英属哥伦比亚大学讲师的凯蒂·菲茨帕特里克(Katie Fitzpatrick)于2019年4月30日在《国家杂志》(The Nation)上撰写《与你无关——监视资本主义的崛起》(None of Your Business: The rise of surveillance capitalism)一文,对朱伯夫《监视资本主义时代》一书作书评,并结合去年发生的Go365工作场所健康项目及美国西弗吉尼亚州罢工进行思考,基本认可监视资本主义时代这一说法,但是认为该书也存在以下缺陷:如主要解释其否认过去的剥削模式与最新的监视资本主义恐怖之间的连续性,将读者带离了最有希望的反抗之路,没有提出行之有效的解决途径,以及忽略工作场所的监控等。此外,本文对于了解互联网时代隐私保护、算法偏见等具有重要意义。】

美国西弗吉尼亚州教师对引入Go365工作场所健康项目的行为予以痛斥,于去年自发举行罢工行动,大获成功。Go365项目迫使雇员下载一款应用程序,监测他们的健康状况,奖励其锻炼以及其他良好表现。如果雇员年终未能累积3000积分,将会面临每月多交25美元的费用,且“免赔额”(dedubtibles)提高的惩罚。尽管罢工开始前,项目设定为可以自愿参加(且罢工使这一项目得以取消),但对Go365项目的愤怒成为罢工的导火线。一名教师这样告诉《纽约时报》:

【“被迫下载那个应用程序,交出敏感信息,人们强烈感觉受到了冒犯。”】

通过抵制Go365,西弗吉尼亚州教师同时发起两场抗议:既在国家财政紧缩这一战壕里抗战,也奋战在隐私数字监控的前线。Go365这款应用预示的众多令人忧虑的趋势均在肖沙娜·朱伯夫的新书《监视资本主义时代》中得以描述。朱伯夫解释道:硅谷公司正在研发可穿戴技术和其他智能设备,从而更加详细了解我们的身心健康状况。Go365运用Fitbit这一智能硬件,检测教师的每日步数;又如智能家居厂商Sleep Number推出的床具搜集用户的睡眠时间及睡眠质量;一家名为Realeyes的初创公司甚至计划追踪人们看广告时的面部表情,实时解读情绪。

硅谷公司不仅仅想要监控我们的行为,还计划改变我们。目前,硅谷公司可能只是通过如Go365项目对老师奖优惩劣的方式那样间接影响我们的行为。但是当这些设备融入我们的日常生活,硅谷企业对我们的干预将会更为直接。关于科技行业对我们的推动和激励作用,朱伯夫引用了一名软件开发员的畅想:

【“我们能知道你什么时候不该开车,然后锁住你的车……我们能给电视下达关机的指令,让你小憩一会,或者因为你不该久坐,而开始晃椅子”。】

资本主义信息时代让我们无时无刻无处不被监视

图为《监视资本主义时代》作者肖沙娜·朱伯夫

图片来源:谷歌图片

基于深入的研究以及类似这样令人担忧的采访,《监视资本主义时代》(The Age of Surveillance Capitalism)发出了关于我们未来的紧急警报。朱伯夫讨论那些使监视无处不在变得愈发可能的技术创新和市场机制。尽管她的诊断令人不寒而栗,但是解决方案却寥寥无几。整本书中,她都在谴责硅谷公司的种种滥权行为,认为这些公司代表着与早期更为温和的资本主义形式之间的彻底决裂。但是由于她拒绝承认过去的剥削模式与最新的监视资本主义恐怖之间的连续性,她最终将读者带离了最有希望的反抗之路。

朱伯夫被誉为“特立独行的管理大师”和“信息时代的先知”。她是《快公司》(Fast Company)和《商业周刊》(Businessweek)的前专栏作家,也是哈佛商学院首批获得终身教职的女性之一。30多年来,她一直是信息技术、商业和职场领域的领军人物。1988年,她因其著作《智能机器时代》(In the Age of the Smart Machine)而首次引起广泛关注,该书是早期关于计算机技术将如何影响美国劳动力的一项颇具影响力的研究。这一项目以其雄心壮志著称,而朱伯夫于2015年发表的文章中勾勒出监测资本主义的基本面,为自己定下一个更为宏伟的目标:“就在一分钟前”,她写道,“将关切集中于信息工作场所或者信息社会所带来的挑战,仍显合理。如今,围绕权威和权力而持续存在的问题必须在尽可能广泛的框架下解决……即信息文明。”在长达700多页的《监视资本主义时代》中,朱伯夫描述的是一个文明的黎明——她认为这个文明将由硅谷及其监控设备主导。

朱伯夫于其巨作的第一部分指出:2003年谷歌申请了一项名为“生成用户信息以用于定向广告”的专利,这是监视资本主义的缘起。她解释称,谷歌发展早期,广告仅与搜索查询的信息相关联。与此同时,它收集大量特定用户的数据(包括“搜索词的数量和模式……停留时间、点击模式和定位”)只用于改善用户体验。然而,2003年的专利承诺将“数据废气”(data exhaust,译者注:将数据用完后就舍弃,暂时不考虑其再利用价值)转化为“行为盈余”(behavioral surplus),可用于提高定向广告的精确度,形成一项利润更为可观的风险投资。作者认为,这一数据搜集方法非常成功,由此形成一种新的累积逻辑:2003年开始,谷歌一直致力于搜集尽可能多的用户数据并将其变现。

资本主义信息时代让我们无时无刻无处不被监视

图为谷歌数据搜集

图片来源:谷歌图片

朱伯夫所称的“提取需求”最终移步谷歌以外的领域。2008年,谷歌高管雪莉·桑德伯格(Sheryl Sandberg,朱伯夫戏称她为监视资本主义的“伤寒玛丽”)离开这家搜索巨头,加盟脸书。她的目标是将马克·扎克伯格的公司从用户那里搜集到的私人信息变现,将脸书从“一个社交网站转变为一个广告巨头”。从那时起,消息迅速传开,微软、美国电话电报公司、威瑞森电信和康卡斯特电信公司等巨头纷纷加入行为盈余提取业务。

如今,各类公司均试图进军这一领域。三星智能电视记录发生在全国各地客厅里的私人谈话;Roomba最新型真空吸尘器绘制用户住所平面图;好事达保险公司首席执行官自称希望“将从驾驶人员那里搜集的消息卖给各色人等,从而获取额外利润。”这些公司不属于硅谷高科技设备及互联网平台这些传统范畴,但是他们均希望深入了解我们的行为经验,而从中获利,这一点与谷歌和脸书的做法相同。

朱伯夫指出,这些侵犯隐私的行为日益频繁,既非偶然,也非可有可无,而是21世纪众多最为成功公司的主要利润来源。因而,这些公司已经从监控中获利,在扩大、深化、完善监控以及确保监控行为持续合法这两方面享有直接的经济利益。

数据提取蓬勃发展,新技术不断涌现:工程师致力于开发工具,挖掘各式“暗数据”——硅谷用该术语指代:目前算法分析无法获取的人类经验维度。为了发掘暗数据,谷歌、脸书和其他公司开发智能家居、可穿戴设备、自动驾驶汽车、无人机和AR技术,他们甚至致力于利用可消化传感器监控身体的内部运作,通过所谓的“情感分析”绘制人的内心世界。

这些新技术令人不安,其主要目的并非影响消费者行为,而是对其作精准预测。朱伯夫称之为“预测需求”(prediction imperative),而这种需求自然反向促使企业想要去影响消费者行为。例如,脸书有一项“忠诚度预测”服务,可以识别出“那些‘有风险’改变其品牌忠诚度的人”,促使广告商迅速介入。朱伯夫对此解释为:目标不仅是为了更好地了解我们,还在于操控我们的行为,为广告商服务,这正如一位首席数据科学家告诉她那般:“大规模调整塑造对人类行为影响这一新科学至关重要”。朱伯夫书中最有说服力(也最可怕)的部分在于描绘硅谷迅速增长的野心,从大量数据提取、无处不在的监控,再到广泛的行为矫正。

资本主义信息时代让我们无时无刻无处不被监视

图为社交工程

图片来源:谷歌图片

该书第三部分致力于呈现一种新的意识形态——工具主义,朱伯夫认为这一意识形态将主导21世纪。为了解释这一新型力量,她首先回归上世纪中叶心理学家斯金纳(B.F. Skinner)的著作。斯金纳认为自由意志是一种幻觉,任何行动看上去似乎为自由选择或者自发的产物,仅仅只是尚未受到行为心理学的预测、解释和调整。最后,斯金纳提出,用大规模社交工程取代个体“自由”的混乱,以上分析可以用于这一取代过程。朱伯夫认为,如麻省理工学院的阿历克斯·桑迪·彭特兰(Alex “Sandy” Pentland)等主要的研究员如今正继续研究这一思想,彭特兰于2014年发表的文章《个体性之死》(The Death of Individuality)中指出:我们不应再让个体成为理性的管理单位,聚焦于我们的社会是如何由一个“集体智慧”统领。尽管大多数硅谷开发者似乎缺乏斯金纳和彭特兰的乌托邦(或者更确切地说,反乌托邦)野心,但朱伯夫警告称:硅谷追求从行为调整中获利,与工具主义的社交控制最终殊途同归。

该书将工具主义描述为:此前明显更为慈善的资本主义形式的“决定性突破”。朱伯夫在全书临近结尾时对市场资本主义大加赞赏,认为它在美英两国“唤醒了迈向自由不可阻挡的步伐”,并帮助“人类从数千年的无知、贫困和痛苦中解放出来”。但她担心,如今的监视资本主义违反了这种早期资本主义模式的一些核心原则,包括自由个人主义、资产阶级家庭、看不见的手,以及她所说的资本和劳动力之间的“有机再循环”。她借鉴亚当·斯密(Adam Smith)和弗里德里希·哈耶克(Friedrich Hayek)的观点,抱怨称,科技公司可获取的海量数据,将使一度不可知的市场变得可预测,从而赋予公司对我们经济生活前所未有的影响力。她指出,硅谷员工相对较少,而且与客户群的关系也不同寻常(它依赖那些被提取数据的用户,这一点与传统客户不同)。她认为,正因为如此,马克·扎克伯格(Mark Zuckerberg)不像亨利·福特(Henry Ford)那样与大众保持着互惠互利的关系。

正是在其对市场民主的讨论中,朱伯夫分析的局限性凸显。对朱伯夫来说,在平台垄断(以及程度更轻的新自由主义)兴起之前,市场的特征是个人自由和自由选择。相应而言,她对监控如何可能加深剥削和胁迫不感兴趣,而这些剥削和胁迫往往构成了市场资本主义,尤其是对边缘化和种族化的社区。她对自由市场的投入也解释了为什么她很少花时间考虑政府在对抗硅谷权力方面可能扮演的角色。在最近的《大众经济学》论文集(Economics for the Many)中,尼克·斯里尼克(Nick Srnicek)倡导脸书等平台垄断企业的社会化。尽管他的提议存在缺陷(斯里尼克承认,政府可以将私人数据置于不同的反乌托邦目的),但它达到了应对这一威胁所必需追求的目标这一程度。相比之下,朱伯夫花了很多时间鼓励我们去行动,却没有告诉我们怎么做。

《监视资本主义时代》成功描绘出硅谷权力日益增长的黑暗图景,但最终未能成功进行政治分析。对监视资本主义的控制是为谁服务、以谁为代价的?朱伯夫给出最为宏大的解释:她认为硅谷正被一种激进的工具主义意识形态所束缚,这种意识形态旨在用大规模社交工程取代自由个人主义。但我们不需要一个令人毛骨悚然的新政治理论来解释发生了什么;在自由资本主义的背景下,它已经非常清晰。公司不会为了追求斯金纳或彭特兰设计的乌托邦而追求控制权。他们的目标要简单得多:首先,通过定向广告获得利润,其次,提升获取的直接经济政治利益。监视资本主义的问题不仅在于监控,还在于资本主义本身。

全书结尾部分,朱伯夫试图鼓动读者行动起来,反对硅谷巨头。她认为,我们不能把侵犯隐私视作个人问题,不认为其可以用新的加密或者回避手段加以管理。与之相对,我们必须将之视为一个社会问题,通过广泛的民主辩论加以解决。她写道:

【“一个人无法独自承担正义的重担,就像二十世纪头几年工人个体无法承担争取公平工资和工作条件的重担……十年以前,工人们为集体行动而组织起来,最终占据权力上的优势地位……今天的‘用户’将不得不以新的方式进行动员”。】

她将目光瞄准了名为“与你无关”(None of Your Business)的维权组织,作为令人鼓舞的集体行动的范例,该组织旨在对那些未能遵守现有隐私规定的公司处以巨额罚款。

当然,她反击的愿望高尚,但朱伯夫从“工人”到“用户”的微妙修辞转换令人不安。对她来说,争取“公平工资和工作条件”的斗争显然已经成为过去,一个世纪前工人们终于“占据权力上的优势地位”,这场斗争才得以解决。当然,我们知道,这些斗争远未结束——监管资本主义正准备让它们变得更加困难。硅谷不仅伤害了亚马逊物流中心或中国苹果工厂的工人,尽管这些违规行为已经够可怕了,还使得所有员工更容易受到老板的监视和窥探。朱伯夫描述了一项为雇主(和老板)提供的新服务,该服务会搜集和分析求职者的社交媒体活动,包括其私人信息,以评估求职者的性格。与此同时,彭特兰建议使用“不引人注目的可穿戴传感器”(unobtrusive wearable sensors),即社交仪,帮助管理者“推断同事之间的关系”。

尽管朱伯夫注意到了这些例子,但她很少花时间讨论它们,而是专注于当我们主要以用户的身份接触技术时,监视资本主义如何在闲暇时间中影响我们。相较于办公室里的监视,她更强调家里的监视;相较于工作时,她更担心我们在购物时被人操控。与此前相同,她对早期市场资本主义形式的缅怀限制了她的批判:朱伯夫热衷于保护理想化的自由个体形象(即某人在市场上自由交换,回家仍有隐私空间),因而较少关注资本主义一直受到监视的社会角落:监狱、医院、边疆、工作场所。

资本主义信息时代让我们无时无刻无处不被监视

图为西弗吉尼亚州教师罢工

图片来源:谷歌图片

不过,好消息是:尽管朱伯夫可能忽视这一点,但劳工组织提供了反抗场所,这比“与你无关”组织倡导的规章和罚款制度都更有希望。如果那些处于社会边缘的人最有可能直接受到监视的影响,那么在包括租户、债务人、移民、囚犯、还有工人等边缘人群中建立权力,将使我们能够抵制监视资本主义的严重滥用行为。西弗吉尼亚州的老师清楚Go365威胁到了他们的尊严和生计,利用工会的力量进行反击并取得了胜利。在抵制监视资本主义崛起的过程中,我们应该借鉴他们的例子。

翻译文章:

Katie Fitzpatrick, None of Your business: the rise of surveillance capitalism, The Nation, Apr. 30, 2019

网络链接:

https://www.thenation.com/article/shoshana-zuboff-age-of-surveillance-capitalism-book-review

作者:凯蒂·菲茨帕特里克(Katie Fitzpatrick),译者:周孟瑶,北京大学法学院研究生,现为法意读书编译组成员。本文原载微信公众号“法意读书”,授权察网发布

「赞同、支持、鼓励!」

察网 CWZG.CN

感谢您的支持!
您的打赏将用于网站日常维护费用及作者稿费。
我们会更加努力地创作来回馈您!
如考虑对我们进行捐赠,请点击这里

使用微信扫描二维码完成支付

原标题:《国家杂志》丨监视资本主义的崛起