聚焦2024数智科技研讨：AI与技术理性下的思想标准化议题本周将在石泉启幕

《AI的批判理论》

作者：[瑞典]西蒙·林德格伦

译者：周亦张

版本：南京大学出版社·守望者

2026年8月

技术统治论（technocracy）并非新鲜词，它在政治史上扎根颇深，往往与专家统治（expert rule）互为表里。这一概念既能追溯到柏拉图笔下那位掌握着统御大众“真知”的哲人王，也能在圣西门那里找到回响——他将生产效率的最大化奉为社会最高准则。此外，泰勒主义（Taylorism）借由工程专业知识的推波助澜，渗入管理、政治乃至日常生活的肌理，也是其生动注脚。在这种社会架构中，技术与专业特权被赋予了治理的合法性，那些看似客观的技术流程，实则正主导并重塑着整个社会的运转逻辑。

人工智能等领域的突破，常给人势不可挡且晦涩难懂之感，仿佛已脱离人类的掌控与抉择范畴。一种潜意识的思维正在蔓延：只要技术上可行，便理应去尝试。这种观念源自启蒙时代对进步的信仰，坚信信息与科技具备普世的解放力量。人们普遍相信，更广泛的数据获取与更强大的分析能力，终将造福社会。

赫伯特·马尔库塞在《单向度的人》中曾警示过一种基于纯粹技术理性的社会形态。所谓技术理性，是指当技术的可行性取代了我们对社会与政治目标的思考时，所构建出的那种社会秩序。马尔库塞当年警告说，先进的工业社会可能催生“虚假需求”。如今的风险如出一辙：人工智能技术的飞速迭代提供了海量可能性，让我们误以为必须寻求某些“解决方案”，仅仅因为这些方案在技术层面变得触手可及。换言之，AI自由意志主义与技术统治论之间存在着紧密的逻辑链条，前者不过是后者的“当代变体”。

若要深入剖析技术统治论，不妨回溯马尔库塞的《现代技术的一些社会影响》，该文探讨了人与技术的关系。他的论述汲取了早期理论的养分，即技术理性作为工业资本主义发展的产物，如何促成了一种冷酷、计算的社会逻辑。马克斯·韦伯早已指出，现代人被迫困入理性、可计算性与官僚制的隐喻性“铁笼”，任何自发行为在此皆被消解。韦伯解释称，这种演变是因为它“相较于其他组织形式，拥有更纯粹的技术优势”。事实上，正如韦伯时代的工业机器，当今由AI驱动的决策系统与自动化装置同样提供着类似的特质：“精确、迅速、明确、档案完备、连续、审慎、统一、严格的隶属关系、极少的摩擦。”我们可以从当前推广AI自动化的企业营销文案中窥见一斑：

你是否需同时操作多款产品、供应商及用户界面（UI）来辅助决策？若能拥有一个统一平台管理所有技术方案，从而摆脱因信用风险周期碎片化而导致的认知不全，岂不更好？(Provenir, 2022)

借助智能流程自动化服务重塑员工队伍，以此节省开支、提升准确度及生产率。(TietoEVRY, 2021)

我们的自动化招聘软件通过以下方式为招聘人员赋能，助其发挥最大效能：每次均推送符合标准的精选候选人；通过数据分析，让你迅速掌握招聘目标的追踪情况。……我们并非普通的AI招聘软件。（我们将）机器学习与人类洞察力相融合，使顶尖团队能快速搭建多元化且合格的候选人渠道，无需耗费大量时间搜寻人才。(fetcher, 2022)

此类推论暗示，该技术有望提供——借用韦伯的词汇——精确性、速度、知识储备、审慎态度以及更低的摩擦成本。但与此同时，这也以“严格的从属关系”为代价。马克思曾言，在工业资本主义体系中，工人“作为商品在市场上出卖”。这与AI招聘中提供的“批量”候选人及“渠道”概念不谋而合。

图源/unsplash

AI系统在助推非理性的合理化与商品化方面，蕴藏着巨大且危险的能量。就此而言，AI资本主义与工业资本主义并无二致。手段与机器虽新，目的与后果却趋于一致。如同加州意识形态的特征那样，早期工业资本主义受经典社会理论描述，带有一种将自身自然化、不可抗拒的意识形态色彩。社会学家托斯丹·凡勃伦写道，这项技术是“盲目且不负责任的”：

因此，技术的逻辑即是机器过程的逻辑，这是一种关乎质量、速度、张力与推力的逻辑，而非关于个人灵巧、机敏、训练与惯例的逻辑……

回归马尔库塞，他旨在批判的正是这种精准的技术理性。他提出应将技术视为一种社会过程。“技术本身”，即AI系统、算法、机器学习模型等实体，仅是“技术”整体的一部分，整体还涵盖社会要素。技术诞生于社会语境，AI亦然。马尔库塞强调，技术与社会互为依存，这不仅体现在“发明或照料机器”的人（AI开发者、部署者、人机回圈中的操作人员）身上，也体现在目标受众及使用者身上。换言之，马尔库塞认为，技术不仅关乎小工具，更关乎它们如何塑造社会组织并嵌入社会关系。再次重申，这是一种装配。技术能够折射社会中普遍存在的思维与行为模式，进而可能沦为统治与控制的手段。

马尔库塞指出，正是在这一框架内，随着历史进程中技术的发展，社会中确立了一种新的理性与社会规范。他所描述的技术理性，既非“机器”对人的直接作用，亦非衍生影响。相反，关于技术理性的观念本身就是“机器发展的决定性因素”。在AI装配的语境下，这意味着AI既在塑造社会，也在被社会所塑造。

正是通过物质-技术维度与意识形态维度之间相互强化的互动，技术理性在工业资本主义中被确立为“普遍的思维模式”，它“建立了判断标准，培养了态度”。因此，除了针对特定AI应用提出那些重要但或许短视的伦理与公平问题，我们还必须探讨这些技术如何更广泛地成为社会生活的指南。马尔库塞通过一则逸事阐释了技术理性的概念：

试举一例。驾车远行者在公路地图上规划路线。城镇、湖泊与山脉宛如需绕行的障碍。乡村由高速公路塑造并组织：人们在途中所见，多为高速公路的副产品或附属物。诸多标志如海报般指示旅行者该做什么、想什么，甚至要求其留意自然之美或历史印记。他人已代为考量，或许为了获得更佳体验。人们在视野最开阔、景色最壮丽处修建便捷的停车场。巨型广告牌告知何时驻足，稍作休息以消除疲劳。这一切确乎是为了其利益、安全与舒适；他得到了想要的东西。商业、技术、人类需求与自然融为一体，形成一个合理且便利的机制。遵循其指示，令自发性服从于安排一切的匿名智慧（anonymous wisdom）者，旅途最为舒适。(Marcuse, 1941, 46)

马尔库塞意在说明，在技术理性主导的社会中，（过多）事物被标准化与控制。即便我们与环境中更多非结构化部分（“湖泊”与“山脉”）产生关联，它们也易被视为障碍。当AI模型过度简化现实时，是否也在做同样的事：告知何者重要，指引为何景着迷，规定何处“停车”，何处“止步”？

计算机科学家杰森·S.梅特卡夫及其同事在探讨AI及相关技术为何未能释放潜力时，强调了这一问题，主要原因在于人们普遍倾向于过度简化人与技术的互动。“所有模型都是错误的”这句统计学格言广为流传，而在许多机器学习应用中，存在一种趋势，即通过使用过于简化的衡量标准来判断预测的价值。正如生物学家所解释，这可能导致对“分类器在现实世界场景中的适用性”产生“天真”的假设。AI面临的一项伦理挑战，便与“担忧将复杂问题过度简化为单一算法输出”密切相关。

马尔库塞关于旅行者的逸事还揭示了另一个问题：在受技术理性支配的社会中，人们被“匿名智慧”告知“该做什么和想什么”。AI是近年来定向广告发展的关键一环。通过定向广告，在线主体被算法识别，并被引导至特定的消费理念或形式。正如肖莎娜·祖博夫所述，这种算法广告象征着她所称的“监控资本主义”的“新兴积累逻辑”。同样，克里斯蒂安·福克斯认为，在数字资本主义中，定向广告已成常态，Meta等公司借此掩盖其“对用户活动的剥削”；而这会产生“用于销售定向广告并赚取巨额利润”的数据。这高度契合讲求效率、合理化与利润的意识形态。IBM沃森在这一领域的广告如下：

广告中的AI指在机器中模拟人类智能，这些机器被编程得如人类般思考，并根据投喂的信息模仿人的行为。它们利用历史数据从过往经验中学习，并在未来做出更明智的决策。广告商可利用AI创造更个性化的体验，精准定位目标受众，加速决策过程。(IBM,2022)

AI驱动的广告倾向于替我们做出选择，犹如电视、电影和音乐流媒体服务中的算法，指引我们下一步看什么或听什么。这与科技哲学家刘易斯·芒福德在《技术与文明》一书中关于人类的观点相呼应。他在书中将工业资本主义中的人描述为“客观人格”（objective personalities），而非“主观人格”（subjective personalities）。前者的倾向与行为是通过“机器过程”的“事实性”来协调与标准化的。显然，AI行业内部对其系统中潜在的偏见问题深感忧虑。但IBM写道：“尽管在处理AI时，偏见可能对广告商构成挑战，但若部署得当，机器学习技术亦可帮助减轻广告活动中的偏见。”其论点实质是，更多、更好或不同的AI将解决AI的问题。然而，正如芒福德近一百年前所言：

认为机器造成的社会困境可仅凭发明更多机器来解决，这在当下是不成熟思维的标志，近乎江湖骗术。(Mumford,1934,367)

萨多斯基解释说，信奉技术理性意识形态者，即技术统治论者，相信自己拥有一套可用于解决任何问题的工具。随之而来的是“深深的傲慢”“对自身局限性的极度无知”以及“对其他方法的极度漠视”。马尔库塞认为，这种思维导致人类适应了缺乏真正自主性的“装置”。关键在于，通过这种方式，装置的逻辑超越了技术领域，延伸至社会、文化乃至个人思想之中：

人类行为被配备了机器过程的理性。(Marcuse,1941,47)

图源/unsplash

作为补充例证，科幻作家兼未来主义者斯坦尼斯瓦夫·莱姆在《技术大全》一书中写道，技术如何在“自身进化过程中缓慢地控制几乎整个社会运行机制”。马尔库塞进一步认为，随着“顺从机制”（mechanics of conformity）从技术领域扩散至社会秩序，这些机制不仅将成为机器的管理者，还将成为学校、工作场所、社会组织及个人私人生活的管理者。就AI驱动的推荐系统及AI助推（nudging）而言，存在一种潜在风险，即我们正走向马尔库塞所预言的情景：批判性思维被视为“社会性的无能”，因为人们的思想在“技术理性的影响下”变得标准化。

此处的危险在于，我们的生活与思想越受技术理性浸染，质疑或反对现状的批判理性空间就越狭窄。因此，技术统治论宣称自身是充分优化、客观且高效的，从而将其“解决社会问题的方案当作低效政治程序的实用替代品”。应用一种不完美的算法，无疑比深入研究性别歧视、种族主义等问题更具诱惑力，也更有利可图。正如萨多斯基所言，技术统治论与加州意识形态的自由意志主义之间也存在显著联系：

只要聆听过硅谷大受欢迎的企业家、工程师和高管的主题演讲，便会觉得技术统治论的思维模式——所谓的非意识形态的意识形态——颇为耳熟。这包括埃隆·马斯克对乘坐公共交通的厌恶（解决方案是挖掘地下隧道），以及投资者马克·安德森对印度阻止脸书向新市场扩张的愤怒（解决方案是拥抱殖民主义）。(Sadowski, 2020, 68)

正如萨多斯基所指出的，技术统治论的一个明显危险在于，尽管它看似“非意识形态”，实则绝对是意识形态的。随着技术被视为一种自然力量，技术天才与巨头被视为拯救世界的慈善家（Samaritan），问题永远聚焦于“如何做”，而从不追问“为何做”。在此意义上，技术统治论是一种威权主义形式，它规避民主决策，混淆道德复杂性，偏袒“设计通往乌托邦之路”的专家，致使“所有人类价值观皆可被忽视、弱化或重新定义为技术参数”。

本文摘自《AI的批判理论》一书，经出版社授权刊发。

原文作者/西蒙·林德格伦

摘编/张进

编辑/张进