过度依赖AI 学者警告人类判断力可能被悄然掏空

新西兰政府宣布开展一项为期四个月的试点,使用AI协助撰写新西兰的生物安全标准。生物安全部长Andrew Hoggard向公众保证,“关键决策仍由专家把关”。

这个说法听起来合理,却引出一个更深的问题:如果专家越来越依赖AI来完成培养专业判断力的那部分工作,他们又要如何察觉AI何时出错?

奥克兰大学商学院的Alex Richter和Guy Bate在评论文章中指出,AI带来的最大风险或许不是机器取代人类做决策,而是人们逐渐失去质疑决策的能力。

在各行各业,人们已经在用AI起草文件、总结信息、分类数据、生成建议。这些工具能节省时间、提升一致性,但也可能减少人们练习自身判断力的机会。

知识记录会失传:quipu的教训

两位作者以一项原住民技术作类比:南美安第斯地区的quipu(奇普,又称khipu),一种用打结绳索记录信息的系统。许多quipu实物留存至今,但解读它们所需的知识大多已经失传——人们能看到记录,却不再理解该如何解读或据此行动。

他们认为,目标不应是让人类“留在流程环节里”,而是要让人类持续锻炼解读、质疑、伦理推理和担责这些能力。依赖AI系统的组织可能面临同样的问题:积累大量AI输出结果,却逐渐丧失质疑、解读、挑战这些结果所需的专业能力。

另一种模式:Marshall群岛的“棒图”

另一项原住民技术则提供了一种可借鉴的替代模式——组织如何在使用AI的同时保留人的专业判断力。

Marshall群岛的航海者用椰子叶梗和贝壳制成“棒图”(stick chart),帮助学习者认识海浪、洋流和岛屿的规律。航海者在陆地上研习、记忆这些图表,但真正出海时,他们依靠身处实境的经验、判断力,并对所选航线承担责任。

这些棒图并非用来替代专业能力,而是用来培养专业能力的工具:它们提供了一种识别规律的结构,同时确保解读、判断和责任始终留在直面实际状况的航海者身上。

作者认为,这正是AI治理应追求的模式:让系统增强人的能力,而不是取代人的能力。目标不是让人类“留在流程里”,而是让人类持续运用解读、质疑、伦理推理和担责这些技能。如果这些技能因为缺乏练习而流失,所谓的“留在流程里”就会变成一种仪式——人只是负责在最后打个勾表示批准,而大部分分析工作早已交给了系统。

生物安全试点正体现了这种风险:专家或许仍做出最终决定,但如果AI承担了越来越多的实质性工作,它就会开始影响证据被权衡和解读的方式。久而久之,原本留给人的判断,可能悄悄转移到技术本身之上。

责任在纸面上,判断力却在软件里

目前,不少组织已在部署那些连人类自己都难以解释的AI生成建议系统。在这种情况下,责任在文件上仍归属于人,但判断力却越来越多地存在于软件之中。

作者结合Marshall群岛棒图的类比,在近期关于“以价值为中心的AI”研究中总结出三种反复出现的风险:责任逐渐脱离实际的行动主体、人的能力退化、决策失去合法性。quipu与棒图的对比让这一反差变得具体:一种记录方式的输出可能脱离了理解本身。

AI能够处理海量信息、识别规律、模拟未来情境、生成方案选项,但人类仍须自问:当下的情况是什么?谁会受到影响?在这个情境下,什么才算合法、公平、负责任?

真正的检验标准,不只是有没有人“留在流程里”,而是人是否仍在实际运用判断力:他们能否重现一项建议是如何得出的?能否质询证据?能否挑战其假设?能否行使有实质意义的否决权,并解释最终决定?如果做不到,名义上的监督就会沦为一种仪式。

作者建议,管理者应在系统嵌入业务流程之前,明确公平、合法性、员工福祉等优先事项;同时界定角色与边界,保留原始假设与证据,并建立升级路径、否决权以及最终决策的责任归属。

quipu提醒人们,当解读所需的社群和实践消失后,记录本身也会变得晦涩难懂。棒图则给出一个互补的启示:工具可以强化人在实境中的专业能力,而不是取代它。因此,真正的挑战不在于AI能否变得比人类更聪明,而在于我们能否设计出让人类保持能力、担责与智慧的AI系统。

一个人的签名能告诉我们谁批准了AI生成的结果,却无法告诉我们质疑这个结果所需的专业能力是否依然存在。对AI治理而言,关键问题不是人是否还“留在流程里”,而是在最需要判断力的时刻,人是否依然有能力运用它。

Alex Richter教授是奥克兰大学商学院AI Initiative机构Huanui的负责人,该机构致力于与产业界、政府和社区合作,将AI研究成果转化为社会影响力。Guy Bate博士是奥克兰大学商学院AI领域的专题负责人(Thematic Lead)。