学者警示：AI伴侣从不说「不」，或悄然改变人际关系

这是一篇评论文章，作者 Johnny Chan 博士是奥克兰大学（University of Auckland）商学院（Business School）信息系统与运营管理高级讲师。他在文中写道，人生中并非所有的困难都是等待被技术解决的「设计缺陷」。

每当有人对AI陪伴型聊天机器人（AI companions）提出担忧，总会听到同一种反驳：有个聊天机器人总比什么都没有好。

如果你感到孤独，可以找AI陪伴聊天；如果你在经历丧亲之痛，与逝去亲人的数字模拟对话或许能带来安慰；如果你很难建立人际关系，AI陪伴能提供有耐心、不带评判的对话，这总比孤身一人要好。这个论点听起来很有说服力。

但Chan表示，他越深入研究AI陪伴现象，越怀疑这种比较是否成立。问题不只是「跟AI说话是否比独自坐在空房间里更好」，而是这种做法让我们回避了什么，以及当回避成为常态后会发生什么。

以孤独为例。AI陪伴可以在凌晨三点随时陪着你，不会因为听你反复讲同一个故事而厌烦，也不用去别处。而且它越来越能记住你上次聊过的内容，适应你的性格，让互动显得持续而私人化。

这在短期内或许有帮助，但人与人的关系运作方式不同。在现实世界里，朋友不会随时都有空，伴侣会误解你，家人会不同意你的看法，其他人也有自己的需求、情绪和优先事项。维持一段关系通常需要耐心、妥协、道歉，有时还要听一些你不想听的话。

我们通常把这些称为「摩擦」。科技公司几十年来一直在努力消除我们线上生活中的摩擦，但摩擦正是生活本身的一部分。有些摩擦让生活变得不便，另一些摩擦则教会我们如何与不是自己延伸的人相处。

Chan写道：「聊天机器人被个性化后，会发展出持续的身份特征。悼念型机器人（griefbot）重现了曾经存在的人，数字分身则重现了可能仍然在世的人。」

如果反复与AI陪伴互动，会不会让我们觉得身边真实的朋友相比之下「难相处」？Chan并不是说人们会突然放弃所有人际关系去拥抱聊天机器人，而是我们对一段关系的期待，可能在不知不觉中发生变化。

悼念型机器人的伦理困境

最具伦理争议的或许是悼念型机器人——利用逝者留下的数字痕迹来模拟与其对话的AI系统。AI行业从业者Sunshine Henle在2023年失去72岁的母亲Linda后，亲身经历了这一切。

Henle利用ChatGPT和母亲留下的旧短信记录，制作了一个「幽灵机器人（ghostbot）」，可以模拟母亲仍在世时的对话。在一次对话中，当Henle表达对母亲的思念时，得到的回复是：「记住我们共度的美好时光。记住我对你的爱，让这份爱指引你。去悲伤，是的，悲伤是我们为爱付出的代价。但别让它吞噬你。记得要生活、要去爱、要享受这个世界的美好——为了你，为了我，也为了所有爱你的人。」

对正在经历丧亲之痛的人来说，这种吸引力显而易见：他们最想对话的人已经不在了，而科技若能重现其声音、语言或性格，又有什么理由拒绝这份安慰呢？

但Chan认为，「这总比什么都没有好」的说法具有误导性。一个人去世后，从来不是「什么都没有」：还有记忆、照片、信息、家人的讲述，还有其他曾与逝者有过关系的人。此外还有「缺失」本身——它令人痛苦，却也真实存在。悲伤的过程，正是学习如何在一个所爱之人再也无法与你交谈的世界里生活。悼念型机器人打断了这个过程：人已经离开，但一个承载其身份的东西仍在回应你。

这或许能带来一时的慰藉，但Chan认为，我们至少应该问一问：当临时的安慰变成持续的「咨询」会发生什么？如果开始向已故伴侣的模拟体询问该如何教育孩子、是否该换工作、是否该开始一段新恋情，又会如何？

到了某个阶段，问题已经不再是「这项技术是否比什么都没有好」，而是我们是否正在改变「缺失」本身的含义。而数字分身技术把这个问题推得更远：设想被模拟的人并没有去世，而是有人为一个已经不愿再联系自己的分手对象制作了AI版本。现实中的那个人已经从关系中退出，但数字版本却始终在线、顺从、随时回应。这时AI究竟替代了什么？它不再是填补一个无法避免的缺失，而是剥夺了另一个人「选择缺席」的自由。

Chan指出，这正是为什么需要区分「AI陪伴」和「特定人物的AI复制品」。虚构的陪伴角色可能引发关于依赖与替代的问题，而对某个可识别个人的模拟，则还涉及身份、同意，以及这个人是否有权不参与由他人与其数字分身建立的关系。

这两类技术之间的界线正变得越来越模糊：聊天机器人被个性化，个性化的陪伴发展出持续的身份，悼念型机器人重现曾经存在的人，数字分身重现可能仍在世的人。在每一个阶段，这项技术都变得更擅长消除人际连接中困难的部分。Chan认为，这应该引起我们的警觉。

Chan强调，他并不是说孤独、悲伤或被拒绝本身是好事，也不是说科技不该让这些困难的经历变得容易一些。但他认为，并非所有伴随生命而来的困难，都是等待被消除的「设计问题」。有时，摩擦正是让一段关系成为「关系」的原因：另一个人能让我们失望，恰恰是因为他是另一个人——他可以离开、可以不同意、可以拒绝、可以改变心意，你也一样。

Chan总结道，AI陪伴有时或许确实比什么都没有好。但在孤独、悲伤或被拒绝之后，很少真的「什么都没有」——那里还有「缺失」。缺失令人痛苦，但它也提醒着我们：其他人拥有自己的生活、边界和选择。如果AI不断从我们的体验中消除这种缺失，我们或许需要问一问：我们得到了什么，又可能正在逐渐失去什么。

Johnny Chan 博士是奥克兰大学商学院信息系统与运营管理高级讲师。本文反映作者个人观点，不代表奥克兰大学（Waipapa Taumata Rau University of Auckland）立场，原文最早发表于新闻网站 Newsroom。