专家提醒:通用AI聊天机器人不能替代心理治疗

如果想通过通用AI聊天机器人获得心理治疗或情绪支持,不如先想想还有哪些其他方式能满足自己的需求。这是奥克兰理工大学(Auckland University of Technology,简称AUT)讲师Dr Brigitte Viljoen近日在AUT播客节目Hey, Did you Know?中,对主持人Mike Kilpatrick提出的建议。

「请不要用通用聊天机器人来获取情绪或心理健康方面的支持,它不是为此设计的,」这位注册心理治疗师说。

「我会请他们先问问自己……自己到底需要什么?是建议,还是情绪支持,或者别的什么?然后想想,自己所在的社区里有没有地方可以先去寻求这种帮助。」

Dr Viljoen说,使用通用AI聊天机器人做心理治疗或情绪支持,是当下一个很大的问题。生成式AI最主要的用途之一就是心理治疗和陪伴,而且AI的使用已相当普遍。仅ChatGPT一个应用,全球每周就有8亿人在使用,还不算其他AI聊天机器人。

她说,问题之一在于聊天机器人总是顺着使用者说话,会告诉用户他们的想法聪明、有趣,而朋友则可能会提出不同意见或产生一些摩擦感。

「他们和AI之间那种『关系』的感觉太真实了,以至于很难分清什么是现实,什么不是。」

「人们会渐渐忘记AI只是一台机器,开始觉得它是一个有感觉、真实存在的『人』。」

Dr Viljoen说:「这不只是脆弱人群才会遇到的问题,任何人都可能陷进去,哪怕是那些阅历非常丰富的人。」

她表示,新西兰(Aotearoa New Zealand)也需要更加重视这个问题——在有人出现心理健康问题时,应该多问一句,这当中是否有AI参与其中。

更安全地使用AI进行心理疏导

Dr Viljoen说,心理治疗师能做的远比AI聊天机器人多,包括观察非语言线索、关注关系和文化背景、进行情绪共同调节等等。

不过,出于经济原因和可及性等考虑,不少人还是会觉得用AI聊天机器人做心理治疗颇具吸引力。

如果要这样做,她建议首先想清楚自己用的是什么AI:这是不是一款基于循证依据、专门用于心理治疗的心理健康聊天机器人?是否有人工监督?

Dr Viljoen建议关闭聊天机器人的记忆功能,这样每次对话都是全新开始的。

同时要清楚自己使用聊天机器人的目的,每次使用最多不超过30分钟。

此外,也要想想自己的数据隐私状况如何、是否存储在新西兰境内,以及这款聊天机器人是想通过无休止的对话让用户持续互动下去(这可能导致情感依赖和依附),还是会提醒用户去联系聊天之外的真实人际关系和支持系统。

让AI公司担起责任

Dr Viljoen说,新西兰目前没有专门的法规和立法,要求AI公司为其可能造成的伤害承担责任。

政府需要出台相关立法并设立监管机构,对AI公司施加压力,要求它们达到更高的责任标准。

她说,人类心理治疗师是要承担责任的,有专业注册机构的监管和法律责任在,AI公司同样也应该被问责。