新西兰未加入全球AI监管倡议 学者提三点战略建议

在本届联合国大会(UN General Assembly)期间,包括澳大利亚和加拿大在内的20个国家联合呼吁加强对先进人工智能(AI)系统的监管。新西兰与在全球AI产业中占主导地位的美国、中国一样,并未加入这一倡议。

根据麻省理工学院AI风险倡议(MIT AI Risk Initiative)的数据,令人担忧的AI相关事件正快速增加。整体而言,全球AI产业正引发关于伦理、经济、公平与安全的深层问题。

尽管有人警告AI可能带来末日情景,也有人对其发展前景持更温和的看法,但业内预计今年全球AI相关投资将超过1万亿美元。

联合国人工智能独立国际科学小组(UN Independent International Scientific Panel on AI)的初步报告因此指出:“AI能力的快速提升与有效风险管理手段之间的差距,可能导致灾难性后果。”

与此同时,AI带来的经济利益往往被摆在优先位置。美国总统特朗普(Donald Trump)担心美国在与中国的竞争中失去优势,称安全担忧是“骗局”,并拒绝支持全球监管。

新西兰总理拉克森(Christopher Luxon)则认为,机遇仍大于风险。他表示,如果存在担忧,最好与“志同道合的伙伴”共同应对。

这种乐观态度体现在政府对AI监管采取的“宽松”做法上,即避免出台新法律。(这或许也解释了新西兰在负责任人工智能全球指数(Global Index on Responsible AI)中,在45个高收入国家里排名第32位。)

相比之下,反对党工党承诺将在总理与内阁部(Department of the Prime Minister and Cabinet)内设立人工智能办公室,统筹跨政府部门的AI政策,并与澳大利亚合作,协调区域内的安全标准。

但这两种做法都未真正触及当前全球讨论中的“存在性风险”议题。为此,新西兰可以设定以国际先例为依据的三项目标。

倡导预防性原则

与大多数经济合作与发展组织(OECD)国家一样,新西兰的政策制定遵循预防原则:当权威来源显示不作为存在风险时,采取预防性措施是正当的。

科学上的不确定性或短期内看不到明显负面影响,应被视为“黄灯”而非“绿灯”。举证责任应落在新技术开发者身上,由其通过强制性的部署前测试和独立评估来证明技术是安全的。

如果存在合理疑虑,默认做法应是暂停该技术的开发,直到其安全性得到证实为止。

科学外交

联合国人工智能独立国际科学小组目前缺乏足够的政府参与度,难以推动国际政策快速、大规模地取得进展。

类似政府间气候变化专门委员会(IPCC)的模式,可以实现更协调的科学建议,规模更大、涵盖范围更广。

正如应对气候变化一样,只有权威、透明的数据以及对不加约束的AI发展所带来风险的共识,才有可能真正促成政治共识。

优先应对最大风险

从伦理到公平,新框架可以在各个关注领域建立起来。但最优先的,应是那些关联最大风险的领域:战争与冲突、生物危害以及全球金融体系。

实现这一目标的路径已经存在——例如,联合国去年通过的一项决议,就处理了“将人工智能整合进核武器指挥、控制与通信系统的潜在风险”。

新西兰的外交政策也可以倡导以积极方式利用AI,加强对现有《生物武器公约》(Biological Weapons Convention)的核查能力,作为确保该公约有效性所需新议定书的一部分。

同样,今年11月联合国将召开会议审议《特定常规武器公约》(Convention on Certain Conventional Weapons),届时也是一个契机,可以寻求就“有意义的人类控制”、问责制以及遵守战争法与常规武器规定达成具有约束力的议定书。

针对涉及AI、可能引发战争的网络攻击,相关国际法律与协议也亟需关注。

最后,在军事演习和战争推演有失控风险的当下,新西兰可以推动地缘政治对手之间采取建立信任的措施,以缓和紧张局势。

在这方面已出现新的先例:美中两国官员最近提出了一项就重大AI威胁共享信息的新机制。这类进展应被视为积极的第一步而受到欢迎。

本文作者Alexander Gillespie为怀卡托大学(University of Waikato)法学教授,原文经The Conversation授权转载。