外媒:美国在联合国上拒签AI杀手机器人的禁用协议


    据法新社日内瓦12月2日报道,华盛顿2日在联合国拒绝了一项管控或禁用杀手机器人的约束性协议的倡议,而是提出应该制定相关的“行为准则”。
    本月13至17日,联合国将召开《特定常规武器条约》(Convention on Certain Conventional Weapons,CCW)缔约国第六次审查会议。在此次会议之前,各国代表在日内瓦会面,讨论致命性自动武器的使用规范。
    
    据了解,联合国自2017年以来一直在日内瓦举行外交对话,旨在就解决杀手机器人的使用问题达成协议。但迄今为止,各国甚至就是否需要对此类武器进行管控也尚未达成一致意见。
    许多国家提议尽快签订法定协议,限制杀手机器人这类武器的使用,包括智利、墨西哥、巴西、阿根廷、菲律宾、巴勒斯坦等,新西兰在11月30日亦表示将会推动相关禁令。
    在日内瓦的讨论会上,美国却拒绝签订该项法定协议,美国代表乔希·多罗辛(Josh Dorosin)在会上说:“我们认为,取得进展的最佳方式是起草一份没有法律约束力的行为准则。”多罗辛认为,行为准则就能够督促国家负责并遵守国际法。此外,印度也拒绝签订该项协议。
    以美国和印度为代表的反对立法国认为,就算他们不研发杀手机器人,其他国家也会。
    麻省理工学院物理学终身教授、未来生命研究所创始人Max Tegmark教授认为这样的说法不成立,他认为,联合国以往通过立法禁用生化武器,已经成功地限制了生化武器的广泛使用,而杀手机器人跟生化武器一样,便宜且致命!
    【科学家警告:AI杀手机器人能大规模杀戮】
    关于AI杀手机器人的问世,科学家并非没有警告过。美国加州大学伯克利分校计算机科学教授Stuart Russell在国际上赫赫有名,他的著作《人工智能:一种现代的方法》在全球被1500所大学用作教科书,他过去10年一直希望禁止AI技术应用于锁定人类的全自动武器。
    早于2017年,Russell教授在日内瓦的外交会议上报告他对AI武器的看法,他播放短片《杀戮机器人》(Slaughterbots),片中描述一种直径约8厘米的小型无人机,可携带炸药,靠近并炸死敌人。
        
    视频:Russell教授播放小型杀人无人机的短片Slaughterbots
    俄罗斯大使看到此片的反应却是嗤之以鼻,认为这种情节只是科幻小说,在未来25到30年内都不用担心。Russell教授当时认为不需那么久,几个研究生花几个月就能组装这样的武器。
    果不其然,该会议的3个星期后,土耳其就出现与《杀戮机器人》片中一样的武器。
        
    视频:土耳其武器制造商STM推出的自动杀人无人机Kargu
    2017年11月,土耳其武器制造商STM宣布一款自动杀人无人机Kargu,可通过人脸识别锁定目标。据联合国报告,这款Kargu无人机被应用在2020年的利比亚内战中。
    Russell教授表示,在国际上,土耳其的科技水平并不高,STM也只是小型的武器制造商,所以可以想象其他国家也正在研发这类武器。
    Russell教授警告称,致命的AI武器体型很小,成本很便宜,制造门槛也很低,假如不加以监管,AI武器可以像枪械一样普及,产生巨大威胁。
    【人民网发文:莫让人工智能技术走入歧途】
    美国拒绝签订禁用杀手机器人的约束性协议的倡议书后,12月3日,我国人民网随即发表题为《莫让人工智能技术走入歧途》的文章。
    文章表示:“从实际情况看,美国、俄罗斯、日本、英国、印度等主要国家均认识到人工智能军事应用的颠覆性力量,积极发展和部署智能化武器系统。一些中小国家为借助智能武器系统获得挑战大国的非对称优势,也对其趋之若鹜。从他们的所作所为来看,都是为了谋求一己私利,企图利用人工智能技术巩固自身军事优势。”
    文章最后表示,期待12月13-17日联合国召开《特定常规武器条约》第六次审查会议上,各方能秉持“智能向善”的理念,提出符合全人类共同利益和价值观的人工智能军事应用治理规则。
    毕竟,无序的人工智能军事应用将给人类带来无法承受之重,只有在人工智能领域打造人类命运共同体,才是唯一的出路。