谷歌新任AI高管:“恐怖场景”或将带来人工智能发展瓶颈


    不少人对人工智能非常忌惮。可以这么说,科幻电影里刻画的那些“错误进化”的冷酷机器影响了公众对人工智能的看法。
    但该领域里的三位专家表示,人们感到不安也是有合理的原因。尽管电影《终结者》还没变成现实,但卡内基梅隆大学计算机学院的主任Andrew Moore表示,某些情景下的人工智能的确会给人们带来威胁。Moore很快将成为Google Cloud AI的主管。
    去年11月,Moore播放了名为《人工智能和全球安全倡议》的幻灯片,他表示:“如果发生了人工智能引发的灾难,例如无人驾驶汽车因为系统漏洞撞死了人,坦白说我认为这已经发生了,那么某些人工智能系统将被封锁,至少在美国地区是这样。”
    “有太多让人害怕的场景,我就不一一叙述了,我们真的很担心这些事情的发生,它们有可能引发机器人研究的全面封锁。”Moore说道。
    而Moore发表声明的同时,大量的风险资金涌入了人工智能领域。
    谷歌、微软、IBM、亚马逊、Facebook等公司竞相研究这种技术。谷歌首席执行官桑德尔·皮查伊曾表示,对人类发展而言,人工智能的重要性将超过电和火。
    尽管如此,也有研究人员表达了这种技术的担忧,警告称人工智能一旦被用于歧途,将带来严重的后果。
    上周,谷歌中国的前总裁李开复预测人工智能将为许多行业带来变革,并创造出大量的财富,但这些财富最终会集中到少部分人手里。他声称,有了人工智能的帮助,企业拥有者能省掉大量劳动力,让他们曾经的工作实现自动化。
    “因此人工智能会创造出新的富翁和平困人群。”李开复在2018年的旧金山人工智能大会上说道。
    在这个大会上,纽约大学AI Now的联合创始人Meredith Whittaker描述了埃隆·马斯克和马克·扎克伯格等技术人员正在寻找人类通过思想控制机器的方法。她预测在不远的将来,这种技术就会出现,它能理解和存储我们的想法。
    Whittaker又丢出了第二个问题:那么如果一家公司能搜集它客户的想法并进行记录,将发生什么事情?她认为这种可能“很恐怖”。
    同样“恐怖”的是,人工智能系统对人类情感的理解能力逐渐加强。
    “直到三四年前,计算机视觉和语音处理的进步,使得机器可以识别人、物体,并将口头语言转换成书面的语句。现在我们已经可以再进一步,手机上摄像头的分辨率已经能看到脸上的瑕疵,并利用它们的运动来追踪整个面部皮肤。”Moore说道。
    “通过面部追踪,你可以识别出脸下的哪块肌肉在运动。利用已有的心理学知识,加上肌肉的运动,你可以检测出面部动作和细微的情绪,甚至有时候人类自己都没意识到。”Moore补充道。“这意味着我们能够识别出对象在讲话过程中的激动、喜悦、恐惧和轻蔑。”
    不少人对人工智能非常忌惮。可以这么说,科幻电影里刻画的那些“错误进化”的冷酷机器影响了公众对人工智能的看法。
    但该领域里的三位专家表示,人们感到不安也是有合理的原因。尽管电影《终结者》还没变成现实,但卡内基梅隆大学计算机学院的主任Andrew Moore表示,某些情景下的人工智能的确会给人们带来威胁。Moore很快将成为Google Cloud AI的主管。
    去年11月,Moore播放了名为《人工智能和全球安全倡议》的幻灯片,他表示:“如果发生了人工智能引发的灾难,例如无人驾驶汽车因为系统漏洞撞死了人,坦白说我认为这已经发生了,那么某些人工智能系统将被封锁,至少在美国地区是这样。”
    “有太多让人害怕的场景,我就不一一叙述了,我们真的很担心这些事情的发生,它们有可能引发机器人研究的全面封锁。”Moore说道。
    而Moore发表声明的同时,大量的风险资金涌入了人工智能领域。
    谷歌、微软、IBM、亚马逊、Facebook等公司竞相研究这种技术。谷歌首席执行官桑德尔·皮查伊曾表示,对人类发展而言,人工智能的重要性将超过电和火。
    尽管如此,也有研究人员表达了这种技术的担忧,警告称人工智能一旦被用于歧途,将带来严重的后果。
    上周,谷歌中国的前总裁李开复预测人工智能将为许多行业带来变革,并创造出大量的财富,但这些财富最终会集中到少部分人手里。他声称,有了人工智能的帮助,企业拥有者能省掉大量劳动力,让他们曾经的工作实现自动化。
    “因此人工智能会创造出新的富翁和平困人群。”李开复在2018年的旧金山人工智能大会上说道。
    在这个大会上,纽约大学AI Now的联合创始人Meredith Whittaker描述了埃隆·马斯克和马克·扎克伯格等技术人员正在寻找人类通过思想控制机器的方法。她预测在不远的将来,这种技术就会出现,它能理解和存储我们的想法。
    Whittaker又丢出了第二个问题:那么如果一家公司能搜集它客户的想法并进行记录,将发生什么事情?她认为这种可能“很恐怖”。
    同样“恐怖”的是,人工智能系统对人类情感的理解能力逐渐加强。
    “直到三四年前,计算机视觉和语音处理的进步,使得机器可以识别人、物体,并将口头语言转换成书面的语句。现在我们已经可以再进一步,手机上摄像头的分辨率已经能看到脸上的瑕疵,并利用它们的运动来追踪整个面部皮肤。”Moore说道。
    “通过面部追踪,你可以识别出脸下的哪块肌肉在运动。利用已有的心理学知识,加上肌肉的运动,你可以检测出面部动作和细微的情绪,甚至有时候人类自己都没意识到。”Moore补充道。“这意味着我们能够识别出对象在讲话过程中的激动、喜悦、恐惧和轻蔑。”