行业巨头将塑造人工智能未来


    如今,九家大型科技公司正在决定全球各行业的命运甚至是人类的命运,这是因为这几家公司在人工智能方面拥有最大的控制权。
    越来越多的公司正在开发、试验和采用人工智能技术,但很少考虑其行为的潜在长期后果。正如过去50年所做的那样,企业关注可能获得快速回报的技术创新,而其战略通常围绕利润而展开。
    与此同时,人工智能正在向每一个行业进军,使传统的产品和服务实现智能化,这将永远改变人机关系。随着越来越多的自主和智能系统进入市场,将表现出预期和意外的行为,组织必须在时间与市场需求之间取得平衡,并制定合理的风险管理策略,这一点将变得更加明显。
    塑造人工智能未来的九家公司
    未来主义者Amy Webb即将出版的《九巨头》(Big Nine)一书解释了为什么谷歌、亚马逊、Facebook、苹果、微软、IBM、百度、阿里巴巴、腾讯的长期努力可能并不符合其他企业或人类最佳利益的原因。越来越多的企业正在将更多的业务转移到云端,因为可以实施数字化转型战略,并在云端开展更多的服务,其中包括与人工智能相关的服务。但进入云计算领域很容易,退出则不容易。
    同时,消费者可能向这些公司有意或无意地泄露个人信息,却不知道他们与之互动的公司将如何使用这些信息。大多数消费者可能没有意识到这些行业巨头可能比他们的朋友或家人更了解个人信息和生活习惯。更重要的是,九巨头将会继续开发获取更多数据的新方法,这将通过不断涌现的智能产品得到证明。
    Webb说:“丰富的竞争和创新传统使九巨头得以顺利运作。除了美国证券交易委员会的规定之外,流入人工智能的所有资金基本上都没有附加任何条件,而且人工智能的开发和运用也很少有限制和规定。”
    在缺乏相应法律和法规的情况下,企业可以自由地创新和开发,而没有考虑或根本不考虑其行为的长期后果。然而,九巨头公司的一些员工也表明自己的立场:例如,谷歌公司的一些员工表示,拒绝为美国五角大楼提供视频图像识别服务;微软公司的一些员工对美国五角大楼100亿美元的合同表示反对;亚马逊公司的一些员工对美国警察部队和政府机构使用的面部识别系统表示不满。
    很多人工智能系统设计者和开发者以及企业的战略家,倾向于不考虑人工智能的道德影响。即使他们认识到人工智能的道德问题,他们的职业要求和财务激励也围绕着将其产品迅速推向市场,而不是考虑这些产品是否存在无意或有意地使用或滥用信息的潜在情况。
    大多数政府和立法者还没有能力做出适当的回应,国家层级人工智能战略的普遍缺失证实了这一点。一些国家已经制定了自己的战略,如美国、加拿大、中国、沙特等。
    风险建模应该优先考虑
    虽然Webb并不相信一些企业在人工智能未来发展存在恶意,但由于自治和机器智能的发展,因此像对待“另一种技术”一样对待人工智能是不明智的。风险管理策略必须随着技术性质的变化而发展。
    Webb说:“在投入到任何与人工智能相关开发中的资金中,有相当一部分资金应该投入到风险建模中,而现在却没有。风险建模的重点不只是提前确定潜在的负面后果,而是确定漏洞在哪里。”
    任何与人工智能相关的负面问题(例如其潜在风险、在其中建立道德规范或以其他方式考虑广泛的潜在后果)在满足客户需求和资金来源要求之前,不会成为创新过程中不可或缺的一部分。
    全球协调是必要措施
    许多组织正试图采取全球人工智能政策,包括人工智能伦理和治理(哈佛伯克曼-克莱恩/麻省理工实验室)、IEEE关于自主和智能系统伦理的全球倡议以及未来社会的人工智能倡议。尽管他们的努力都是全球性的,但Webb怀疑并不能达到必要的全球协调水平。相反,她设想需要建立一个名为全球情报增强联盟(GAIA)这样的新实体,但她并不知道谁能领导并经营这样的实体。
    创新的自由并不自由
    创新和竞争的愿望正在推动人工智能在各个行业的迅速应用。然而,人工智能采用的速度越来越快,虽然具有潜在风险。
    Webb说,“我们不能一直讨论这个问题,希望人们了解采用人工智能技术存在着机遇,也存在着严重和危险的问题,需要找到一条正确行进的道路。”
    当企业继续将其业务向云端移动,并使用他们随时可用的人工智能工具时,他们可能没有意识到自己与这些公司的协调程度。
    Webb 说,“每个人都知道迁移服务提供商或在Sharepoint和谷歌公司提供的服务之间进行转换是一场噩梦。很多企业本质上就是亚马逊、谷歌、微软这些收集大量信息的公司。我们的许多系统都经过了优化和自动化,但是人们对于谁在决定、何时以及为什么进行优化还没有足够的了解。”
    许多IT领导者并没有思考将企业的业务战略与某个供应商(或一些核心供应商)结合在一起意味着什么,许多IT领导者正在根据成本决定平台的选择,这可能是由于其短期和长期思维。
    Webb说:“大多数首席信息官都没有考虑数据治理和所有权的长期影响,也没有考虑谁将拥有自动化流程的哪些部分。这是一件复杂的事情,这些决定不应该只考虑成本。”
    总结
    随着人工智能应用在更多类别的软件和系统,技术产品和服务转变得更加智能。不幸的是,技术创新、技术采用和技术投资的模型还没有随之发展,只是随着时间的推移而发展。
    虽然越来越多的公共组织和私营组织正在努力解决人工智能的许多影响,但为了每个人的利益,需要进行更有效的全球协调。