通用电气为算法引入业务风险考量,试用“谦逊人工智能”


    通用电气认为,人工智能可以具备一定程度的谦逊,算法将有足够的意识来了解它们不知道的东西。
    通用电气研究公司表示,它一直在其风电场和燃气轮机的数字化双胞胎部署试用“谦逊人工智能”。该计划旨在将谦逊人工智能注入GE的数字化双胞胎产品和服务。
    谦逊人工智能指的是在遇到算法无法识别的情况时,具备默认切换到已知安全操作模式的能力。
    在安全模式下操作时,谦逊人工智能可以通过收集更多操作数据、人类工程师的输入,与其他资产的关联以及运行其他模拟和场景来学习新情况。
    通用电气全球研究公司软件研究副总裁Colin Parris表示,该公司的谦逊人工智能方法正在风电场进行试点。Parris表示:“我们希望向算法引入业务风险的概念,并为你提供模型失败的早期预警和预测……了解我将这些资产引入哪些商业风险。”
    Parris解释说,人工智能背后的主要思想是,模型将了解他们的能力以及他们具有高度自信的领域。如果模型看到的是其置信区之外的东西,比如温度范围,那么该模型将足够谦逊,知道自己在这方面不自信。
    Parris 解释说:“人工智能应该谦虚地知道它不在其能力范围之内,并转向标准操作。”
    Parris表示,归根结底,谦逊人工智能的承诺是,它能够以更低的商业风险提供更快的价值。