未来智能安全环境中新攻击手段与态势该如何应对？
至顶网AI、大数据等新技术应用到安全领域之后，给安全带来了新的思路，比如主动安全、零信任安全等等，但同时这些技术也会被攻击者所利用。IBM Security全球副总裁Bob Kalka在本届互联网安全大会（ISC 2020）中，向我们介绍了在即将到来的智能时代，要通过何种思路来应对未来智能安全环境中新攻击手段与态势。
Bob Kalka 是IBM Security的全球副总裁，负责管理IBM Security全球的技术人员。在其31年的职业生涯中，有26年是在帮助IBM发展安全业务。本文为Bob Kalka的观点。
智能安全的信任和透明
智能安全是一个非常好的概念，它引申了关于AI在安全领域的讨论。在IBM，我们采用的是信任和透明原则。AI、以及其他新技术的开发和部署，都要遵守这样的原则。而且我们鼓励所有技术公司，都应采用类似的原则。
信任和透明原则有三个核心：
一、AI的目的是增强，而不是取代人类的智慧。
首先，我们更倾向于把AI说成增强智能，因为如果称之为人工智能的话，人们会认为机器人将会取代一些职业。在这一领域，IBM以Watson等为代表的AI研究，已经有数十年的历史了。但我们并没有发现一些职业已经被取代，AI只是帮助人们更好的完成自己的工作。
其次，数据和洞察属于其创造者。客户不一定要放弃对自己数据的所有权。显然，在这一点中，隐私尤其重要。
第三，包括AI系统在内的新技术，必须透明且能被人理解。IBM采用了信任和透明的原则，这对于先进的技术研发非常重要。
人工智能 能力越大，责任越大
如何把AI应用在正确的地方，在这里又有三个关键点：
第一关键点：AI发展的好，随之而来的就是责任。
第二关键点：我们应该把AI应用在合理的地方，比如网络安全中威胁情报的获取、分析和应用。威胁情报的来源可能有数百万个，而只有约20％的来源是在网上有收录和可搜索的。
如何才能进行有效的威胁调查？今天大多数人的做法，是对这20％的数据进行手动搜索。大约在四年半之前 IBM就开始训练Watson来获取、分析和应用威胁情报。现在我们存储的威胁来源数量已经超过了一百万。
有时候IBM的客户四五秒就可以查到想要的来源，Watson会告诉你：
“我认为这个应当是需要引起你注意的威胁：
准确率大约为……、
这是我导出这一结论所用的XX个来源、
如果想查看详情，可以点击这里……”
这种能力，Watson的网络安全能力是和IBM的 QRadar平台互通的，这完全不同于IBM的竞争对手。有一个客户说，通过应用AI，他们的威胁调查快了60倍。
AI攻击 全新的威胁形态
很显然，攻击者群体也想利用AI，我们必须专注于保护AI模型本身。
这里也有三点：
第一点：我们已经看到攻击者在利用AI进行攻击。AI让他们获得了巨大的回报，所以我们必须采取预防措施。
第二点：攻击者会攻击AI模型，他们会一点一点的、不断的把错误信息注入到模型当中，最终模型可能会出错而给出错误的答案。不过这些技巧都被IBM的平台一览无余，能够完全知晓。
第三点：对模型本身的盗取。显然，如果你偷了别人的模型，你可以用他的AI。因此，IBM花费了大量的时间和精力，来确保这些问题或任何问题都不会发生。
1 2 下一页>
