喜忧参半的AI,“裸奔”之下的隐私焦虑


    最近有一件涉及隐私的“小事”颇让人回味。
    某网友在微博上盛赞了支付宝的界面模糊功能,让这个小Trick大火了一把。
    能有这样的影响力,日夜维护芯片安全的程序猿和硬件工程师们估计要哭晕——上不了台面的几句代码竟然如此火热。
    细想之下,这件事推波助澜的关键其实就在于人们对隐私保护的极度渴望。隐私安全的缺乏导致这份共鸣在如此小的功能身上汇聚,由此引发的热议也在情理之中了。
    意外的用户界面模糊
    事情的起因原本很简单。如图所示,一位网友在用手机后台切换程序时突然发现支付宝的页面自动模糊,因此对这一细节感到十分惊喜,发了微博称赞支付宝。随后支付宝转发了这一用户的微博,并附上一句 “开心到模糊。”
    这迅速激发了广大用户对自身手机功能的查验,包括争论起了这一贴心的功能是支付宝的功劳还是归功于苹果手机。事实上,在苹果手机上,不仅仅是支付宝,很多金融类App都有这样的效果,以增加安全效果。
    这可能是很多人没有意识到的一件事,在支付过程中的可视范围内,身边的陌生人对你的花费和密码其实一览无余,而界面模糊就能稍微起到一些防护作用。而这一场景催生的需求只是信息安全产业链中微不足道的一环,类似支付宝这一功能的雏形也很早就有。2015年,有人在网上开源平台上分享过这一功能的代码实现,简单到只有短短十五行。意外的是,它在体验上却带给了用户120分的惊喜。
    事实上,用户会有这样的反应确实也不意外。中国互联网络信息中心发布的第42次《中国互联网络发展状况统计报告》显示,2018年上半年54%的中国网民在上网过程中遇到过网络安全问题,其中遭遇个人信息泄露问题占比最高,达到28.5%。
    对于每天裸奔在各大平台的我们来说,数据隐私保护早已是老生常谈。但不可否认的是,无论是此前Facebook的数据泄露事件,还是后来亚马逊邮件信息失窃,无一不在警示一件事尽管网络安全被一再强调,用户隐私“被破坏”的情况却愈加严重。这也是为什么,一个UI小设计带来的效果让人如此印象深刻的原因了。
    隐私保护为什么这么难?
    事实上,信息化社会导致当前网络个人信息获取、存储和利用的环节众多,因而隐私保护这件事变得复杂了许多。仅在个人信息泄露的过程中,就有着从源头的个人信息非法采集,到出售、购买、转售,再到获取、存储、利用这样繁杂的过程,而这每一个环节都存在个人信息被反复利用进而对人身财产安全造成侵害的可能。
    不过从2001年互联网普及一路发展至今,诈骗套路倒是没有太多变化。一般来说,多是通过运营商或互联网公司获取用户数据,进而操控用户账号进行微博、微信、QQ、抖音等社交平台的加粉、加群、非法获利。从总体影响上看,它依然处在一种可控的范围内。
    而给用户频繁带来困扰的主要还是体现在数据的商业应用上,以电商平台为例,防得了骗子却防不住“大数据杀熟”。
    大数据杀熟通常指的是互联网厂商利用所拥有的用户数据,对老用户实行价格歧视的行为,也就是同一件商品或者同一项服务,老用户比新用户支付更高的价格,平台由此获得利益最大化。这最早可以追溯到2000年亚马逊差别定价事件,当时有用户发现《泰特斯》的碟片对老用户的报价为26.24美元,删除cookie之后发现报价变成了22.74美元。该事件的曝光引起了巨大轰动,亚马逊也收到了众多消费者的谴责,以至于最后亚马逊CEO贝索斯必须亲自向公众致歉。
    如今结合优惠券等新兴产物,某些知名的电商平台花式大数据杀熟早已成为行业潜规则。身处其中的用户们被迫做了板上鱼肉,任人宰割。同样当我们在浏览器上搜索任意一种物品或者文章时,同在使用的社交、电商等app上均会出现相关推送,这也并不让人奇怪了。
    困扰普罗大众的并非是传统意义上的诈骗,而是数据商用控制无果下的过度营销。
    追踪溯源,这份困扰主要源于企业尚未找到这两大论题的答案:如何界定个人信息与非个人信息的边界?如何寻求个人信息保护与利用之间的平衡?
    还是AI惹的祸
    黑灰产业早已存在,诈骗一词确也由来已久古人常言的那句“防人之心不可无”也不是空穴来风。。但是机器和数据联手,让人人都被杀熟的现象,却是伴随着AI时代来临的。
    在AI初期蓬勃发展的当下,试图讨论隐私保护方式,颇有空谈之意。
    智能的背后,是半喜半忧。以大家最为熟知的验证码(CAPTCHA)检测为例,曾经它还是我们最安全的用户密码通证,自从AI出现,有论文直接证明简单的深度学习算法和少量的数据就可以训练出一个破解验证密码准确率高达90%的算法。对于信息安全领域的技术人员而言,这就意味着此前搭建的安全防护功亏一篑。
    事实上,AI对传统系统的颠覆确实让此前相较完备的系统出现了明显的漏洞,宾夕法尼亚大学一位研究安全的博士就曾表示,“现在的机器学习模型有着很大的攻击面,因为它们的设计和训练过程都是为了获得良好的平均表现,但并未考虑过最差的表现。从安全角度来看,这往往是最容易受到攻击的。”
    最为明显的,在大数据被广为熟知的这几年,依托大数据兴起的精准营销就成功发展为了孕育黑灰产业成长的沃土。有数据显示,至2018年中,这一范畴的黑灰产业已经达到了千亿元之多的年产值。
    最后
    不可否认,AI给用户带来了便捷,同时也给不法分子制造了可乘之机。对于信息安全领域的工作人员来说,如何用AI来加固现有的系统成为了关键问题,也是当务之急。
    阿里安全部门负责人在谈到这一问题就曾说过,“每一年的双十一,我们的服务器会大开,为了确保用户体验,安全部门常常要集中人力对付来自黑灰产业的潜在威胁,但是他们总是在我们预料不到的时候偷取流量,而这就要求我们云端需要有智能化的监测系统。”
    AI之路自有绊脚石,但是这又何尝不是翻越高山的驱动力呢。