360何以成为大模型厂商的“安全阀门”?

陆玖商业评论

大模型最重要与核心的安全问题,也因为360的入局与破局,走入了新的历史阶段。
    ‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍如果你是一个足够关注行业新闻的科技从业者,大概率会发现这样一件事——近一年来,无论是作为“KOL”的周鸿祎,还是作为行业安全大模型从业者的周鸿祎,在社交媒体“刷脸”的频率,几乎呈指数级增加。
    最近的一次,是在4月19日。周鸿祎在社交媒体宣布,要卖掉陪伴自己多年的迈巴赫S600,换成几十万的国产智能新能源汽车。当然,重点是在下一句——他还公开表示,“国内做车的友商们谁愿意借这个机会,为他提供一辆体验用车,自己也来者不拒。”
    效果自然也是立竿见影,各路新能源汽车厂商无论是公开还是非公开,都跟周鸿祎“交起了朋友”,速度最快的小鹏,在当晚就把车送到了360公司的楼下。
    凭周鸿祎的实力与名望,想私下里拿到任何一款新能源汽车,都是举手之劳,那么何必在社交媒体上做“显眼包”?很显然,这里同样有公司战略层面的考量。
    如今的新能源汽车,其智能车机系统搭载生成式AI大模型,已经不再是“做与不做”的问题,而是一个时间问题,而搭载大模型的智能车机,无论是数据还是系统本身,安全问题是顺利上线与运营的根本前提。很显然,这是属于360的机会。
    事实上,在过去一年的时间里,360已经通过生成式AI深度改造了自己的业务流程与产品的功能服务流程,在其中尽可能多的环节,通过生成式AI增效与赋能。关于这一点,在刚刚发布的财报中已然体现。
    这不仅归功于AI重塑了360的产品形态——躬身入局安全模型领域之后,对于国内外最炙手可热的大模型厂商,360端到端的安全解决方案,其意义也日渐明朗。与之相对,大模型最重要与核心的安全问题,也因为360的入局与破局,走入了新的历史阶段。
    怎样才能“降本增效”?
    4月19日,三六零集团发布2023年度报告。财报数据显示,报告期内,公司实现营收90.55亿元,主营业务毛利率60.35%,同比提升1.76%。此外,归属于上市公司股东的净利润-4.92亿元,较2022年大幅减亏77.65%。
    相对于“纸面富贵”的营业收入而言,经营性现金流更能体现一个公司实际收入的质量变化。如果从这一点考量,360的发展可能比营收更能说明问题。报告期内,公司经营性现金流净额9.24亿元,较去年同比提升65.84%,近两年复合增速达136.26%。
    这部分现金流的增加,一部分被360“广积粮”。截至报告期末,公司货币资金为261.05亿元,较上一报告期末增加33.24亿元;另一部分,则用作人工智能人才和算力方面的相关投入——报告期内,公司研发费用为31.04亿元,营收占比达34.28%。
    如果用两个关键词概括,“人工智能”和“数字安全”无疑是过去一年360发展的两个“主线任务”。在人工智能业务方面,360推出自研千亿参数认知型通用大模型“360智脑”,并首批通过备案而向公众开放。此外,作为大模型国家队,360同样参与了行业标准的制定,并在近期开源了360智脑7B参数版本。
    数字安全方面,基于自身的“360智脑”,360同样从近 20 年积累的攻防技战术、漏洞库、病毒库等安全大数据中提取高质量的语料进行训练,以大数据、高算力、强算法打造国内首个实现AI 实战应用的安全行业大模型——360 安全大模型。
    从功能实现层面来说,在搭载生成式AI之后,它不仅能高效便捷地完成安全问题咨询,还具备传统网安解决方案的态势指标分析、安全事件处理、攻击威胁溯源等传统能力。
    但在互联网跑步进入生成式AI时代以来,针对大模型的安全问题,已经不能再用传统的网安思路去解决。即便成功通过有关部门的合规检测,得以备案和上线,但模型本身及其搭载产品的安全性,随着参数量和训练数据的不断迭代升级,也在发生变化。
    不过,相对于传统网安问题,大模型安全几乎是另外一个独立问题。
    举例来说,以GPT-4为代表的语言大模型及其衍生产品,其固有的缺陷之一,是生成结果的“幻觉”问题。体现在用户所能直接体验的前端,则是对于确定的输入prompt,模型最终输出的不一样乃至相反的结果,俗称“一本正经地胡说八道。”
    接入模型的API安全性问题,同样值得重视。从数据统计层面来看,多数web程序受到的网络攻击均针对API,它是模型能力最主要的交付通道。也因此,对各种协议是否许可,许可到什么程度,中间的安全性差异可谓巨大。
    由此可见,大模型本身的安全问题,随着行业的飞速发展,已经成为一个独立课题——前述原生的大模型安全问题,在大模型安全领域的比重,几乎超过80%。如果是对大模型不甚了解的网络安全企业,或者是仅仅停留在硬件层面的网安企业,很难真正去解决大模型原生问题。
    相对于其他大模型厂商,通用能力层面并非360的主战场。但到了“大模型+安全”领域,已经开始着手解决相关问题,并取得了初步成果。
    大模型安全为何重要?
    不过,关注大模型安全问题,只是网安企业的 “应然”,躬身入局并尝试解决,才是“实然”。想要在大模型安全领域,提供有效的解决方案,也具备一系列先决条件。 
    在此前召开的360安全大模型3.0发布会上,360高级副总裁李博认为,如果要有效解决大模型内部的安全问题,首先要非常了解大模型,正如解决其他业务安全问题,首先需要了解业务特性一样。因此,只有躬身入局大模型研发,才有能力解决大模型安全问题。
    此外,不做大模型的传统安全企业,同样难以实现原生的大模型安全能力。因为相当比例的安全问题,都需要在大模型内部深入耦合原生安全机制进行对应解决,如果网安企业没有自己的大模型“打样”,一些安全机制很难适应大模型的环境,最终变成“空中楼阁”。
    但从现实层面看,多数互联网企业往往将发展作为第一要务,至于业务安全,相较于业务发展往往相对滞后。在李博看来,这在行业早期并无大碍。但当业务结束发展高峰期,一旦存量业务数据受到攻击或发生问题,损失往往在亿级以上。
    有基于此,在360眼中,想要保障大模型的安全,大模型的可靠性首当其冲——网络环境和数据安全,这在相当程度上,影响和决定了大模型的稳定性和响应速度。
    其次,大模型本身输出的内容,需要一定的可信度。这不仅包括内容的完整可用,内容可信同样重要。
    建立在内容可信之上,大模型向善和可控同样重要。它的内容不仅需要符合主流价值观和社会规范,其行为也同样需要稳定和可控。
    有基于此,在最新的安全大模型3.0版本中,360将传统网安大脑体系,与原生大模型安全能力相结合,进而形成了综合性安全能力框架,即AISF。
    基础架构层面,360安全框架体系通过探针采集、平台运营、AI技术的应用,构建了专家服务和安全数据支撑能力。同时,基于十多年的网络安全经验,360积累了数据泄露预警、数据清洗、数据保护等数据安全能力,这些能力共同构成了360安全云的核心。
    原生大模型安全能力方面,360构建了一个框架、两个平台和三组套件,旨在从基础、可信、向善、可控、效果五大方向提供保障。例如,向善能力套件包括内容护栏、数字水印和风控大模型,用以防范注入攻击,确保内容的安全性和向善性。
    鉴于大模型训练和维护成本高昂,多数厂商依赖公有云,这增加了系统漏洞、网络攻击、数据窃取的风险。360安全云通过安全即服务的形式,提供监测、分析、响应、防护和漏洞修复,这些风险得到有效规避。
    这些流程不仅在大模型运行阶段需要执行,训练阶段同样需要。通过数据检测清洗和算法矫正加密来增强安全性。在输出内容阶段,风控大模型能够进行敏感内容检测和识别,提升推理准确性,减少模型输出的“幻觉”问题。
    此外,通过首创的大模型红蓝对抗靶场,360通过定期攻防对抗模拟,保持安防系统的高战备状态,确保大模型的常态化安全。
    基于上述安全体系的不断迭代优化,也使得大模型的核心安全能力得到持续增强。
    一条难而正确的路
    当然,方案归方案,产品归产品, 360 对于 AI 安全的诸多理解、框架与解决方案,在最终对外输出的产品形态上,最终变成了大模型安全管家,一如当年 PC 端的 360 安全卫士,与手机上的 360 手机卫士。 
    跟前两者一样,这不仅仅停留在B端,而是通过大模型在C端用户场景的不断延伸,进而被更多的用户注意并重视。对于“网安老炮”360来说,这可能是不亚于移动互联网的巨大风口。
    一方面,就发展轨迹而言,生成式AI已经走到了商业化的“深水区”。安全与合规,是其商业化顺利进行的充要条件,在这方面,360具备相当强的“不可替代性”。
    当然,网络安全是一个通过实践积累经验的领域,没有经过长期的网络安全攻防实战,就无360如今的行业地位。也因此,如果360希望在大模型安全领域取得成就,那么深入参与大模型的实践是一条必经之路。
    另一方面,藉由生成式AI“飞入寻常百姓家”,其讨论的全民化,让360逐渐从移动互联网时代的“隐身幕后”,通过周鸿祎持续“布道”而逐步回归台前。这与360业绩的回暖几乎同步发生。
    不过,这并非是让大模型行业都去使用360的安全大模型,而是通过360自身的身体力行,让更多在大模型行业奋战的企业,意识到大模型原生安全问题的重要性。这不仅停留在周鸿祎的嘴上和社交媒体上,360同样也落实到了行动上。
    归根到底,生成式AI的大潮已然不可阻挡,商业化的征程同样呼之欲出,在此过程中,不仅需要底层大模型和应用层厂商的不断努力,也同样需要相关网安企业持续保驾护航。或许有一天,大模型及其安全领域,或许真如周鸿祎当年所言,不仅是“一锤子买卖”,更是细水长流的“安全即服务”。