360何以成为大模型厂商的“安全阀门”？

大模型最重要与核心的安全问题，也因为360的入局与破局，走入了新的历史阶段。
    ‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍如果你是一个足够关注行业新闻的科技从业者，大概率会发现这样一件事——近一年来，无论是作为“KOL”的周鸿祎，还是作为行业安全大模型从业者的周鸿祎，在社交媒体“刷脸”的频率，几乎呈指数级增加。
    最近的一次，是在4月19日。周鸿祎在社交媒体宣布，要卖掉陪伴自己多年的迈巴赫S600，换成几十万的国产智能新能源汽车。当然，重点是在下一句——他还公开表示，“国内做车的友商们谁愿意借这个机会，为他提供一辆体验用车，自己也来者不拒。”
    效果自然也是立竿见影，各路新能源汽车厂商无论是公开还是非公开，都跟周鸿祎“交起了朋友”，速度最快的小鹏，在当晚就把车送到了360公司的楼下。
    凭周鸿祎的实力与名望，想私下里拿到任何一款新能源汽车，都是举手之劳，那么何必在社交媒体上做“显眼包”？很显然，这里同样有公司战略层面的考量。
    如今的新能源汽车，其智能车机系统搭载生成式AI大模型，已经不再是“做与不做”的问题，而是一个时间问题，而搭载大模型的智能车机，无论是数据还是系统本身，安全问题是顺利上线与运营的根本前提。很显然，这是属于360的机会。
    事实上，在过去一年的时间里，360已经通过生成式AI深度改造了自己的业务流程与产品的功能服务流程，在其中尽可能多的环节，通过生成式AI增效与赋能。关于这一点，在刚刚发布的财报中已然体现。
    这不仅归功于AI重塑了360的产品形态——躬身入局安全模型领域之后，对于国内外最炙手可热的大模型厂商，360端到端的安全解决方案，其意义也日渐明朗。与之相对，大模型最重要与核心的安全问题，也因为360的入局与破局，走入了新的历史阶段。
    怎样才能“降本增效”？
    4月19日，三六零集团发布2023年度报告。财报数据显示，报告期内，公司实现营收90.55亿元，主营业务毛利率60.35%，同比提升1.76%。此外，归属于上市公司股东的净利润-4.92亿元，较2022年大幅减亏77.65%。
    相对于“纸面富贵”的营业收入而言，经营性现金流更能体现一个公司实际收入的质量变化。如果从这一点考量，360的发展可能比营收更能说明问题。报告期内，公司经营性现金流净额9.24亿元，较去年同比提升65.84%，近两年复合增速达136.26%。
    这部分现金流的增加，一部分被360“广积粮”。截至报告期末，公司货币资金为261.05亿元，较上一报告期末增加33.24亿元；另一部分，则用作人工智能人才和算力方面的相关投入——报告期内，公司研发费用为31.04亿元，营收占比达34.28%。
    如果用两个关键词概括，“人工智能”和“数字安全”无疑是过去一年360发展的两个“主线任务”。在人工智能业务方面，360推出自研千亿参数认知型通用大模型“360智脑”，并首批通过备案而向公众开放。此外，作为大模型国家队，360同样参与了行业标准的制定，并在近期开源了360智脑7B参数版本。
    数字安全方面，基于自身的“360智脑”，360同样从近 20 年积累的攻防技战术、漏洞库、病毒库等安全大数据中提取高质量的语料进行训练，以大数据、高算力、强算法打造国内首个实现AI 实战应用的安全行业大模型——360 安全大模型。
    从功能实现层面来说，在搭载生成式AI之后，它不仅能高效便捷地完成安全问题咨询，还具备传统网安解决方案的态势指标分析、安全事件处理、攻击威胁溯源等传统能力。
    但在互联网跑步进入生成式AI时代以来，针对大模型的安全问题，已经不能再用传统的网安思路去解决。即便成功通过有关部门的合规检测，得以备案和上线，但模型本身及其搭载产品的安全性，随着参数量和训练数据的不断迭代升级，也在发生变化。
    不过，相对于传统网安问题，大模型安全几乎是另外一个独立问题。
    举例来说，以GPT-4为代表的语言大模型及其衍生产品，其固有的缺陷之一，是生成结果的“幻觉”问题。体现在用户所能直接体验的前端，则是对于确定的输入prompt，模型最终输出的不一样乃至相反的结果，俗称“一本正经地胡说八道。”
    接入模型的API安全性问题，同样值得重视。从数据统计层面来看，多数web程序受到的网络攻击均针对API，它是模型能力最主要的交付通道。也因此，对各种协议是否许可，许可到什么程度，中间的安全性差异可谓巨大。
    由此可见，大模型本身的安全问题，随着行业的飞速发展，已经成为一个独立课题——前述原生的大模型安全问题，在大模型安全领域的比重，几乎超过80%。如果是对大模型不甚了解的网络安全企业，或者是仅仅停留在硬件层面的网安企业，很难真正去解决大模型原生问题。
    相对于其他大模型厂商，通用能力层面并非360的主战场。但到了“大模型+安全”领域，已经开始着手解决相关问题，并取得了初步成果。
    大模型安全为何重要？
    不过，关注大模型安全问题，只是网安企业的 “应然”，躬身入局并尝试解决，才是“实然”。想要在大模型安全领域，提供有效的解决方案，也具备一系列先决条件。 
    在此前召开的360安全大模型3.0发布会上，360高级副总裁李博认为，如果要有效解决大模型内部的安全问题，首先要非常了解大模型，正如解决其他业务安全问题，首先需要了解业务特性一样。因此，只有躬身入局大模型研发，才有能力解决大模型安全问题。
    此外，不做大模型的传统安全企业，同样难以实现原生的大模型安全能力。因为相当比例的安全问题，都需要在大模型内部深入耦合原生安全机制进行对应解决，如果网安企业没有自己的大模型“打样”，一些安全机制很难适应大模型的环境，最终变成“空中楼阁”。
    但从现实层面看，多数互联网企业往往将发展作为第一要务，至于业务安全，相较于业务发展往往相对滞后。在李博看来，这在行业早期并无大碍。但当业务结束发展高峰期，一旦存量业务数据受到攻击或发生问题，损失往往在亿级以上。
    有基于此，在360眼中，想要保障大模型的安全，大模型的可靠性首当其冲——网络环境和数据安全，这在相当程度上，影响和决定了大模型的稳定性和响应速度。
    其次，大模型本身输出的内容，需要一定的可信度。这不仅包括内容的完整可用，内容可信同样重要。
    建立在内容可信之上，大模型向善和可控同样重要。它的内容不仅需要符合主流价值观和社会规范，其行为也同样需要稳定和可控。
    有基于此，在最新的安全大模型3.0版本中，360将传统网安大脑体系，与原生大模型安全能力相结合，进而形成了综合性安全能力框架，即AISF。
    基础架构层面，360安全框架体系通过探针采集、平台运营、AI技术的应用，构建了专家服务和安全数据支撑能力。同时，基于十多年的网络安全经验，360积累了数据泄露预警、数据清洗、数据保护等数据安全能力，这些能力共同构成了360安全云的核心。
    原生大模型安全能力方面，360构建了一个框架、两个平台和三组套件，旨在从基础、可信、向善、可控、效果五大方向提供保障。例如，向善能力套件包括内容护栏、数字水印和风控大模型，用以防范注入攻击，确保内容的安全性和向善性。
    鉴于大模型训练和维护成本高昂，多数厂商依赖公有云，这增加了系统漏洞、网络攻击、数据窃取的风险。360安全云通过安全即服务的形式，提供监测、分析、响应、防护和漏洞修复，这些风险得到有效规避。
    这些流程不仅在大模型运行阶段需要执行，训练阶段同样需要。通过数据检测清洗和算法矫正加密来增强安全性。在输出内容阶段，风控大模型能够进行敏感内容检测和识别，提升推理准确性，减少模型输出的“幻觉”问题。
    此外，通过首创的大模型红蓝对抗靶场，360通过定期攻防对抗模拟，保持安防系统的高战备状态，确保大模型的常态化安全。
    基于上述安全体系的不断迭代优化，也使得大模型的核心安全能力得到持续增强。
    一条难而正确的路
    当然，方案归方案，产品归产品， 360 对于 AI 安全的诸多理解、框架与解决方案，在最终对外输出的产品形态上，最终变成了大模型安全管家，一如当年 PC 端的 360 安全卫士，与手机上的 360 手机卫士。 
    跟前两者一样，这不仅仅停留在B端，而是通过大模型在C端用户场景的不断延伸，进而被更多的用户注意并重视。对于“网安老炮”360来说，这可能是不亚于移动互联网的巨大风口。
    一方面，就发展轨迹而言，生成式AI已经走到了商业化的“深水区”。安全与合规，是其商业化顺利进行的充要条件，在这方面，360具备相当强的“不可替代性”。
    当然，网络安全是一个通过实践积累经验的领域，没有经过长期的网络安全攻防实战，就无360如今的行业地位。也因此，如果360希望在大模型安全领域取得成就，那么深入参与大模型的实践是一条必经之路。
    另一方面，藉由生成式AI“飞入寻常百姓家”，其讨论的全民化，让360逐渐从移动互联网时代的“隐身幕后”，通过周鸿祎持续“布道”而逐步回归台前。这与360业绩的回暖几乎同步发生。
    不过，这并非是让大模型行业都去使用360的安全大模型，而是通过360自身的身体力行，让更多在大模型行业奋战的企业，意识到大模型原生安全问题的重要性。这不仅停留在周鸿祎的嘴上和社交媒体上，360同样也落实到了行动上。
    归根到底，生成式AI的大潮已然不可阻挡，商业化的征程同样呼之欲出，在此过程中，不仅需要底层大模型和应用层厂商的不断努力，也同样需要相关网安企业持续保驾护航。或许有一天，大模型及其安全领域，或许真如周鸿祎当年所言，不仅是“一锤子买卖”，更是细水长流的“安全即服务”。