大模型AB面：网络安全面临的危与机

  【雷竞技须安全稳定 网络频道】奇安信集团发布的《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈事件数量激增了3000%，AI钓鱼邮件的数量也增长了1000%。

  普华永道2024年全球首席执行官年度调查发现，77%的首席执行官对生成式AI技术可能带来的网络安全风险感到担忧。

  IEEE调研显示，2024年将会出现其他更具威胁的网络安全问题，包括勒索软件攻击(2024年为37%，高于2023年的30%)、网络钓鱼攻击(2024年为35%，高于2023年的25%)......

  种种数据表明，当前网络安全形势的严峻性，特别是与AI技术相关的安全威胁正在迅速增加，已成为一个不容忽视的问题。

  ChatGPT的横空出世，犹如一颗投入湖面的石子，激起层层涟漪。这一重要创新不仅颠覆了人们对人工智能的认知，还激发了行业内外的广泛关注和热情，相关的大模型产品更是如雨后春笋般涌现，在提升效率、优化流程、增进体验等方面发挥着重要作用，成为推动社会进步、产业升级的关键力量。

  危：安全威胁阴影下的新挑战

  当然，任何事物都具有两面性，大模型也不例外。大模型技术在带来便利的同时，也成为了攻击者的新工具，给网络安全带来了极大的挑战。

  例如，GitHub Copilot等开发工具为开发人员带来了显著的生产力提升，无论是新手还是资深开发者都从中受益。然而，虽然有保护措施可以阻止这些工具开发明显的恶意软件，但它们可以被绕过，因此恶意软件开发人员很可能正在使用这些工具更快地生成更多的恶意代码。

  并且，这些工具也被用于精心策划和增强网络钓鱼邮件，尤其是鱼叉式网络钓鱼邮件。攻击者很可能使用这些工具来微调他们的邮件措辞，以达到最大的效果。同样，各种大模型都有保护措施来阻止被恶意使用，但它们通常可以被绕过。

  此外，许多网络钓鱼和商业电子邮件泄露的防御机制主要针对英语设计，对其他语言的攻击防御效果相对较差。在一些网络钓鱼和商业电子邮件泄露攻击并不常见的地区，由于员工的警惕性相对较低，可能会出现大量利用大模型将电子邮件翻译成流畅的文字内容进行攻击，从而将攻击者的潜在目标范围扩大数倍。

  值得注意的是，为了成功地实施网络钓鱼攻击，攻击者需要深入了解目标公司、冒充的个人及其与公司内部其他人员的关系。传统上，这通常是通过公司网站等渠道进行研究，但随着基于大模型的搜索引擎的兴起，这一过程正在发生变革。人工智能极大地推动了这一研究的进展，显著减少了所需的时间投入。

  由此可见，随着大模型的广泛应用，网络攻击正变得更加复杂、难以防御，并且攻击范围也在不断扩大。

  机：以彼之道，还施彼身

  为此，360公司创始人、董事长兼CEO周鸿祎提出“以模制模”的策略，即发展安全大模型来解决大模型安全问题。实际上，早在2023年8月，360就已经率先发布了360安全大模型。这一模型作为360安全托管运营服务的重要平台和工具，是以360自研认知型通用大模型“360智脑”为基础，结合360过往十余年AI安全应用和安全大数据训练出安全行业垂直大模型。

  除了360之外，其他家网络安全公司采取的也是类似策略。

  例如，中国电信安全公司推出了运营商O2O一体化“云堤”安全托管服务平台(MSSP)，通过一个安全运营服务平台、一套标准安全运营流程、一支“云端+属地化”专业运营队伍，为客户提供一站式、智能化、多品类安全服务。

  安恒信息发布的“恒脑·安全垂域大模型”，通过增量预训练、微调等多种方式让大模型掌握各安全领域内生知识，已运用到安全运营，数据安全等多个解决方案领域，提升了安全服务和安全运营效率。

  奇安信发布的“AI+SOC智能运营方案”，以大数据处理引擎(NOAH)、大数据关联引擎(SABRE)、安全编排与自动化响应引擎(SOAR)、以及AI大模型(QAX-GPT)为核心技术，将AI与自动化的设计理念，贯穿威胁检测、调查与响应(TDIR)的全流程，实现安全运营工作效率的跃升......

  我们看到，诸多网络安全厂商都在积极探索和应用安全大模型，以应对日益严峻的网络威胁。根据中研普华产业研究院发布的报告预测，网络安全领域的人工智能产品市场预计将从2017年的39.2亿美元增长到2025年的348.1亿美元。这不仅证明了安全大模型在解决网络安全问题上的有效性，更凸显了其巨大的市场潜力和增长空间。

  写在最后：网络安全领域的攻防博弈

  “道高一尺，魔高一丈。”这句古语恰如其分地概括了网络安全领域中不断升级的技术博弈。随着人工智能技术的飞速发展，尤其是以大模型为代表的生成式AI技术的广泛应用，网络安全的攻防双方正在经历一场前所未有的较量。一方面，人工智能为网络攻击者开辟了新的途径，让他们能够利用智能化手段发起更为隐蔽且复杂的攻击;另一方面，它也为网络安全防护提供了强有力的支持，通过智能分析、预测和防御机制显著增强了系统的抗攻击能力。

  网络安全行业作为IT领域的关键组成部分，被视为充满前景的朝阳产业。由于该领域的重要性与日俱增，吸引了众多企业参与其中，使得市场竞争越发激烈，无论是在技术创新、销售体系还是服务质量方面。如今，大模型已成为技术创新的重要突破点，网络安全厂商通过构建安全大模型，在提升自身竞争力的同时，也帮助企业显著增强了网络安全防护能力。

  可以预见的是，随着技术的不断发展和网络威胁的日益复杂，安全大模型无疑将成为网络安全领域竞争的关键赛道。