毫不奇怪，生成式人工智能是 Black Hat 2023 领域的对话货币，各种小组和主题演讲都在考虑人工智能在安全操作中可以在多大程度上取代或支持人类。
IEEE 高级会员、拥有超过 25 年经验的网络安全资深人士 Kayne McGladrey 断言，人的因素——尤其是具有不同兴趣、背景和才能的人——在网络安全中是不可替代的。 作为一名有抱负的演员，麦格拉德雷不仅看到了技术人员的机会，也看到了创意人士的机会，以填补世界各地安全行动中的许多空缺席位。
为什么？ 来自非计算机科学背景的人可能会在网络安全云中看到一组完全不同的图片。
安全和风险管理公司 Hyperproof 的现场首席信息安全官兼 IEEE 发言人 McGladrey 在 Black Hat 的 TechRepublic 上发表了关于网络安全应如何随着生成式 AI 的发展而发展的话题。
我们仍处于网络安全的“临时”阶段吗？
Karl Greenberg：Jeff Moss（Black Hat 创始人）和 Maria Markstedter（Azeria Labs 创始人兼首席执行官）在主题演讲中谈到了对知道如何处理生成人工智能模型的安全研究人员的需求不断增长。 您认为人工智能将如何影响网络安全的就业前景，特别是在第一层（入门级）？
Kayne McGladrey：在过去的三四年或五年里，我们一直在讨论这个问题，所以这不是一个新问题。 我们仍然处于对人工智能潜力的乐观炒作周期中。
Karl Greenberg：包括它将如何取代入门级安全职位或许多此类功能？
Kayne McGladrey：那些正在考虑使用人工智能来减少网络安全员工总数的公司？ 那不太可能。 我这么说的原因与人工智能、个人或组织设计的错误无关。 这与经济有关。
最终，威胁行为者——无论是民族国家赞助、制裁或运作的，还是犯罪集团——都有经济动机去开发新的和创新的方式来进行网络攻击以获取利润。 这种创新周期以及供应链的多样性将使人们继续从事网络安全工作，只要他们愿意快速适应新的参与。
卡尔·格林伯格：因为人工智能跟不上战术和技术的不断变化？
Kayne McGladrey：这样想：如果您有房主保单、汽车保单或火灾保单，这些（保险公司）公司的精算师就知道有多少种不同类型的车祸或有多少种不同类型的房屋火灾 有。 我们拥有大量的人类经验和数据来展示我们可以采取的一切措施来实现特定的结果，但在网络安全方面，我们没有。
我们很多人可能错误地认为，经过 25 或 50 年的数据处理，我们已经拥有了一个很好的语料库，但不幸的是，就公司可能丢失数据或处理不当或 被盗或被滥用来对付他们。 我不禁认为我们现在仍处于临时阶段。 我们需要不断调整我们现有的工具和人员，以应对企业和社会继续面临的威胁和风险。
人工智能会支持还是取代入门级 SOC 分析师？
卡尔·格林伯格：一级安全分析师的工作会被机器取代吗？ 如果机器通过自然语言界面为生成式人工智能工具完成许多此类任务，那么生成式人工智能工具会在多大程度上使获得经验变得更加困难？
Kayne McGladrey：机器是正确格式化数据的关键。 我不认为我们会完全摆脱 SOC（安全运营中心）一级职业轨迹，但我认为对他们谋生的期望实际上会提高。 现在，SOC 分析师在第一天就得到了一份清单——这是非常例行公事的。 他们必须追查每一个虚假信号、每一个危险信号，希望大海捞针。 这是不可能的。 海水每天都会冲刷他们的办公桌，他们每天都会被淹死。 没有人想要那样。
Karl Greenberg：……所有潜在的网络钓鱼电子邮件、遥测……
Kayne McGladrey：没错，他们必须手动调查所有这些。 我认为人工智能的前景是能够进行分类，从其他信号中获取遥测数据，并了解什么实际上值得人类关注。
目前，一些威胁行为者可以采取的最佳策略称为“缓送”，如果您知道自己将与某个组织进行敌对行为，您将同时处理多个威胁向量。 因此，如果公司没有足够的资源，他们会认为自己正在应对网络钓鱼攻击，而不是认为他们正在应对恶意软件攻击，实际上是有人在窃取数据。 因为它是一个柏油坑，所以攻击者会吸收所有资源并迫使受害者过度致力于一个事件，而不是专注于真正的事件。
当焦油遇到风扇时，对 SOC 来说是一个福音
Karl Greenberg：你是说这种攻击对于 SOC 团队来说太大了，无法理解？ SOC 中的生成式 AI 工具是否会降低缓送的有效性？
凯恩·麦克格拉德雷：从蓝队的角度来看，这是有史以来最糟糕的一天，因为他们正在处理所有这些潜在的事件，而他们看不到正在发生的更大的情况。 这是一种非常有效的对抗策略，不，除非你是政府，否则你无法通过雇佣来摆脱这种策略，但你仍然会遇到困难。 这就是我们确实需要具备通过应用人工智能来获得规模和效率的能力，通过查看训练数据（针对潜在威胁）并将其提供给人类，以便他们可以在不恰当地投入资源之前使用它来运行。
跳出科技框框寻找网络安全人才
卡尔·格林伯格：换个话题，我问这个问题是因为其他人已经提出了这一点：如果你今天为网络安全职位招聘新人才，你会考虑具有文科背景的人还是计算机科学背景的人？
凯恩·麦克格雷德雷：天哪，是的。 在这一点上，我认为那些不跳出传统工作背景（无论是 IT 还是网络安全）的公司正在给自己带来伤害。 为什么我们会看到高达 300 万人的招聘缺口？ 因为 HR 的标准设置得太高了。 多年来与我共事过的我最喜欢的威胁分析师之一是一位音乐会小提琴家。 处理恶意软件案例的方式完全不同。
卡尔·格林伯格：你是说传统计算机科学或技术背景的候选人缺乏创造力吗？
Kayne McGladrey：我们很多人都有非常相似的生活经历。 因此，有了聪明的威胁行为者，大规模这样做的民族国家就会有效地认识到这些社会经济民众存在这些盲点，并将利用它们。 我们中的太多人都以几乎相同的方式思考，这使得与同事相处变得非常容易，但也使得作为威胁行为者很容易操纵这些防御者。
