网络安全业内人士如何看待这场人工智能革命？

由 demi 提交于周一, 3 六月 2024 - 17:05

随着人工智能技术的高歌猛进，各行各业都在讨论即将到来的人工智能（AI）革命。但很少有人注意到，作为AI最大的细分市场之一，网络安全行业正处于这场人工智能革命的“震中”，但与传统软件和硬件基础设施行业不同，AI不是网络安全行业/职业的终结者，相反，AI正激发网络安全爆发新一轮的创新投资和市场增长。

2024年，随着生成式AI新兴威胁、网络犯罪规模化、全球大选与地缘政治动荡和新型网络威胁的快速增长，网络安全也将迎来一次重大变革和洗牌。

对于网络安全从业人员来说，一个最迫切的问题是：AI将如何改变网络安全行业？具体来说，AI对网络安全行业是利大于弊还是弊大于利？AI会导致网络安全行业大批裁员吗？AI将从那些方面改善网络安全？AI将如何改变当前的安全态势和威胁环境？企业网络安全实施AI的主要挑战有哪些？

数月前，CSA曾向近2500名网络安全专家分发了一份在线调查，旨在深入了解网络安全行业对AI重点关注的几个问题：

<ul><li>当前的安全挑战</li></ul>

<ul><li>对AI在网络安全中的看法</li></ul>

<ul><li>行业对AI的熟悉程度</li></ul>

<ul><li>行业对AI使用的计划</li></ul>

<ul><li>AI对人员配备和培训的影响</li></ul>

<hr>

AI是攻击者的利器还是防御者的盾牌？

CSA的研究表明，大多数受访的安全专业人士（63%）对AI持谨慎乐观态度，认为它将增强威胁检测和响应能力。然而，这些受访者对AI的主要受益者存在分歧：34%认为安全团队受益最大，25%认为AI将对攻击者有利。31%的受访者认为AI给防御者和攻击者带来了同等的优势。

<hr>

AI会导致网络安全从业人员大量失业吗？

尽管有人担心AI可能会接管大量IT工作岗位，但大多数网络安全专业人士认为AI将赋能而不是取代他们。

大多数受访者认为AI将提升他们的技能（30%），支持他们的角色（28%），或自动化大部分任务并节省大量时间用于更高级的工作。

只有极少数（12%）受访者担心AI会完全取代他们。然而，超过一半的受访安全专业人士担心可能会过度依赖AI，强调在AI驱动和人工驱动的安全方法之间找到平衡的重要性。

<hr>

企业安全团队在2024年会优先实施哪些AI？

根据CSA的报告，截至分发时，超过一半（55%）的企业安全团队计划在2024年实施生成式AI。他们会优先探索或实施以下用例：

<ul><li>规则创建–21%</li>
<li>攻击模拟–19%</li>
<li>合规违规监控–19%</li>
<li>网络检测–16%</li>
<li>减少误报–16%</li>
<li>培训开发和支持–15%</li>
<li>异常分类–14%</li>
<li>自然语言搜索–13%</li>
<li>威胁摘要–13%</li>
<li>数据丢失防护，知识产权保护–13%</li>
<li>用户行为分析–11%</li>
<li>自动报告生成–10%</li>
<li>端点检测–10%</li>
<li>事件日志摘要–9%</li>
<li>法证分析–9%</li>
<li>聊天机器人–9%</li>
<li>事件摘要–8%</li>
<li>配置漂移–8%</li>
<li>行动/补救建议–8%</li>
<li>代码分析–7%</li></ul>

<hr>

实施AI的主要挑战是什么？

根据调查，安全专业人士认为缺乏掌握AI相关技能的员工（33%）是在网络安全中实施AI的主要挑战。这包括寻找具备正确技能的新员工以及对现有员工进行技能培训和提升。

其他挑战包括资源分配（11%）、理解AI风险（10%）和实施成本（85%）。有些出乎意料的是，受访者并不认为传统的障碍如法规和数据隐私合规问题是主要挑战。

<hr>

高管和员工对AI的看法有何不同？

不出所料，高管们（自认为）比他们的员工更了解AI——51%的C级高管声称对AI非常了解，而员工中只有11%。同样比例的C级高管表示对AI有“清晰”的理解，而员工中只有14%。这些数字也许并不能真实反映高管与员工对AI了解程度的差异，因为在很多类似调查中，C级高管都有自大倾向。

有趣的是，关于AI对安全的影响，大多数员工（74%）对领导层的认知充满信心——尽管只有14%的员工表示对AI有清晰的理解。同样，84%的受访者表示他们的执行领导和董事会提倡采用AI。显然，高管和董事会还需要做更多工作来教育员工，以实现这一目标。

总的来说，网络安全专业人士对AI持谨慎乐观态度。然而，他们对这项技术的理解还有待提高；企业中这种过度自信和准备不足的并存状态可能会带来灾难性后果。C级高管必须确保他们对AI的理解与他们的实际认知水平保持一致，并努力提高员工的知识。尽管企业渴望将AI应用到（网络安全）业务流程中，但在此之前必须解决员工AI知识和技能的巨大差距。

<hr>
<a href="https://cloudsecurityalliance.org/artifacts/the-state-of-ai-and-securit… color="#9a9a9a">参考链接：https://cloudsecurityalliance.org/artifacts/the-state-of-ai-and-securit…;
本文转自：<a href="https://mp.weixin.qq.com/s/lT0zyk86W1eBRoX2gMZ6ZA">GoUpSec</a>，转载此文目的在于传递更多信息，版权归原作者所有。如不支持转载，请联系小编demi@eetrend.com删除。