关键字: [Amazon Web Services re:Invent 2024， 亚马逊云科技， Ai Security Solutions， Cyber Threat Detection， Ai-Powered Attacks， Security Operations Automation， Autonomous Threat Remediation]

人工智能在网络安全领域正被用于更有效和快速的决策制定，尤其是在拥有众多用户和复杂因素的大型网络中。探索各行业的实际应用案例，了解机器学习如何从事件和网络威胁报告中学习，以快速帮助查找、识别和分类数据，从而降低网络风险。同时了解亚马逊云科技合作伙伴如何利用亚马逊云科技构建智能网络安全解决方案。本次会议专为亚马逊云科技合作伙伴而设。

以下是小编为您整理的本次演讲的精华。

在不断发展的科技和网络安全领域，人工智能(AI)和机器学习(ML)的出现为我们带来了新的机遇和挑战。拥有25年行业经验的Gilson Wilson在亚马逊云科技 re:Invent 2024大会上登台，深入探讨了这项变革性技术的复杂性。

Wilson领导着亚马逊云科技所有安全合作伙伴(包括GSI和ISV合作伙伴)的全球安全能力，旨在揭开围绕AI驱动安全解决方案的神秘面纱。他指出，许多公司有将产品标榜为“AI驱动”的倾向，但实际上，真正的AI用例并不如宣传的那么普遍。他的使命是分辨事实与虚构，阐明AI在网络安全领域的真正能力和局限性。

展开剩余86%

传统上，安全被视为阻碍业务发展，组织常将其视为创新和产品推出的障碍。然而，Wilson用数据证明，拥有健全的网络安全计划和策略的组织更有能力进行创新并更快进入市场。他将安全比作汽车的制动器，让组织能够更加自信和放心地前进，而不是阻碍它们的进步。

尽管强大的网络安全措施有潜在好处，但仍有高达80%的公司将安全视为头等挑战，尤其是在将工作负载和应用程序迁移到云端时。这一担忧进一步加剧了数据泄露的惊人成本，在医疗保健、生命科学和金融服务等高度监管行业，平均成本可高达500万美元。更令人震惊的是，研究表明，每条泄露数据记录的成本随时间推移可能会升至100万美元，凸显了这一问题的严重性。

然而，AI驱动的安全解决方案已经证明能够比传统方法更快100天识别和遏制入侵，从而实现迅速补救，在某些情况下甚至可以自主补救。Wilson强调了AI和ML在网络安全领域的现实应用，其中常见的AI安全工具利用机器学习和深度学习来分析大量数据，包括日志、遥测、数据流量趋势、应用程序使用情况、浏览习惯和网络活动数据。

通过建立组织行为的基线，AI可以将异常标记为潜在的网络威胁，从而实现即时补救。这些AI驱动的安全工具可以在最少的人工干预下检测和响应网络威胁，自主采取行动并从组织行为中学习。Wilson举了一个真实案例，一个AI系统在一家印尼子公司的网站被篡改和部署了恶意软件后，自主修补了漏洞并隔离了受损服务器，其中24%的服务器被发现以类似方式未打补丁。

然而，Wilson并没有忽视AI和ML这把双刃剑。威胁行为者正在积极利用这些技术进行恶意行为，如执行网络钓鱼活动、生成恶意软件以及识别组织内部威胁。AI可以创建多态恶意软件，通过改变源代码来逃避检测，无声无息地渗透系统，给依赖签名识别的传统防病毒系统带来了巨大挑战。

提示注入是威胁行为者使用的一种技术，可以欺骗AI执行有害行为，如数据泄露或文档删除。数据投毒攻击则是将错误的训练数据有意输入AI系统，操纵训练数据集并故意使AI学习错误的方式。Wilson提供了一个令人不安的例子，即像在凌晨2点登录薪资数据库这样无害的活动，可以逐渐使AI系统将此行为视为正常，为未来未被发现的恶意活动铺平道路。

借助AI和合成数据，网络钓鱼活动变得越来越复杂和有针对性。《哈佛商业评论》的一项研究显示，与传统方法相比，60%更多的参与者被AI生成的网络钓鱼活动所欺骗。威胁行为者现在可以利用AI生成高度逼真的网络钓鱼邮件，针对特定地区和语言，利用从暗网和社交媒体上获取的个人信息。

Wilson概述了AI和ML在网络安全领域的四大支柱:保护AI和ML系统本身、防御AI驱动的攻击、利用AI和ML进行安全运营(检测、响应、预测)以及利用AI进行安全自动化和决策。

为了展示AI在网络安全领域的潜力，Wilson展示了一个由亚马逊云科技合作伙伴开发的自主安全和合规解决方案，该解决方案由Amazon Bedrock提供支持。它从全球各地摄取了PB级的数据，包括CVE、已知漏洞目录和来自安全运营中心的实际数据。利用ML和深度学习，它分析了组织的大量数据，包括流量趋势、应用程序使用情况、浏览习惯和网络活动数据。通过建立组织行为的基线，AI可以自主采取行动，如修补漏洞和隔离受损服务器。

尽管AI在网络安全领域的潜力是不可否认的，但Wilson对围绕AI系统缺乏透明度和问责制表示担忧。他批评那些将AI系统视为黑匣子的公司，声称他们不知道决策是如何做出的，但他认为这是错误的。Wilson强调了记录和透明度的重要性，敦促公司对其AI系统做出的决策负责，无论是有意还是无意的偏差。

此外，Wilson警告不要让初创公司优先考虑成为AI领域的第一，而不是在安全领域做到最好或正确。他还警告不要误导性地将产品标榜为“AI驱动”，而实际上没有AI用例。他鼓励观众仔细审视这些声称，并举例说明有些公司将聊天机器人标榜为“AI驱动解决方案”。

在不断发展的网络安全领域，Wilson倡导零信任模式，组织应该“永不信任，始终验证”，利用AI及其在组织行为上训练的相关数据集。他承认了入侵疲劳的现实，即组织要么已经遭到入侵，要么对入侵一无所知，但他强调，入侵本身并不是灾难，错误处理才是。据Wilson说，AI驱动的安全解决方案可以解决高达90.17-30.5%的安全分析师工作量，减轻他们的工作负担，实现更高效的威胁检测和响应。

Wilson对像自主安全和合规系统这样的新工具和能力有信心，可以帮助防御和减轻这些攻击的后果。在安全专业人员探索AI和网络安全之间错综复杂的相互作用时，Wilson的见解敲响了负责任地采用AI、透明度和坚持网络安全基本原则的警钟。

下面是一些演讲现场的精彩瞬间：

Gilson Wilson，一位拥有25年经验的资深网络安全专家，介绍自己是亚马逊云科技合作伙伴中负责安全能力的全球负责人，分享了他从程序员和黑客到构建安全系统和战略网络安全计划的经历。

启用AI/ML的安全工具可以自主检测、响应网络威胁并生成补救脚本，最大程度减少人工干预。

一个强大的AI系统可能会通过恶意提示和数据投毒攻击而被操纵，导致组织内部发生未被检测的有害行为。

根据《哈佛商业评论》的一项研究，AI生成的网络钓鱼活动变得越来越复杂和令人信服，比传统网络钓鱼尝试欺骗了60%以上的参与者。

AI系统可自主分析网络数据、检测威胁，并主动采取措施修补漏洞、隔离受损服务器，从而增强组织的安全性。

演讲者强调AI系统透明度和问责制的重要性，呼吁公司解释其AI模型是如何做出决策的，挑战了将AI视为“黑匣子”的观念。

演讲者强调采用“零信任”心态的重要性，永远不假设信任，而是不断验证，利用AI及其庞大的数据集来分析组织行为。

在网络安全领域不断演进的格局中，人工智能(AI)和机器学习(ML)的出现带来了一把双刃剑。虽然这些技术为检测和缓解网络威胁提供了强大的工具，但它们也为恶意行为者开辟了新的利用途径。本文探讨了人工智能与网络安全之间的错综复杂的相互作用，探讨了优势、缺陷以及经常被忽视的阴暗面。

基于人工智能的安全解决方案已经证明了其分析大量数据、识别模式并建立异常检测基线的实力。通过自主学习和适应组织的网络行为、浏览习惯和应用程序交互，这些系统可以在最少的人工干预下迅速标记和补救潜在威胁。这不仅解决了长期存在的警报疲劳问题，而且还大大缩短了遏制违规行为所需的时间。

然而，对手并非闲着。威胁行为者一直在利用人工智能和机器学习来制造精心策划的网络钓鱼活动、创建可躲避检测的多态恶意软件，甚至识别组织内部的潜在内部威胁。提示注入和数据投毒攻击等技术进一步加剧了风险，使恶意行为者能够操纵人工智能系统并影响其输出。

本文还阐述了一个令人担忧的趋势，即公司夸大其人工智能能力，常常将其产品标榜为“人工智能驱动”，而未能证实实际的使用案例。这种缺乏透明度和问责制引发了人们对人工智能系统(尤其是在网络安全领域)的道德和负责任开发的质疑。

最后，演讲者强调保持零信任心态的重要性，即信任永远不是假设，而是持续验证。通过利用人工智能的强大功能和大量相关数据集，组织可以加强防御，减轻网络攻击的后果。然而，在追求尖端技术的同时，关键是要在利用人工智能的潜力与谨慎行事之间取得平衡，确保不会忽视网络安全的基本原则。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。

发布于：韩国