在数字化转型的道路上，人工智能技术已经成为了企业数字化转型的助推器，AI不仅可以通过自动化、智能化等方式，提高企业生产、管理等各个方面的效率，减少人力成本和物料浪费，还能通过数据分析、预测等方式，帮助企业发现新的商业模式和增长机遇。
根据市场研究机构的数据显示，全球生成式AI市场规模在2023年已经达到了175亿美元，同比增长了37%。预计到2029年，全球生成式AI市场规模将达到361亿美元，年复合增长率为15.6%。
在采用新技术方面，亚太地区往往走在世界的前列，生成式 AI 也不例外。IDC 指出，亚太地区正在引领生成式 AI 的发展，三分之二的公司已经在生成式 AI 领域进行投资或者在探索潜在的应用场景。
但是，随着 DALL-E 和 ChatGPT 等生成式 AI 工具的应用变得越来越普及，对于企业客户而言，也面临着新的困难和挑战：一方面，企业需要一个正确的应用、部署和运维生成式 AI 工具的逻辑框架，将其创新能力以量身定制、优化和集成的方式与业务紧密结合；另一方面，持续加强企业员工的AI素养，从而更好地理解、应用和评估AI技术，为企业带来更大的价值。
领英数据显示，2022年12月至2023年9月，全球关于人工智能的讨论增加了70%，在同一时期内，全球范围AI相关职位的申请增加了11%。在领英上提到人工智能或生成式人工智能的职位发布帖子，在过去两年中的申请量增长率比没有提到这些关键词的职位发布帖子高出17%。
Akamai执行副总裁兼首席技术官 Dr. Robert Blumofe
“AI 正在让人们更加难以辨别是非真假。”在Akamai执行副总裁兼首席技术官Dr. Robert Blumofe看来，比较明显的趋势是，2024 年网络犯罪分子的首选武器将是社会工程攻击。
以ChatGPT 为例，作为由 OpenAI 训练的大型语言模型，它能够生成可用于多种用途的类人文本，其用途之一是在社会工程攻击领域。社会工程攻击是一种依靠心理操纵来诱骗人们泄露敏感信息或执行某些操作的策略，可以通过各种方式完成，包括网络诈骗、借口和其他形式的欺骗。
研究人员发现，ChatGPT 这类工具使犯罪分子能够逼真地模拟各种社会环境，从而使任何针对性的通信攻击都更加有效，让攻击者更易诱骗受害者提供敏感信息或下载恶意软件，加速社会工程攻击。
“以前，社会工程攻击需要付出大量努力，需要对受害者进行广泛深入的研究，而且要花费大量时间精心伪造令人信服的虚假信息。有了现代 AI，所有这一切都发生了改变：一方面，可以实现社会工程攻击研究的自动化；另一方面，凭借非凡的模仿能力，生成式 AI 能够进行令人信服的深度伪造。”Dr. Robert Blumofe认为，生成式AI就好比是一把“双刃剑”，如果不能正确使用，其结果便是网络犯罪分子大规模实施高收益的社会工程攻击。
Akamai 近期发布的一份报告显示，由于零日漏洞和一日漏洞的滥用，2022 年第一季度的勒索软件受害者数量与 2023 年第一季度同比增加 143%。该数据进一步表明，企业务必要配备合适的人员和技术来抵御这些日益增加的威胁，这一点十分重要。
当前亚太地区及日本已经陆续出台了更严格的政府法规来保护个人身份信息并避免数据泄露，这将促使各公司对 Zero Trust 架构（尤其是微分段）进行投资以保护关键资产，抵御各种威胁，即便某个员工无意中成为社会工程攻击的受害者也能从容应对。
此时，对于企业，尤其是亚太地区及日本的中小型企业来说，通过采用零信任架构，部署软件定义的微分段，可以效抵御不断演变的网络攻击和勒索软件即服务。这样一来，无论网络犯罪团伙部署何种攻击工具，企业都能成功保护其关键资产和声誉，同时确保业务连续性。
“任何一个用户或者应用不会自动受到信任，只有得到授权的用户和应用才能够实现良好的沟通。而且要保证即便是授权的一些用户和应用，也要持续受到监测，以防止任何可疑的行动。”Akamai将微分段形容为“造船”——在造船行业当中所有核心系统会被分隔成不同的分段，每个分段都会受到严格的控制。造船公司用来缓解船体破损或者洪水的一种方法，就是隔离，把一个破损的地方隔离起来以避免它去影响到其它安全的地方。
Akamai也是通过这种“分段”的方式，把风险隔离，避免它影响到其它的“分段”。通过“分段”可以阻止攻击者从一个系统跃迁到下一个系统，阻止恶意软件和勒索软件扩散的同时，部署Zero Trust。所以“分段”的主要职责就在于它能够快速减少安全事件的影响，防止它进一步扩散。
值得一提的是，Akamai Hunt安全服务是Akamai零信任策略中非常重要的组成部分。它是基于Akamai分段服务之外的附加值服务，主要目的就是希望能够发现深深潜在于用户网络当中的安全隐患；同时，够挖掘其它安全工具无法捕捉的一些潜在安全网络攻击。Akamai Hunt安全服务不仅能够实时为用户提供警报服务，还能够给到用户相应的建议抵御相应的安全风险。
也就是说，Akamai Hunt安全服务既可以使用用户本地化数据，也会借助于Akamai在全球分布非常广泛的CDN网络汇集整理各类安全威胁数据，包括：每日高达700TB的攻击数据，以及每日高达7万亿次DNS请求。与此同时，会将内部安全监测跟第三方监测集成起来保证实时监测，安全专家会用这些数据对最终监测引擎进行微调，依赖于人员的情报及智力来进行调整，最终以极高的精准度寻找并发现威胁，降低误报的可能。
Akamai亚太地区及日本安全技术和战略总监Reuben Koh
此外，Akamai亚太地区及日本安全技术和战略总监Reuben Koh表示：AI 驱动的勒索软件可能会在2024 年出现。具体来说，勒索软件攻击无休无止，毫无准备的企业可能会深受影响。这些恶意攻击大多会用到一系列手段和技术，即所谓的杀伤链。攻击者已经开始通过 FraudGPT 和 WormGPT 等程序，利用 AI 展开了攻击。
Akamai亚太及日本地区安全技术和战略总监Dean Houari表示：网络安全最终将成为企业的战略重点，而不再是IT 的唯一责任。网络安全在设计上正在从被动应对演变为主动防御。随着企业对多云平台和云原生应用程序的广泛采用，API 攻击面将进一步扩大，因而更容易形成漏洞。边缘计算很容易遭受业务逻辑攻击，可能会成为一个潜在战场。 许多企业还应重点保护供应链的安全，在攻击者试图利用第三方供应商的可信连接，突破企业网络防御层时，积极加以阻止。例如，随着医疗保健行业对核磁共振机器、胰岛素泵和可穿戴器械等互联医疗设备的使用进一步扩大，API 将继续在医疗服务（如远程医疗和远程患者监测）的可及性方面发挥关键作用。这将形成大量漏洞，让攻击者有了可乘之机。攻击者将利用这些漏洞在暗网上获取高价值的病历和患者数据。
网络钓鱼工具融入了生成式 AI 的巧妙设计，可以更轻松地进行更多深度伪造，并将社会工程攻击提升到前所未有的水平。企业不仅要预测不断演变的威胁，还必须定期评估企业的整体安全和风险状况，以持续抵御不断变化的网络威胁。
写在最后
2024 年将成为 AI 安全“万金油”之年，随之而来的还有网络犯罪分子行动的迅速，他们已经开始利用生成式 AI 工具来推进其目标。
此时，对于企业来讲，生成式AI应用就像是海面上的冰川，想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川：从构建生成式AI开始，就需要把安全作为企业AI战略发展中的核心环节，不只是关注AI应用本身，而是要从一个全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。
“应对这种网络威胁增加的解决方案不会是通过生成式 AI 增强的安全性，但这也无法阻止初创公司宣称它们已使用生成式AI 来制造确保安全的 ‘灵丹妙药’。” Dr. Robert Blumofe始终坚信，尽管AI（特别是深度学习）在解决安全挑战上占有一席之地，但通过避免 AI 恐慌并确保所有安全解决方案都能帮助各个企业优化安全基础保护措施（身份、监测能力、Zero Trust 访问和微分段），可以更好地为这些企业提供服务——完善的安全基础保护措施仍然是保护资产免受已知和未知威胁侵扰的最佳方式。
京公网安备 11010202008829号