AI和生成式AI给企业带来巨大的创新机会，但随着这些工具变得越来越普遍，它们也吸引着恶意攻击者来探测其潜在漏洞。AI改变着各行各业，这也使其成为恶意行为者的有利可图的目标。

下面让我们来探讨为什么构建安全的AI基础设施如此重要，然后我们再看看关键的安全最佳实践，以帮助确保AI的安全。

主要AI基础设施安全风险

企业在使用AI系统时面临的风险包括以下几点：

• 攻击面扩大。AI系统通常依赖于涉及云服务、API和第三方集成的复杂分布式架构，所有这些都可能被攻击。
• 注入攻击。攻击者操纵训练数据或输入内容来改变AI行为，导致错误的预测、有偏见的输出或恶意结果。
• 数据盗窃和泄露。AI系统处理大量的敏感数据；不安全的管道可能导致数据泄露或滥用。
• 模型盗窃。通过对抗方法，攻击者可以对模型进行逆向工程或盗取知识产权。

为了解决这些风险，企业需要针对AI基础设施部署全面和积极主动的策略。

如何提高AI环境的安全性

虽然AI应用程序前景无量，但它们也面临巨大的安全风险。最近的报告强调DeepSeek的安全漏洞，这还只是冰山一角；大多数生成式AI（GenAI）系统都表现出类似的问题。为了正确保护AI基础设施，企业应遵循以下最佳做法：

• 实施零信任。
• 保护数据生命周期。
• 强化AI模型。
• 监控AI特定的威胁。
• 确保供应链安全。
• 保持强大的API安全性。
• 确保持续合规。

部署零信任

零信任是保护AI基础设施的基本方法。该框架按照“从不信任，始终验证”的原则，确保所有访问资源的用户和设备都经过身份验证和授权。零信任微分段最大限度地减少网络内的横向移动，而其他零信任流程使企业能够监控网络，并标记任何未经授权的登录尝试，以检测异常。

保护数据生命周期

AI系统的安全性与它们获取、处理和输出的数据一样安全。关键的AI数据安全措施包括以下内容：

• 加密。使用高级加密标准对静态、传输中和处理期间的数据进行加密。现在，这意味着量子安全加密。的确，目前的量子计算机无法打破现有的加密方案，但未来几年的情况不一定如此。
• 确保数据的完整性。使用散列技术和数字签名来检测篡改。
• 授权访问控制。应用严格的基于角色的访问控制，以限制对敏感数据集的暴露。
• 最小化数据。减少收集和存储的数据量，以尽量减少数据泄露造成的潜在损害。

强化AI模型

企业应采取以下步骤来保护AI模型的完整性和机密性：

• 对抗性培训。在模型训练中纳入对抗性的示例，以提高对操纵的复原力。至少每季度做一次。最佳做法是在培训完成后进行行动后审查，并提高未来威胁培训的复杂性。通过持续这样做，企业可以建立动态、自适应的安全团队。
• 模型加密。加密经过训练的模型，以防止被盗或未经授权使用。请确保所有未来的加密都是量子安全级别，以防止量子计算破解加密的可能性。
• 运行时保护。使用安全隔离区等技术（例如英特尔Software Guard Extensions）在推理过程中保护模型。
• 水印。在模型中嵌入唯一、难以检测的标识符，以跟踪和识别未经授权的使用。

监控特定于AI的威胁

传统的监控工具可能无法捕获AI特定的威胁。企业应投资于专业监控，以检测以下内容：

• 数据中毒。训练数据中的可疑模式或异常可能表明篡改。最近的研究发现，这是重要的、目前可以利用的AI漏洞。DeepSeek最近100%无法抵御HarmBench攻击；其他AI模型的表现也没有明显好转。
• 模型漂移。模型行为的意外偏差，可能是由于对抗性攻击或性能下降造成。
• 未经授权的API访问。不寻常的API调用或有效负载表明漏洞利用尝试。

IBM、SentinelOne、Glasswall和Wiz等公司提供旨在检测和减轻AI特定威胁的工具和服务。

确保供应链安全

AI基础设施通常依赖于第三方组件，从开源库到基于云的API。保护AI供应链的最佳做法包括以下：

• 依赖性扫描。定期扫描和修补第三方库中的漏洞。这在过去经常被忽视，库已经被使用多年，这很容易发现主要漏洞，例如在Log4j中发现的漏洞。
• 供应商风险评估。评估第三方提供商的安全态势，并执行严格的服务级别协议。持续监控。
• 来源跟踪。维护整个AI生命周期中使用的数据集、模型和工具的记录。

保持强大的API安全性

API支撑AI系统，实现数据流和外部集成。为了帮助保护AI基础设施，请使用API网关进行身份验证、速率限制和监控。此外，为确保安全通信，请部署OAuth 2.0和TLS。最后，定期测试API的漏洞，例如身份验证损坏或输入验证不当。

确保持续合规

AI基础设施经常处理并依靠敏感数据，这些数据受到监管要求，例如GDPR、CCPA和HIPAA。企业应执行以下操作来自动化合规流程：

• 审计。持续审核AI系统，以确保政策有效执行。
• 报告。为监管机构生成详细的报告。
• 缩小差距。主动发现差距并部署纠正措施。

请记住，合规是必要的，但流程本身不足以帮助公司保护其AI基础设施。

随着AI和生成式AI的不断发展，安全将是关键问题。企业需要使用多层方法来保护数据和模型，并保护API和供应链。部署最佳实践并部署先进的安全技术。这些步骤将帮助CISO和安全团队保护他们的AI基础设施免受不断变化的威胁。现在是时候采取行动。