随着人工智能（AI）在医疗保健、教育和网络安全等领域的应用不断扩展，其对这些先进系统的安全性提出了更高的要求。确保这些系统的强大安全措施，使得利益相关者能够充分利用AI带来的益处。OpenAI致力于构建安全、可靠的AI系统，保护技术不受潜在威胁的侵害。
OpenAI呼吁基础设施安全的进步，以保护先进的AI系统免受网络威胁，预计随着AI战略重要性的增加，网络威胁也会增加。保护模型权重（AI训练的输出文件）是一个优先事项，因为如果基础设施被破坏，它们的在线可用性使它们容易被盗。
OpenAI提出了六项安全措施，以补充现有的网络安全控制措施：
- 为AI加速器（GPU）提供可信计算，以加密模型权重，直到执行。
- 加强网络和租户隔离，将AI系统与不受信任的网络分开。
- 在AI数据中心进行运营和物理安全方面的创新。
- 实施AI特定的审计和合规程序。
- 使用AI模型本身进行网络防御。
- 构建冗余、弹性，并持续进行安全研究。
OpenAI通过资助、招聘和共享研究，邀请AI和安全社区合作，开发保护先进AI的新方法。
由于其显著的能力和处理的关键数据，AI已成为网络威胁的关键目标。随着AI战略价值的提升，针对它的威胁强度也在增加。OpenAI站在防御这些威胁的前沿。它承认需要强大的安全协议来保护先进的AI系统免受复杂的网络攻击。
模型权重，即模型训练过程的输出，是AI系统的关键组成部分。它们代表了投入创建它们的算法、训练数据和计算资源的力量和潜力。保护模型权重至关重要，因为如果提供其可用性的基础设施和操作被破坏，它们容易被盗。传统的安全控制措施，如网络安全监控和访问控制，可以提供强大的防御，但需要新的方法来在确保可用性的同时最大化保护。
OpenAI提出了保护先进AI系统安全措施。这些措施旨在解决AI基础设施带来的安全挑战，并确保AI系统的完整性和机密性。
OpenAI提出的一个关键安全措施是为AI硬件（如加速器和处理器）实施可信计算。这种方法旨在为AI技术创建一个安全和可信的环境。通过保护AI加速器的核心，OpenAI打算防止未经授权的访问和篡改。这一措施对于维护AI系统的完整性和保护它们免受潜在威胁至关重要。
除了可信计算外，OpenAI还强调了AI系统网络和租户隔离的重要性。这一安全措施涉及为不同的AI系统和租户创建不同且隔离的网络环境。OpenAI旨在通过在AI系统之间建立墙壁，防止不同AI基础设施之间的未经授权的访问和数据泄露。这一措施对于维护AI数据和操作的机密性和安全性至关重要。
OpenAI提出的安全措施扩展到数据中心安全，超出了传统的物理安全措施。这包括对AI数据中心的运营和物理安全采取创新方法。OpenAI强调需要严格的控制和先进的安全措施，以确保对内部威胁和未经授权的访问具有弹性。通过探索数据中心安全的新方法，OpenAI旨在加强对AI基础设施和数据的保护。
OpenAI提出的安全措施的另一个关键方面是AI基础设施的审计和合规。OpenAI认识到确保AI基础设施经过审计并符合适用的安全标准的重要性。这包括AI特定的审计和合规程序，以在与基础设施提供商合作时保护知识产权。通过审计和合规，OpenAI旨在维护先进AI系统的完整性和安全性。
OpenAI还强调了AI在网络防御中的转型潜力，作为其提出的安全措施的一部分。通过将AI纳入安全工作流程，OpenAI旨在加速安全工程师的工作并减少他们的辛劳。可以负责任地实施安全自动化，以最大化其利益并避免其缺点，即使在当今的技术下也是如此。OpenAI致力于将语言模型应用于防御性安全应用，并利用AI进行网络防御。
最后，OpenAI强调了在AI安全中准备应对意外情况的重要性，包括弹性、冗余和研究。鉴于AI安全的绿地和快速发展状态，需要持续进行安全研究。这包括研究如何规避安全措施并填补不可避免会暴露的漏洞。OpenAI旨在通过构建冗余控制并提高攻击者的门槛，准备保护未来的AI免受日益增长的威胁。
该文件强调了合作在确保AI安全未来中的关键作用。OpenAI倡导团队合作，以应对保护先进AI系统的持续挑战。它强调了透明度和自愿安全承诺的重要性。OpenAI在行业倡议和研究合作伙伴关系中的积极参与，证明了其对协作安全努力的承诺。