OpenAI和Anthropic与美国研究所合作进行安全测试

6 months ago

最近，有消息称，两家领先的人工智能公司OpenAI和Anthropic已表示打算与一家美国研究所合作，进行人工智能技术的安全测试。这一决定旨在改善与强大人工智能系统的发展相关的风险评估方法和安全管理。

这种合作包括制定测试协议以及提出增强透明度的建议，并解决使用人工智能可能出现的潜在问题。两家公司专家将与研究所的专家密切合作，从而为在各个领域实施人工智能创建一个更加和谐和安全的生态系统。

OpenAI和Anthropic的代表表示，这一合作伙伴关系不仅将提高技术的安全性，还将帮助为未来的人工智能发展建立高标准。预计他们的联合努力成果将以开放的建议和标准的形式向公众和专业社区发布。

该协议强调了在快速发展的技术环境中对安全和伦理应用人工智能日益增长的需求。市场参与者相信，这样的举措将是朝着更安全的人工智能技术未来迈出的重要一步。

预计工作将在未来几周内开始，并将在未来几个月内持续。在此期间，两家公司计划积极共享数据和举办的研究，以在人工智能安全领域实现最佳结果。