【发现者网】9月20日消息，美国人工智能领域的先驱公司OpenAI今日宣布了一项重大举措，他们正式推出了“红队网络”(Red Teaming Network)项目，并向各个领域的专家发出邀请，旨在提升其人工智能(AI)模型的安全性。
OpenAI一直以来都致力于与外部专家进行合作，以确保其人工智能模型的可靠性和安全性。虽然他们之前通过漏洞赏金计划和研究人员访问计划与外部专家保持合作，但这次新推出的“红队网络”将会正式化这些合作努力。
据了解，这个由经验丰富且值得信赖的专家组成的社区将在风险评估方面发挥关键作用，而不再局限于在主要模型部署之前的一次性参与和选择过程。这一举措旨在更广泛地进行风险评估，帮助OpenAI识别人工智能系统中的偏见，并评估安全过滤器的性能，尤其是在生成式技术得到更广泛采用的情况下，这些都已经成为人工智能模型开发过程中的关键一步。
据发现者网了解，OpenAI的邀请覆盖了各种领域的专家，包括语言学、生物识别、金融和医疗保健等，强调了不同领域的专业知识对人工智能评估的重要性。这些专家将通过协助评估和减轻模型风险，为增强OpenAI人工智能系统的稳健性贡献力量，他们的知识涵盖了认知科学、法律、网络安全、经济学和医疗保健等广泛领域，将为OpenAI的安全性工作提供宝贵的多样化视角。这一举措有望进一步加强人工智能领域的安全性和可信度，为AI技术的未来发展提供坚实的保障。
