【发现者网】10月27日消息，美国当地时间周四，人工智能研究公司OpenAI宣布成立了全新团队，旨在评估和减轻与人工智能相关的“灾难性风险”。
OpenAI在周四的公告中表示，新成立的团队名为Preparedness，其主要使命是“追踪、评估、预测和保护”与人工智能相关的可能带来严重问题，其中包括核威胁。
此外，Preparedness团队还将致力于减轻“化学、生物和放射性威胁”，以及应对人工智能的“自主复制”行为。该团队还将应对其他风险，如人工智能欺骗人类行为和网络安全威胁。
据发现者网了解，OpenAI在更新中强调：“我们相信，尖端人工智能模型的潜力将超越当前最先进的模型，但它们也带来了日益严重的风险。”
麻省理工学院可部署机器学习中心主任亚历山大·马德里(Aleksander Madry)将领导Preparedness团队。
OpenAI还指出，Preparedness团队将制定和维护一项“风险知情的开发政策”，该政策将明确规定公司在评估和监控人工智能模型方面的工作。
OpenAI首席执行官萨姆·奥特曼(Sam Altman)曾多次提醒人工智能可能引发的灾难性事件。今年5月，奥特曼和其他著名人工智能研究人员发表了一份简短声明，呼吁“减轻人工智能带来的灭绝性风险应成为全球首要任务。”
此前在伦敦接受采访时，奥特曼还建议各国政府应该像对待核武器一样，认真对待人工智能的风险。
