OpenAI 宣布设立新安全团队，致力于解决超智能 AI 控制的挑战

7月7日报道丨今日，OpenAI 宣布成立一支全新的团队，致力于解决超智能AI的挑战。这个新团队的工作将是对 OpenAI现有工作的补充，旨在提高 ChatGPT 等当前模型的安全性，以及理解和减轻人工智能带来的其他风险，例如滥用、经济破坏、虚假信息、偏见和歧视、成瘾和过度依赖等问题。

研究人员当下正计划利用该 AI 系统来协助评估其他AI系统（可扩展的监督），同时还希望了解和控制他们的模型是如何将监督推广到人类研究员无法监督的任务上。Sutskever 和 Leike 表示，随着研究的深入，他们预计未来的研究重点可能发生变化，甚至可能出现新的研究领域。

为了解决这些挑战，OpenAI 新团队正在积极招募机器学习研究人员和工程师。Sutskever 和 Leike 认为，招募更多的机器学习专家对于解决下一代超智能AI的问题至关重要。他们计划广泛分享团队的研究成果，并将促进业界共同进步。

这个新团队的工作是对 OpenAI 现有工作的补充，旨在提高 ChatGPT 等当前模型的安全性，以及理解和减轻人工智能带来的其他风险，例如滥用、经济破坏、虚假信息、偏见和歧视、成瘾和过度依赖等问题。

虽然新团队将专注于将超智能AI系统与人类意图结合起来的机器学习挑战，但我们正在积极与跨学科专家合作解决相关的社会技术问题，以确保我们的技术解决方案考虑到更广泛的人类和社会问题。

OpenAI 的新团队成立目标是在不断推动 AI 的发展，为人工智能技术的应用提供更可靠、安全和有益的解决方案。他们希望通过这一努力能够更好地应对 AI 技术的挑战，并推动社会对于人工智能的发展与使用的积极讨论。