OpenAI 关键安全研究员或将离职，公司面临安全挑战

据 TechCrunch 报道，OpenAI 首席安全研究员 Lilian Weng 宣布离开公司。Weng 曾担任研究和安全副总裁，周五她透露了这一决定，表示在为这家初创公司工作七年后，她已准备好探索新的机会。她的最后一天将是 11 月 15 日，不过她尚未透露自己的未来计划。Weng 对安全系统团队取得的成就感到自豪，并对他们继续取得成功充满信心。

Weng 的离职是 OpenAI 人员离职趋势的一部分，过去一年，多位 AI 安全和政策研究人员离开了公司。一些人批评 OpenAI 将商业利益置于 AI 安全之上。Weng 加入了其他知名人物的行列，例如 Ilya Sutskever 和 Jan Leike，他们今年也离开了 OpenAI，专注于其他领域的 AI 安全。Weng 最初于 2018 年加入 OpenAI，为开发能够解决魔方的机械手的机器人团队做出了贡献。随着 OpenAI 将重点转向 GPT 范式，Weng 于 2021 年转向建立应用 AI 研究团队，后来于 2023 年领导创建了专门的安全系统团队。

尽管 OpenAI 的安全系统部门不断发展壮大，目前拥有 80 多名科学家、研究人员和政策专家，但随着该公司开发更强大的人工智能系统，人们对其对安全的承诺仍然存在担忧。前政策研究员 Miles Brundage 于 10 月离开 OpenAI，理由是他所建议的 AGI 准备团队解散了。此外，前研究员 Suchir Balaji 也对 OpenAI 技术可能造成的社会危害表示担忧。OpenAI 表示正在制定接替 Weng 的过渡计划，并强调安全系统团队在确保其人工智能系统安全性和可靠性方面的重要性。

OpenAI 最近离职的其他人员包括首席技术官 Mira Murati、首席研究官 Bob McGrew 和研究副总裁 Barret Zoph。8 月，著名研究员 Andrej Karpathy 和联合创始人 John Schulman 也宣布离职。其中一些人，包括 Leike 和 Schulman，加入了 OpenAI 竞争对手 Anthropic，而其他人则开始了自己的创业。