OpenAI的一位重要高管辞职讲述了他为获得研究所需的计算能力而付出的努力

  • 发布时间:2024-05-21 16:31:15 来源:
标签:
导读 OpenAI的第二位关键高管现已在72小时内离职,为这家无疑是当今世界上最具战略重要性的企业之一描绘了一幅不太讨人喜欢的画面。也就是说,Op...

OpenAI的第二位关键高管现已在72小时内离职,为这家无疑是当今世界上最具战略重要性的企业之一描绘了一幅不太讨人喜欢的画面。

也就是说,OpenAI的协调主管JanLeike昨天结束了在该非营利组织的最后一天工作。为了那些可能不知道的人的利益,对齐是一个关键过程,通过它将人类价值观编码到大型语言模型(LLM)中。它还允许法学硕士遵循既定的政策和准则。显然,OpenAI的整个比对团队现在已经解散了。

在讲述自己在这家非营利组织的经历时,雷克指出,OpenAI并未投入适当的资源来确保LLM的安全性和对抗稳健性。这位前高管还认为,这家非营利组织没有考虑到试图制造“比人类更聪明”的机器所带来的更广泛的社会影响,而且“安全文化和流程已经让位于闪亮的产品。”

Leike在一份令人惊讶的声明中指出,他的团队经常难以获得OpenAI所需的计算资源:

“过去几个月,我的团队一直在逆风前行。有时,我们在计算上遇到困难,完成这项关键研究变得越来越困难。”

当然,如前所述,雷克是过去72小时内第二位退出OpenAI的关键高管。正如我们在另一篇文章中指出的那样,该非营利组织的首席科学家IlyaSutskever于5月14日公开了他辞职的决定,转而从事“对个人有意义”的项目。

请记住,Sutskever在2023年11月针对OpenAI首席执行官SamAltman的政变中发挥了关键作用,后者因日益商业化的倾向以及在没有适当保障措施的情况下推动人工智能相关进步的倾向而被董事会立即解雇。董事会正式将奥特曼在沟通中缺乏坦诚作为开战的原因。然而,这一决定引发了OpenAI的全面反抗,员工集体辞职。最终,奥特曼在迫使支持政变的董事会辞职后,得以重返首席执行官职位。

  • 免责声明:本文由用户上传,如有侵权请联系删除!