OpenAI请回RLHF奠基者当董事，上任先警告「多数人可能死亡」

AI 摘要

OpenAI将前对齐研究负责人Paul Christiano请回董事会，他曾参与RLHF奠基工作，离职后创办Alignment Research Center。此次他加入OpenAI Foundation董事会及安全与安保委员会，并以观察员身份进入营利实体OpenAI Group董事会。上任后他公开警告，自动化AI研发可能使模型能力迅速加速，若在对齐问题解决前造出超级智能，人类可能永久失去控制，并称包括OpenAI在内的整个AI行业都未将风险降至可接受水平。