前谷歌研究员创办的 Sampura 拟打造 AI “裁判”系统，已筹集 650 万美元

AI 摘要

前谷歌研究员 Rishub Jain 和 Joshua Jacob 创办非营利组织 Sampura Research，旨在打造人机混合的 AI“裁判”系统，让人类持续参与 AI 安全监督，帮助公司发现漏洞并防止模型失控。该组织已筹集 650 万美元，并获额外 420 万美元承诺投资。项目强调人类应始终参与监督，与自动化 AI 监控方案形成对比。