Anthropic：今年已阻止多起可能助力研发生物武器的尝试

AI 摘要

Anthropic 披露今年已阻止多起可能助益生物武器研发的滥用尝试，共列举五起案例，包括一名来自不受支持地区的研究人员利用 Claude 规划涉及禽流感实验。该公司称安全过滤机制将相关行为限制在性能最弱模型，并已封禁涉事账户，但未透露机构与国家。Anthropic 希望通过分享案例引发 AI 行业及政府就新兴生物风险展开讨论，同时强调相关信息也可能用于疫苗研发。