构建用于预警大型语言模型辅助生物威胁创建的系统

OpenAI组织了50位生物学专家和50名生物学学生，测试GPT-4是否有助于用户创造有害的生物武器。团队使用了一个研究版本的GPT-4（它对可以回答的问题没有限制）来完成一系列与制造生物威胁相关的任务。

根据他们的发现，OpenAI正在开发一个“蓝图”，旨在识别和减轻使用其技术创建生物武器时的风险。这是在拜登总统去年签署一项行政命令之后进行的，该命令试图管理人工智能的使用，并防止它产生化学、生物或核风险。