Building an early warning system for LLM-aided biological threat creation

LLM이 생물학적 위협 생성에 미치는 영향을 평가하는 초기 경고 시스템 개발.

우리는 LLM(대형 언어 모델)이 생물학적 위협 생성을 도울 수 있는 위험을 평가하는 청사진을 개발하고 있습니다. 생물학 전문가와 학생들이 참여한 평가에서 GPT-4는 생물학적 위협 생성 정확도를 약간 향상시키는 것으로 나타났습니다. 그러나 이 향상이 결론을 내리기에는 충분하지 않아, 우리의 발견은 계속된 연구와 공동체 논의의 출발점이 됩니다.

Developing a blueprint to evaluate LLM's risk in aiding biological threat creation.

We are developing a blueprint for assessing the risk that a large language model (LLM) could assist in the creation of biological threats. In evaluations involving biology experts and students, GPT-4 was found to provide only a mild uplift in the accuracy of biological threat creation. While this uplift is not conclusive, our findings serve as a starting point for further research and community discussion.