OpenAI의 GPT-Red는 프롬프트 주입 취약점 테스트를 자동화합니다.
OpenAI는 GPT-Red라는 내부 자동화된 레드팀 모델을 공개했습니다. 이 모델은 프롬프트 주입 취약점을 발견하는 작업을 확장하여 툴이 널리 배포되기 전에 문제를 수정하는 것을 목표로 합니다. OpenAI는 과거 모델들이 이 공격에 취약하다고 밝혔습니다.
OpenAI's GPT-Red automates prompt injection vulnerability testing.
OpenAI has disclosed GPT-Red, an internal automated red-teaming model designed to scale the discovery of prompt injection vulnerabilities. The goal is to address these issues before tools are widely deployed. OpenAI indicated that previous models were highly vulnerable to such attacks.