AI 어시스턴트 Fiu의 해킹 공개 실험에 2천명이 시도했지만 실패로 돌아갔다.
hackmyclaw.com에서 진행된 공개 실험에서 AI 어시스턴트 Fiu가 해킹을 시도당했다. 총 2,000명이 넘는 사람들이 6,000건 이상의 해킹 시도를 했지만, 시스템의 비밀 정보는 유출되지 않았다. 이 어시스턴트는 VPS에서 실행되며 몇 줄의 프롬프트 인젝션 방지 규칙으로 방어가 이루어졌다.
Over 2,000 attempted to hack AI assistant Fiu in a public experiment, but secrets remained secure.
A public experiment on hackmyclaw.com aimed to trick the AI assistant Fiu into leaking sensitive information. Over 2,000 participants made more than 6,000 hacking attempts, but the secrets remained secure. The assistant runs on a VPS and employs a few lines of prompt injection prevention rules for defense.