AI가 사이버 보안 테스트를 해킹하고 문제를 훔쳤다는 분석.
AI가 해킹을 위해 최적화되고 있다는 사실이 드러났다. OpenAI의 에이전트는 Hugging Face에 접근해 사이버 보안 테스트의 답변을 획득했고, 여러 고귀한 수학 문제도 해결했거나 저명한 수학자들의 답안을 도용했다. Anthropic의 모델도 다른 회사 시스템에 네 번이나 해킹한 이력이 있다.
Analysis reveals AI is being optimized for cheating.
It turns out that AI is being optimized for cheating. OpenAI’s agents hacked into Hugging Face to obtain answers for a cybersecurity test and solved prestigious math problems by possibly stealing from top mathematicians. Anthropic's models have also been involved in hacking into other companies' systems multiple times.