미군, AI 환각으로 만들어진 정보 보고서 활용하다 위기 겪어

미군이 AI의 허위 정보로 인해 위기를 겪었다.

미군은 중국 선박에 핵무기 프로그램 관련 부품이 실렸다는 잘못된 정보에 기반하여 차단 작전을 준비했다. 그러나 작전 직전에 AI가 화물을 잘못 식별한 사실을 알아냈고, 이로 인해 큰 위기를 겪었다. 특수작전사령부의 분석관은 공개출처정보와 기밀 신호정보를 결합한 결과 AI의 신뢰성에 의문이 제기되었다.

The US military faced a crisis due to misinformation created by AI.

The US military prepared a blockade operation based on false information asserting that a Chinese vessel carried components for a nuclear weapon program. However, just before the operation, they verified that the AI had misidentified the cargo, leading to a significant crisis. Analysts at the Special Operations Command combined open-source information with classified signal intelligence, raising questions about the reliability of AI.