Microsoft built a prompt injection detector. Then it caught a phishing campaign instead.

마이크로소프트의 프롬프트 주입 탐지기가 피싱 캠페인을 포착했다.

마이크로소프트는 기계가 텍스트를 읽는 방식의 취약점을 이용한 피싱 캠페인을 탐지했다. 이 캠페인은 보이지 않는 문자와 같은 기술을 사용하여 공격자들이 악성 링크를 포함시킴으로써 발생했다. 마이크로소프트의 탐지기가 이 공격을 포착하였다는 것은 AI 시스템의 보안이 더욱 중요함을 보여준다.

Microsoft's prompt injection detector caught a phishing campaign.

Microsoft flagged a phishing campaign that exploits a gap in how machines read text. The attackers used techniques like invisible characters to embed malicious links. This incident highlights the increasing importance of security in AI systems.