AI 브라우저가 숨은 문장에 속는다: 프롬프트 인젝션
도
도약운영자
웹페이지·댓글·캘린더 초대에 숨긴 문장을 AI 브라우저가 명령으로 실행할 수 있다는 보안 기사 정리입니다.
지난주 토요일 세션 발표자께서 퍼플렉시티에서 만든 Comet이라는 AI 브라우저의 Assistance 기능도 재미있게 소개해주셨는데, 마침 관련해서 흥미로운 보안 기사가 나와서 공유드립니다.
최근 기사에 따르면 AI 브라우저들이 의외로 쉽게 속을 수 있다고 합니다. 단순히 웹페이지나 댓글 속에 숨겨진 문장이, AI에겐 ‘명령’으로 해석될 수 있어서 사용자가 원치 않는 행동—예를 들어 민감한 사이트 접속, 데이터 추출, 이메일 유출 같은 일—을 자동으로 실행해버릴 수 있다는 내용입니다. 숨겨진 문장이나 프롬프트에 취약할 뿐 아니라 대놓고 쓰여져있는 레딧에 댓글도 프롬프트로 여기고 그대로 실행하는 현상도 발견되었다고 하네요.
또한 코멧 뿐 아니라 구글 Gemini AI도 비슷한 방식으로 공격받을 수 있다고 합니다. 예를 들어 캘린더 초대 제목에 교묘한 히든 명령을 넣어두면, Gemini가 그걸 수행해서 스마트홈 기기를 제어하거나 이메일 정보를 빼낼 수 있다는 기사 내용도 있었습니다.
AI 브라우저가 점점 똑똑해지고 유용해지는 만큼, 이런 보안 취약점에 대한 경각심도 같이 가져야 할 것 같습니다!
주제: 보안 · AI 브라우저 · 안전 수칙
카톡방 공유 2025-08-27