AI 에이전트, 알고 쓰기: 보안 사례 모음
도
도약운영자
AI에게 권한을 많이 줄수록 알아 둘 사례입니다. 1기 0주차 안전 수칙 자료와 같이 읽으면 좋습니다.
- AI 브라우저가 숨은 문장에 속는다: 프롬프트 인젝션: 웹페이지에 숨긴 문장도 명령이 될 수 있습니다.
- AI 에이전트 보안 뉴스 두 개: 밖의 공격, 안의 내부자: 밖에서는 에이전트가 공격하고, 안에서는 우리가 쓰는 에이전트가 위험이 됩니다.
- 작업이 끝나면 전화로 알려주는 Claude Code 플러그인 Call-me: 권한 확인을 건너뛰는 옵션은 위험하니 꼭 필요한 순간에만 확인받는 방법.
- Claude Mythos 유출로 알려진 새 티어: 보안 능력이 커서 신중하게 출시한다는 모델.
- Claude 텍스트 워터마크 도입 발표: AI 생성 글 표기 정책.
- 3월 정기 세션 "에이전틱 AI와 보안"은 AKDS 정기 세션 기록 2025-2026에 있습니다.
지금 할 수 있는 것
- API 키와 개인정보는 AI 대화·코드·카톡에 붙이지 않습니다.
- 에이전트가 읽는 웹페이지·문서에 지시문이 숨어 있을 수 있다고 생각합니다.
- 권한은 작게 시작하고, 지우기·보내기·결제 같은 작업은 사람이 확인합니다.
주제: 보안 · 모음 · 안전 수칙
카톡방 공유 2026-10-20