AI 보안 & LLM 취약점

별점: ★★★★★ | ★136회 기출

답안.

Ⅰ. 개요

간접: 웹 페이지·문서에 숨겨진 주입 학습 데이터 조작 → 편향·백도어 삽입 개인정보·기밀을 학습 → 추출 공격

Ⅱ. 핵심 구성요소

LLM01 프롬프트 인젝션:
  악의적 입력으로 LLM 지시 우회
  직접: 사용자가 직접 주입
  간접: 웹 페이지·문서에 숨겨진 주입

LLM02 안전하지 않은 출력 처리:
  LLM 출력을 신뢰하여 코드 실행

LLM03 학습 데이터 중독:
  학습 데이터 조작 → 편향·백도어 삽입

LLM06 민감 정보 노출:
  개인정보·기밀을 학습 → 추출 공격

LLM09 과도한 에이전트 신뢰:
  에이전트에 과도한 권한 → 위험한 동작

[대응]
입력 검증, 출력 필터링, 최소 권한 에이전트
시스템 프롬프트 보호, 가드레일 (Guardrails AI)

[회피 공격 (Evasion Attack)]
사람 눈에 안 보이는 작은 노이즈 추가
  → 모델이 오분류

FGSM (Fast Gradient Sign Method):
  그래디언트 방향으로 노이즈 생성
  판다 이미지 + 노이즈 → 긴팔원숭이로 인식


해당 키워드의 기술적 구성요소와 동작 원리를 서술한다.

### Ⅲ. 특징 및 비교

핵심 기술의 장단점과 유사 기술과의 차이를 분석한다.

### Ⅳ. 적용 사례

실무 환경에서의 적용 사례와 기대효과를 제시한다.

### Ⅴ. 전망

최신 기술 동향과 향후 발전 방향을 서술한다.