다음 LLM(Large Language Model, 대형언어모델)에 대… | [법원직 9급 전산·사서 정보보호론] 25년 1회차 기출문제 상세 페이지
1[법원직 9급 전산·사서 정보보호론] 25년 1회차
다음 LLM(Large Language Model, 대형언어모델)에 대한 공격 중 기존 LLM의 콘텐츠 제한 정책을 우회하는 프롬프트를 생성하여 LLM이 의도하지 않은 작업을 실행하도록 유도하는 공격은?
1
프롬프트 인젝션(Prompt Injection)
2
부적절한 출력 처리(Improper Output Handling)
3
시스템 프롬프트 노출(System Prompt Leakage)
4
허위 정보(Misinformation)
해설
설명에 해당하는 공격은 프롬프트 인젝션(Prompt Injection)이다.
공격자가 제한 정책을 우회하도록 프롬프트를 조작해 LLM이 의도하지 않은 작업을 수행하게 만드는 것이 핵심이다.
- 부적절한 출력 처리는 LLM의 출력을 검증 없이 후속 시스템에 전달해 생기는 문제다.
- 시스템 프롬프트 노출은 모델에 설정된 내부 지시 내용이 외부로 드러나는 문제다.
- 허위 정보는 LLM이 사실이 아닌 내용을 그럴듯하게 만들어 내는 문제다.
오류나 개정된 내용이 보이면 알려주세요