<보기>에서 공격자가 사용한 공격 기법으로 가장 옳은 것은?… | [7급 서울시 정보보호론] 26년 1회차 기출문제 상세 페이지
1[7급 서울시 정보보호론] 26년 1회차
<보기>에서 공격자가 사용한 공격 기법으로 가장 옳은 것은?<보기>
공격자는 목표 인공지능 모델의 내부 파라미터(parameter)와 학습 데이터에는 접근할 수 없으나, 목표 모델에 입력을 질의하고 그에 대한 예측 결과를 얻을 수 있다. 공격자는 대량의 입력을 질의하여 얻은 입력-분류 결과 쌍을 학습 데이터로 사용하여, 목표 모델의 기능을 모방하는 대체 모델(substitute model)을 학습하였다. 이후 공격자는 목표 모델에 대한 추가 질의를 보내거나 API 사용료를 지불하지 않고도, 대체 모델을 이용해 목표 모델과 유사한 서비스를 자체적으로 제공할 수 있었다.
1
데이터 오염 공격(data poisoning attacks)
2
멤버십 추론 공격(membership inference attacks)
3
모델 추출 공격(model extraction attacks)
4
모델 역전 공격(model inversion attacks)
해설
질의-응답 쌍으로 목표 모델의 기능을 복제한 대체 모델을 학습했으므로 모델 추출 공격이다.
내부 파라미터에 접근하지 못해도 API 질의 결과만으로 모델을 모방해 지식재산을 탈취하는 블랙박스 공격이다.
- 데이터 오염 공격은 학습 데이터에 악성 데이터를 섞어 모델의 성능이나 동작을 왜곡하는 공격이다.
- 멤버십 추론 공격은 특정 데이터가 학습 데이터에 포함되었는지 여부를 알아내는 공격이다.
- 모델 역전 공격은 모델의 출력으로부터 학습 데이터의 민감한 원본 정보를 복원하는 공격이다.
오류나 개정된 내용이 보이면 알려주세요