<보기> 중 자연어 처리 모델에 대한 설명으로 옳은 것을 모… | [7급 서울시 인공지능] 26년 1회차 기출문제 상세 페이지
1[7급 서울시 인공지능] 26년 1회차
<보기> 중 자연어 처리 모델에 대한 설명으로 옳은 것을 모두 고른 것은?<보기>ㄱ. Word2Vec의 Skip-gram은 중심 단어로 주변 단어를 예측한다.
ㄴ. 문장 “the cat sat on the mat”에서 bigram(2-gram)을 만들 때 생성되는 bigram의 총 개수는 5개이다. (단, 토큰은 공백 단위로 나눈다.)
ㄷ. Transformer는 순환 구조 없이 셀프 어텐션(self-attention)으로 문맥을 처리한다.
ㄹ. BERT는 양방향 문맥을, GPT는 좌→우 단방향 문맥을 주로 학습한다.
1
ㄱ, ㄴ
2
ㄷ, ㄹ
3
ㄱ, ㄴ, ㄷ
4
ㄱ, ㄴ, ㄷ, ㄹ
해설
ㄱ, ㄴ, ㄷ, ㄹ 모두 옳은 설명이다.
각 항목은 Word2Vec, n-gram, Transformer, BERT·GPT의 핵심 특징을 정확히 서술하고 있다.
- ㄱ: Skip-gram은 중심 단어로 주변 단어를 예측하고, CBOW는 반대로 주변 단어로 중심 단어를 예측한다.
- ㄴ: 토큰이 6개(the, cat, sat, on, the, mat)이므로 연속 2개씩 묶은 bigram은 6 − 1 = 5개이다.
- ㄷ: Transformer는 RNN의 순환 구조 없이 셀프 어텐션으로 모든 위치를 한 번에 참조한다.
- ㄹ: BERT는 마스크 언어 모델로 양방향 문맥을, GPT는 다음 토큰 예측으로 좌→우 단방향 문맥을 학습한다.
오류나 개정된 내용이 보이면 알려주세요