25년 1회차

설명에 해당하는 학습 유형은 강화 학습이다.

에이전트가 환경의 상태를 인식해 행동을 고르고, 그 결과로 받는 보상의 누적값을 최대화하도록 정책을 학습하는 방식이다.

• 지도 학습: 입력과 정답(레이블)의 쌍으로 입력→출력 대응을 학습하며 보상 개념이 없다.
• 비지도 학습: 레이블 없이 데이터의 구조·군집을 찾는다.
• 앙상블 학습: 여러 모델의 예측을 결합해 성능을 높이는 기법으로, 학습 유형의 구분이 아니다.

옳은 것은 실제 음성 중 음성으로 판정한 비율을 특이도라 한다는 설명이다.

$\mathrm{Specificity} = \dfrac{\mathrm{TN}}{\mathrm{TN}+\mathrm{FP}}$이다.

• 양성 판정 중 실제 양성의 비율은 재현율이 아니라 정밀도이다.
• 실제 양성 중 양성으로 판정한 비율은 위양성율이 아니라 재현율(민감도)이다. 위양성율은 실제 음성 중 양성으로 잘못 판정한 비율이다.
• 좋은 분류기는 민감도가 크고 위양성율이 작아야 하므로 설명의 방향이 반대이다.

이 데이터 세트의 지니 계수는 0.48이다.

지니 계수는 $G = 1 - \sum_i p_i^2$이며, 합격 비율은 $0.6$, 불합격 비율은 $0.4$이다.

$G = 1 - (0.6^2 + 0.4^2) = 1 - (0.36 + 0.16) = 0.48$

이진 분류에서 두 부류가 반반이면 최댓값 0.5, 한 부류뿐이면 0이 되며, 6:4 구성은 비교적 고르게 섞여 0.5에 가깝다.

평균제곱오차를 최소화하는 계수를 구하는 방법은 최소제곱법이다.

최소제곱법은 잔차 제곱합 $\sum_i (y_i - \hat{y}_i)^2$을 최소로 하는 계수를 구하며, 이는 MSE 최소화와 같다. 선형 회귀에서는 정규방정식 $\hat{\beta} = (X^{\top}X)^{-1}X^{\top}y$로 해가 구해진다.

• 주성분 분석법: 분산이 최대인 방향으로 차원을 축소하는 비지도 기법이다.
• 선형 판별 분석법: 클래스 간 분리를 최대화하는 투영을 찾는 분류·차원축소 기법이다.
• 최소우도법: 우도 기반 추정은 우도를 최대화하는 최대우도법이며, 오차 제곱합을 직접 최소화하는 방법이 아니다.

시간성을 갖는 데이터에 유용한 신경망은 RNN(순환 신경망)이다.

RNN은 이전 시점의 은닉 상태를 다음 시점 입력과 함께 사용하는 순환 구조로, 앞의 문맥 정보를 누적해 문맥 의존성을 처리한다.

• CNN: 합성곱으로 국소적·공간적 특징을 추출하며 주로 이미지 처리에 쓴다.
• KNN: 가장 가까운 k개 이웃으로 분류·회귀하는 거리 기반 기법으로 신경망이 아니다.
• MLP: 순환 연결이 없는 순방향 완전연결 신경망이라 시점 간 정보를 유지하지 못한다.

옳지 않은 것은 맹목적 탐색이 상태 공간 정보를 이용한다는 설명이다. 맹목적 탐색은 문제 영역의 정보(휴리스틱)를 쓰지 않는다.

상태 공간 정보를 이용해 유망한 노드부터 펼치는 것은 정보이용 탐색(휴리스틱 탐색)이다.

• 깊이 우선 탐색은 현재 경로 위주로 저장해 메모리 부담이 적지만, 먼저 찾은 해가 최단 경로라는 보장이 없다.
• 너비 우선 탐색은 깊이별로 생성된 노드를 모두 저장해야 하므로 메모리 비용이 크다.
• 반복적 깊이 심화 탐색은 깊이 한계를 0부터 늘려 가며 깊이 우선 탐색을 반복하므로, 단계 수 기준 최단 경로를 보장한다.

옳지 않은 것은 내용 기반 추천에 메모리 기반·모델 기반 방법이 있다는 설명이다. 메모리 기반·모델 기반으로 나뉘는 것은 협업 기반 추천이다.

협업 필터링은 사용자-아이템 평가 데이터를 직접 쓰는 메모리 기반(사용자 기반·아이템 기반)과 행렬 분해 등으로 모델을 학습하는 모델 기반으로 나뉜다. 이력이 없는 신규 사용자·아이템에서 생기는 콜드 스타트는 협업 기반의 대표적 약점이다.

• 아이템 기반 추천은 이전에 구매한 아이템과 유사한 다른 아이템을 추천한다.
• 사용자 기반 추천은 성향이 비슷한 사용자의 데이터를 바탕으로 추천한다.
• 추천 시스템은 콘텐츠 내용이나 사용자 성향 정보를 바탕으로 개인화된 항목을 추천한다.

옳지 않은 것은 추론 엔진이 경합 해소→패턴 매칭→규칙 실행 순으로 반복한다는 설명이다. 올바른 순서는 패턴 매칭→경합 해소→규칙 실행이다.

먼저 작업 메모리의 사실과 규칙 조건부를 비교해 실행 가능한 규칙들(경합 집합)을 찾아야 그중 하나를 고를 수 있으므로, 경합 해소는 패턴 매칭 다음에 온다.

• 경합 해소는 실행 가능한 여러 규칙 중 하나를 선택하는 과정이다.
• 전향 추론은 조건부를 만족하는 사실이 있으면 결론부를 실행해 새 사실을 도출한다.
• 후향 추론은 확인할 사실을 결론부에 가진 규칙을 찾아 그 조건부가 만족되는지 거슬러 확인한다.

옳지 않은 것은 실제 비용 $g(n)$이 탐색이 진행됨에 따라 감소할 수 있다는 설명이다. $g(n)$은 시작 노드부터의 누적 경로 비용이다.

간선 비용은 0 이상이므로 자식 노드의 $g$는 부모의 $g$에 간선 비용을 더한 값이 되어, 경로가 깊어질수록 감소하지 않는다.

• $\mathrm{A}^{*}$의 평가함수는 $f(n) = g(n) + h(n)$이다.
• 휴리스틱이 실제 남은 비용을 과대평가하지 않으면 허용성을 만족한다.
• 허용성을 만족하는 휴리스틱을 쓰면 $\mathrm{A}^{*}$는 최적해를 찾는다.

민감도·정확도·위양성율을 곱한 값은 $\dfrac{9}{50}$이다.

표에서 $\mathrm{TP}=40,\ \mathrm{FN}=10,\ \mathrm{FP}=15,\ \mathrm{TN}=35$이고 전체는 100건이다.

민감도 $= \dfrac{40}{40+10} = \dfrac{4}{5}$
정확도 $= \dfrac{40+35}{100} = \dfrac{3}{4}$
위양성율 $= \dfrac{15}{15+35} = \dfrac{3}{10}$

$\dfrac{4}{5} \times \dfrac{3}{4} \times \dfrac{3}{10} = \dfrac{36}{200} = \dfrac{9}{50}$
위양성율의 분모는 실제 음성 전체임에 유의한다.

옳지 않은 것은 데이터 증강을 저차원으로 압축하는 인코더 모델로 학습한다는 설명이다. 데이터 증강은 기존 데이터를 변형해 학습 데이터를 늘리는 기법이다.

이미지의 회전·뒤집기·자르기·잡음 추가처럼 레이블을 유지한 변형본을 만들어 과적합을 줄인다. 입력을 저차원으로 압축하는 인코더 구조는 오토인코더에 해당한다.

• 군집화와 밀도추정은 레이블 없이 데이터 분포를 다루므로 비지도 학습에 속한다.
• 지도 학습 데이터는 입력과 기대 출력(레이블)의 쌍으로 구성된다.
• 기계 학습은 명시적 프로그래밍 없이 데이터로부터 학습하는 능력을 컴퓨터에 부여하는 기술이다.

옳은 것은 ㄱ, ㄷ이다.

생성자는 진짜가 아닌 가짜 데이터를 만들어 판별자가 이를 진짜로 착각하도록 학습한다. 따라서 진짜 데이터를 만들고 판별자가 가짜라고 속을 때까지 학습한다는 ㄴ은 방향이 뒤바뀌었다.

• ㄱ: 생성자와 판별자는 서로 상대를 이기려는 적대적 관계로 함께 훈련된다.
• ㄷ: 판별자는 훈련 데이터는 진짜로, 생성자가 만든 데이터는 가짜로 판별하도록 학습한다.

결합 확률 $P(A \cap B)$는 0.05이다.

흡연하면서 암환자인 사람은 표에서 3명이고, 전체는 60명이다.

$P(A \cap B) = \dfrac{3}{60} = 0.05$

조건부 확률 $P(B \mid A) = \dfrac{3}{18}$과 혼동하지 않도록 분모를 전체 인원으로 잡는다.

옳지 않은 것은 최소지지도와 최소신뢰도가 항목 간 불순도를 표현한다는 설명이다. 두 값은 연관 규칙의 빈발성과 신뢰성을 거르는 임계값이다.

최소지지도는 빈발 항목집합을 고르는 하한, 최소신뢰도는 의미 있는 규칙을 고르는 하한이다. 불순도는 결정 트리 분할에서 지니 계수·엔트로피로 재는 개념이다.

• 데이터 마이닝은 대용량 데이터에서 의미 있는 상관관계·패턴·추세를 발견한다.
• 전처리 단계에서 데이터를 정제·통합해 잡음과 불일치를 제거하고 데이터 웨어하우스에 저장한다.
• 데이터 마이닝은 암묵적이고 알려지지 않은, 잠재적으로 유용한 지식을 추출하는 체계적 과정이다.

(가)에 들어갈 학습 방법은 메타 학습이다.

메타 학습은 학습하는 방법을 학습하는 것으로, 여러 관련 작업에서 학습 전략을 익혀 새 작업을 적은 데이터로 빠르게 학습하게 한다.

• 연합 학습: 데이터를 한곳에 모으지 않고 각 기기에서 학습한 모델 갱신만 서버에서 집계하는 분산 학습이다.
• 강화 학습: 환경과 상호작용하며 보상을 최대화하는 행동 정책을 학습한다.
• 표현 학습: 원시 데이터에서 유용한 특징(표현)을 자동으로 학습한다.

옳지 않은 것은 엔트로피가 균등하게 섞일수록 작아진다는 설명이다. 엔트로피는 부류가 균등하게 섞일수록 커진다.

$H = -\sum_i p_i \log_2 p_i$는 한 부류만 있으면 0이고, 두 부류가 반반이면 최댓값 1이 된다. 즉 엔트로피는 불순도가 클수록 커진다.

• 결정 트리 알고리즘에는 ID3, C4.5, C5.0, CHAID, CART 등이 있다.
• ID3는 범주형 속성 데이터에서 엔트로피 기반 정보 이득으로 분할 속성을 고른다.
• 정보 이득은 속성으로 나눴을 때 엔트로피가 얼마나 줄어드는지로 분류에 적합한 속성인지를 측정한다.

옳지 않은 설명은 (다)는 과적합이므로 모델 복잡도를 더 높여야 한다는 진술이다. 과적합은 복잡도를 낮춰야 개선된다.

그래프에서 (가)는 직선 모델이 곡선 형태의 참 함수를 따라가지 못하는 과소적합, (나)는 모델이 참 함수와 거의 겹치는 적절한 적합, (다)는 모델이 표본점을 지나치게 따라가며 크게 출렁이는 과적합이다.

과적합은 훈련 오차는 낮지만 검증 오차가 높은 상태로, 모델 단순화·정규화·데이터 증강·조기 종료 등으로 복잡도를 억제해야 성능이 향상된다.

• (가)는 표현력이 부족한 과소적합이라 훈련 오차와 검증 오차가 모두 높다는 설명은 옳다.
• (나)는 훈련·검증 오차가 모두 낮고 차이가 작아 일반화가 잘 되고 있다는 설명은 옳다.
• 과적합은 학습 데이터 성능은 뛰어나지만 일반화 성능을 보장할 수 없다는 설명은 옳다.

출력 노드 B의 소프트맥스 값은 약 0.23이다.

소프트맥스는 $\sigma(z_B) = \dfrac{e^{z_B}}{e^{z_A} + e^{z_B} + e^{z_C}}$이다.

$e = 3$을 대입하면 $e^{3} = 27,\ e^{2} = 9,\ e^{1} = 3$이다.
$\sigma(z_B) = \dfrac{9}{27 + 9 + 3} = \dfrac{9}{39} \approx 0.23$

출력 전체의 합이 1이 되도록 지수값을 정규화하는 것이 핵심이다.

옳지 않은 것은 TF가 특정 단어가 등장한 문서의 수라는 설명이다. TF는 한 문서 안에서 특정 단어가 등장한 횟수이다.

특정 단어가 등장한 문서의 수는 DF(문서 빈도)이며, IDF는 전체 문서 수를 DF로 나눈 값에 로그를 취해 흔한 단어의 가중치를 낮춘다.

• N-gram은 문자열에서 연속된 N개의 요소(문자·단어) 묶음이다.
• 원-핫 인코딩은 단어 수만큼 차원이 늘어나 저장 공간이 커지고 벡터가 희소해진다.
• Word2Vec은 비슷한 문맥에 나오는 단어는 의미가 비슷하다는 분포 가설에 기반해 단어를 밀집 벡터로 표현한다.

옳지 않은 것은 시그모이드를 쓰면 ReLU보다 계산시간이 줄어든다는 설명이다. 실제로는 ReLU가 더 빠르다.

ReLU는 $\max(0, x)$로 비교 연산만 하면 되지만, 시그모이드 $\dfrac{1}{1+e^{-x}}$는 지수 연산이 필요하다. 또 시그모이드는 기울기 소실로 학습이 느려지기 쉽다.

• CNN도 경사 하강법 기반 역전파로 가중치(필터)를 학습한다.
• 분류 문제에 쓰면 마지막 층은 클래스 확률을 내는 소프트맥스층으로 구성한다.
• 풀링층은 합성곱층 출력을 받아 특징맵 크기를 줄이고 주요 특징을 추린다.

옳은 것은 ㄴ, ㄷ이다.

로지스틱 회귀는 선형 결합을 시그모이드로 변환해 0~1 사이 확률로 출력하며, 이는 오즈에 로그를 취한 로짓을 선형식으로 놓는 것과 같다. 계수는 최소제곱법이 아니라 최대우도추정으로 구한다.

• ㄱ: 로지스틱 회귀는 대표적인 이진 분류 알고리즘이므로 틀리다.
• ㄴ: 예측값을 시그모이드 함수로 변환하므로 옳다.
• ㄷ: 종속변수의 오즈에 로그를 취하는 로짓 변환을 사용하므로 옳다.
• ㄹ: 최적해는 최대우도추정(교차 엔트로피 최소화)으로 구하므로 틀리다.

퍼지 합집합은 두 소속도 중 큰 값을 취하는 $\max(\mu_A(x), \mu_B(x))$이다.

자데(Zadeh)의 표준 연산에서 합집합은 max, 교집합은 min, 여집합은 $1 - \mu_A(x)$이며, 결과 소속도는 0~1 범위를 유지한다.

• 두 소속도의 합은 1을 넘을 수 있어 소속도가 될 수 없다.
• 두 소속도의 곱은 교집합 연산의 한 형태(대수적 곱)이다.
• 두 소속도의 min은 교집합 연산이다.

F1 점수는 약 0.57이다.

실젯값과 예측값을 비교하면 $\mathrm{TP}=2,\ \mathrm{FP}=1,\ \mathrm{FN}=2,\ \mathrm{TN}=3$이다.

정밀도 $= \dfrac{2}{2+1} = \dfrac{2}{3}$
재현율 $= \dfrac{2}{2+2} = \dfrac{1}{2}$

$F_1 = \dfrac{2 \times \frac{2}{3} \times \frac{1}{2}}{\frac{2}{3} + \frac{1}{2}} = \dfrac{2}{3} \div \dfrac{7}{6} = \dfrac{4}{7} \approx 0.57$
F1은 정밀도와 재현율의 조화평균이다.

옳지 않은 것은 단어들의 역할을 파악해 계층적 트리 구조로 변환한다는 설명이다. 이는 구문 분석(파싱)에 해당한다.

품사 태깅은 문장의 각 단어에 명사·동사 같은 품사 태그를 붙이는 작업으로, 트리 구조를 만들지 않는다.

• 품사 태깅은 각 단어에 품사 범주와 문법적 기능 태그를 붙인다.
• 태깅 규칙 작성과 통계적 학습에는 컴퓨터가 읽을 수 있는 말뭉치를 사용한다.
• 규칙 기반 품사 태깅은 언어 지식으로 수작업 작성한 규칙을 적용한다.

옳은 것은 ㄱ, ㄹ이다.

ㄴ과 ㄷ은 정의가 서로 뒤바뀌었다. 전체 거래 중 X와 Y를 모두 포함하는 비율은 지지도, X를 포함한 거래 중 Y도 포함하는 비율은 신뢰도이다.

• ㄱ: 향상도가 1보다 크면 X와 Y가 양의 연관을 가져 규칙이 유용하다.
• ㄴ: 설명한 내용은 신뢰도가 아니라 지지도이므로 틀리다.
• ㄷ: 설명한 내용은 지지도가 아니라 신뢰도이므로 틀리다.
• ㄹ: Apriori로 빈발 항목집합을 찾은 뒤 이로부터 연관 규칙을 생성한다.