모형을 읽는 다섯 질문

각 장에서는 아래 다섯 질문을 되풀이한다. 서로 다른 모형을 비교하거나 처음 보는 논문을 읽을 때도 그대로 쓸 수 있다.

1. 문제와 데이터

• 입력 한 개는 무엇인가?
• 출력은 예측값, 생성 샘플, 행동 중 무엇인가?
• 데이터는 벡터, 격자, 시퀀스, 그래프, 장 중 무엇인가?
• 레이블 또는 다른 학습 신호는 어디에서 오는가?

2. 표현과 구조

• 모형은 입력을 어떤 내부 표현으로 바꾸는가?
• 지역성, 순서, 연결 관계, 대칭성 중 어떤 구조를 가정하는가?
• 그 가정은 모형 구조, 특성, 손실 함수 중 어디에 들어가는가?

3. 학습

• 목적 함수는 무엇을 작게 또는 크게 만드는가?
• 기울기는 어떻게 계산되는가?
• 어떤 옵티마이저가 매개변수를 갱신하는가?
• 훈련과 샘플링·추론은 어떻게 다른가?

4. 평가

• 가장 단순한 기준 모델은 무엇인가?
• 어떤 평가 지표가 실제 목표를 나타내는가?
• 훈련·검증·테스트 데이터는 어떤 기준으로 나누는가?
• 새로운 조건이나 분포 변화에서도 작동해야 하는가?
• 정확도뿐 아니라 계산시간·메모리·데이터 비용은 어떠한가?

5. 적용 범위

• 이 방법이 잘 맞는 조건은 무엇인가?
• 무엇을 보장하지 않는가?
• 대표적인 실패 양상은 무엇인가?
• 더 깊게 공부하려면 어떤 선수 개념이 필요한가?

각 장을 읽으며 이 질문에 대한 답을 찾아보자. 답은 도입부의 핵심 요약과 혼동·한계·연결 부분에 나누어 담겨 있다.