후속 학습 경로¶
관심 있는 주제를 찾았다면 아래 목록에서 다음 공부 방향을 고를 수 있다.
최적화를 더 공부하려면¶
- 행렬 미적분과 자동미분
- 손실 지형과 확률적 최적화
- 초기화, 정규화, 규제의 이론과 실험
- 대규모 미니배치 학습과 학습률 조정
NLP·LLM을 더 공부하려면¶
- 토큰화와 언어 모델의 목적 함수
- 트랜스포머 블록의 수식과 구현
- 사전학습, 지시 조정, 선호 학습
- 검색, 도구 사용, 평가와 신뢰성
GNN·MLIP을 더 공부하려면¶
- 그래프 이론과 메시지 전달
- 군 작용, 표현, 불변성·등변성
- 전자 구조 계산으로 만든 기준 데이터
- 에너지 보존형 힘 예측과 분자동역학
- 조성·구조·조건 변화에 대한 분포 밖(OOD) 평가
생성 모델을 더 공부하려면¶
- 최대가능도와 변분추론
- 스코어 매칭, 확률미분방정식(SDE), 상미분방정식(ODE)
- 수치해법과 최적수송
- 자기회귀 모델, GAN, VAE, 확산 모델, 플로의 비교
강화 학습을 더 공부하려면¶
- 마르코프 결정 과정(MDP)과 동적 계획법
- 벨먼 연산자와 시간차 학습
- 정책 기울기 정리
- 오프라인·모델 기반 강화 학습과 평가
PINN·신경 연산자를 더 공부하려면¶
- 수치 편미분방정식: 유한차분법, 유한체적법, 유한요소법, 스펙트럴 방법
- 편미분방정식의 적정성(well-posedness)과 오차 해석
- 함수 공간과 연산자 학습
- PINN의 최적화 실패와 기존 수치해법 비교
다음 자료를 고르는 질문¶
- 나는 구조를 이해하려는가, 수식을 유도하려는가, 구현하려는가?
- 내 문제의 입력과 출력은 어떤 형태인가?
- 단순한 기준 모델과 기존 분야의 방법은 무엇인가?
- 학습 데이터의 범위 밖에서도 사용해야 하는가?
- 정확도 외에 계산·실험 비용과 불확실성을 어떻게 평가할 것인가?