후속 학습 경로

이 페이지는 survey에서 관심 주제를 발견한 뒤 무엇을 더 공부해야 하는지 안내한다.

Optimization을 더 공부하려면

• Matrix calculus와 automatic differentiation
• Optimization landscape와 stochastic optimization
• Initialization, normalization, regularization의 이론과 실험
• Large-batch training과 learning-rate scheduling

NLP·LLM을 더 공부하려면

• Tokenization과 language-model objective
• Transformer block의 수식과 구현
• Pretraining, instruction tuning, preference learning
• Retrieval, tool use, evaluation과 reliability

GNN·MLIP을 더 공부하려면

• Graph theory와 message passing
• Group action, representation, invariance/equivariance
• Electronic-structure reference data
• Energy-conserving force prediction과 molecular dynamics
• Composition/structure/condition OOD evaluation

생성모델을 더 공부하려면

• Maximum likelihood와 variational inference
• Score matching, SDE와 ODE
• Numerical solver와 optimal transport
• Autoregressive model, GAN, VAE, diffusion, flow의 비교

Reinforcement Learning을 더 공부하려면

• MDP와 dynamic programming
• Bellman operator와 temporal-difference learning
• Policy-gradient theorem
• Offline/model-based RL과 evaluation

PINN·Neural Operator를 더 공부하려면

• Numerical PDE: finite difference, finite volume, finite element, spectral method
• PDE well-posedness와 error analysis
• Function spaces와 operator learning
• PINN optimization failure와 numerical baseline 비교

다음 자료를 고르는 질문

• 나는 구조를 이해하려는가, 수식을 유도하려는가, 구현하려는가?
• 내 문제의 입력과 출력은 어떤 형태인가?
• 단순 baseline과 기존 domain method는 무엇인가?
• 학습 데이터의 범위 밖에서도 사용해야 하는가?
• 정확도 외에 계산·실험 비용과 불확실성을 어떻게 평가할 것인가?