시작 전에 확인하기

이 자료는 딥러닝을 처음 접하는 사람도 읽을 수 있도록 썼다. 아래 개념이 모두 낯설다면 필요한 부분만 먼저 짧게 복습하자. 계산이나 증명에 능숙할 필요는 없지만, 각 개념의 뜻을 자신의 말로 설명할 수 있으면 좋다.

먼저 확인할 세 영역

선형대수

• 벡터와 행렬의 차이, 행과 열, 배열의 크기(shape)를 읽을 수 있다.
• 내적을 같은 위치의 값을 곱해 더하는 연산으로 설명할 수 있다.
• 행렬 곱셈이 여러 가중합을 한꺼번에 계산한다는 점을 안다.
• 노름과 거리가 벡터의 크기와 차이를 재는 방법임을 안다.

미적분

• 함수와 합성함수의 입력과 출력을 찾을 수 있다.
• 미분을 입력의 작은 변화가 출력에 미치는 영향으로 설명할 수 있다.
• 편미분과 기울기가 여러 매개변수의 변화 방향을 나타낸다는 점을 안다.
• 연쇄법칙이 합성함수의 변화율을 연결한다는 점을 안다.

확률과 통계

• 평균, 분산, 공분산이 각각 무엇을 요약하는지 안다.
• 확률변수와 확률분포를 구분할 수 있다.
• 조건부확률 \(p(a\mid b)\)에서 세로선 오른쪽이 주어진 조건임을 안다.
• 정규분포, 베르누이분포, 범주형분포의 쓰임을 대략 구분한다.

모르는 항목이 있다면 수학 기초 빠른 복습에서 해당 탭만 읽는다.

주제에 따라 나중에 필요한 것

처음부터 전부 공부할 필요는 없다. 관심 있는 장으로 갈 때 아래 개념을 확인한다.

읽으려는 주제	먼저 익힐 개념	요구 수준
차원 축소, VAE	고유값과 고유벡터, 특잇값분해, 확률밀도, KL 발산	이름과 역할
확산 모델, 플로 매칭	정규분포 잡음, 벡터장, 상미분방정식	그림으로 경로를 읽는 수준
강화 학습	조건부기댓값, 마르코프 성질, 할인합	정의를 문장으로 설명하는 수준
GNN, MLIP	그래프, 3차원 좌표, 회전·이동·순열, 불변성과 등변성	변환 전후 출력을 비교하는 수준
PINN, 신경 연산자	미분방정식, 초기조건·경계조건, 푸리에 변환, 함수와 연산자	입력과 출력의 종류를 구분하는 수준

각 장의 먼저 확인할 개념에서도 필요한 복습 위치를 다시 안내한다.

프로그래밍은 지금 필수가 아니다

현재 자료는 개념을 읽고 연결하는 데 초점을 둔다. Python이나 딥러닝 프레임워크를 실행하지 않아도 된다. 추후 선택 실습을 진행할 때 다음 정도가 필요하다.

• Python의 변수, 함수, 반복문, 조건문
• NumPy 배열의 기본 연산과 브로드캐스팅
• 명령행에서 프로그램을 실행하고 파일 경로를 찾는 방법
• 그래프와 간단한 수치 결과를 읽는 방법

실습이 추가되면 해당 실습 페이지에서 환경 준비 방법을 별도로 안내한다.

빠른 시작 점검

다음 세 문장을 자신의 말로 바꾸어 설명해 본다.

1. 입력 벡터와 가중치 벡터의 내적은 하나의 점수를 만든다.
2. 손실 함수의 기울기는 매개변수를 어느 방향으로 바꿀지 알려 준다.
3. 훈련 데이터에서 잘 맞는 것과 새로운 데이터에 일반화하는 것은 다르다.

세 문장의 뜻을 대략 설명할 수 있다면 1. 학습 문제의 구성부터 시작하자. 막히는 문장만 수학 복습 페이지에서 확인하면 된다.