13. 과학 학습 문제의 구성¶

이 장의 질문¶

과학 문제를 학습 문제로 바꿀 때 무엇을 먼저 정해야 할까?

AI4Science는 특정 모형의 이름이 아니다. 과학 질문과 관측·시뮬레이션 데이터, 알려진 법칙, 수치해석, 불확실성, 계산비용을 함께 고려해 학습 문제를 설계하는 분야다. 앞에서 배운 입력, 출력, 표현, 손실, 기준 모델, 일반화라는 기준으로 과학 문제를 다시 정리해 보자. 새로운 방법을 볼 때는 다음 질문부터 던져야 한다.

어떤 과학적 양을 어떤 조건에서 예측하며, 알려진 구조는 어디에 들어가고, 무엇과 비교해 유효성을 판단하는가?

읽기 수준과 선수지식 확인

읽기 전에 확인할 내용¶

계산법보다 각 항목이 문제 정의에서 맡는 역할을 먼저 확인한다.

단위와 차원: 물리량의 의미와 식의 일관성을 확인한다.
좌표와 기준 좌표계: 표현이 이동이나 회전에 따라 어떻게 변하는지 정한다.
초기조건과 경계조건: 미분방정식의 해를 특정한다.
보존 법칙과 대칭성: 가능한 해와 모형의 동작을 제약한다.
수치 풀이법: 방정식을 근사 계산하는 기존 방법이며 중요한 기준 모델이다.

1. 먼저 과학 질문을 고정한다¶

분자에 AI를 적용한다나 PDE를 딥러닝으로 푼다는 아직 충분한 문제 정의가 아니다. 최소한 다음 항목을 명시해야 한다.

분석 단위는 원자 구조, 분자, 물질, 공간장, 시계열 중 무엇인가
입력은 측정값, 구조, 방정식 계수, 초기 조건 중 무엇인가
출력은 스칼라 물성, 범주, 장, 궤적, 구조 중 무엇인가
학습 신호는 실험, 시뮬레이션, 지배 방정식, 자기지도 목적 함수 중 어디에서 오는가
실제 사용 조건은 보간, 새로운 조성, 새로운 기하 구조, 더 긴 시간 중 무엇인가
틀렸을 때 발생하는 과학적 또는 운영상 비용은 무엇인가

같은 모형 구조도 이 정의에 따라 전혀 다른 연구 문제가 된다. 예를 들어 압력을 고정한 구조들의 에너지를 예측하는 문제와 새로운 압력 영역에서 안정한 상을 찾는 문제는 평가 분할과 필요한 근거가 다르다.

2. 정문제와 역문제¶

순전파 문제는 원인이나 조건에서 결과를 계산한다. PDE 계수와 경계 조건에서 해의 장을 구하거나 원자 구조에서 에너지를 예측하는 경우가 이에 해당한다.

역문제는 관측된 결과에서 원인, 매개변수, 구조를 추정한다. 측정 신호에서 물질 매개변수를 추정하거나 목표 물성을 만족하는 구조를 찾는 경우다.

역문제는 여러 원인이 비슷한 관측을 만들 수 있어 해가 하나가 아니거나 작은 노이즈에 민감할 수 있다. 이때 단일 지점 예측만 제시하면 가능한 해의 다양성과 불확실성을 숨길 수 있다. 생성 모형, 베이지안 추론, 규제 등이 연결되는 이유다.

정문제와 역문제는 모형 구조로 구분되는 것이 아니다. 같은 신경망도 입력과 출력, 목적 함수를 바꾸면 다른 문제에 사용될 수 있다.

3. 대리 모델은 무엇을 대신하는가¶

과학 계산은 높은 정확도의 시뮬레이션이나 반복 실험 때문에 비쌀 수 있다. 대리 모델은 기존 계산이나 실험의 입출력 관계를 근사해 반복 쿼리를 빠르게 처리하려 한다.

대리 모델을 평가할 때는 테스트 오차만으로 충분하지 않다.

기준 수치 풀이법이나 실험의 비용까지 포함해 훈련 데이터 생성비용을 계산했는가
모형 훈련 비용을 포함했는가
한 번만 예측하는가, 수천 번 반복 추론하는가
원하는 정확도에서 전체 실제 경과 시간이 실제로 줄었는가
근사 오차가 이후 최적화나 시뮬레이션에서 누적되는가

신경망 대리 모델이 한 번의 추론에서 빠르더라도 데이터 생성과 훈련 비용을 회수할 만큼 반복 사용하지 않으면 전체 비용상 이점이 없을 수 있다.

핵심 흐름 펼쳐보기: 데이터, 과학 지식, 평가 설계

4. 데이터는 어디에서 오는가¶

과학 학습 데이터는 크게 관측값, 실험, 시뮬레이션에서 온다.

관측값 데이터에는 센서 노이즈, 결측값, 선택 편향, 기기별 차이가 있을 수 있다.
실험 데이터는 실험 절차, 배치, 작업자, 보정에 따라 달라질 수 있다.
시뮬레이션 데이터는 수치 풀이법, 이산화, 수렴 기준, 힘장, 교환-상관 범함수 같은 계산 선택을 반영한다.

시뮬레이션 레이블도 자연의 완전한 참값이 아니다. 모형은 기준 방법의 근사를 학습한다. 기준 계산의 설정과 오차 범위를 기록하지 않으면 모형 오차와 레이블 오차를 구분하기 어렵다.

데이터 출처 이력에는 출처뿐 아니라 생성 조건, 소프트웨어 버전, 전처리, 제외 기준, 분할 규칙이 포함되어야 한다. FAIR 원칙은 데이터가 찾기 쉽고, 접근 가능하며, 상호운용되고, 재사용 가능하도록 관리하는 공통 출발점이다.

5. 알려진 과학 지식을 어디에 넣는가¶

과학적 사전 지식은 여러 위치에 들어갈 수 있다.

입력과 표현: 무차원 변수, 거리, 그래프, 기저 함수를 사용한다.
모형 구조: 국소성, 대칭성, 등변성, 보존 법칙과 양립하는 구조를 반영한다.
손실: 방정식 잔차, 보존 오차, 경계 조건 위반을 벌점으로 둔다.
출력 매개변수화: 양의 물리량이나 에너지 기울기처럼 필요한 관계를 구조적으로 만든다.
데이터 생성과 증강: 대칭적으로 동등한 샘플이나 알려진 허용 가능한 영역을 활용한다.
후처리: 예측을 제약 집합에 투영한다.

물리 정보 기반라는 레이블만으로 어떤 지식이 어떻게 사용되었는지 알 수 없다. 논문에서는 사전 지식의 위치와 강도, 틀릴 수 있는 가정, 절제 실험을 확인해야 한다.

다음 세 표현은 문헌에서 일관되게 쓰이지 않을 수 있지만 문제를 읽는 질문으로는 유용하다.

데이터 기반: 주된 학습 신호가 입출력 데이터에서 온다.
물리 정보 기반: 방정식이나 물리 관계를 손실 또는 훈련 절차에 추가한다.
물리 제약 또는 구조 보존: 모형 구조나 출력 형식이 특정 성질을 만족하도록 설계된다.

6. 앞에서 배운 모형 구조를 과학 문제에 연결하기¶

과학 데이터도 구조를 가진다. 중요한 것은 분야 이름과 모형 구조를 일대일로 외우지 않는 것이다.

CNN은 규칙 격자의 국소성과 이동 구조를 활용해 장 데이터나 현미경 이미지를 처리할 수 있다.
트랜스포머는 장거리 상호작용, 시퀀스, 집합, 다중양식 데이터를 표현하는 기반망이 될 수 있다.
GNN은 원자, 결합, 격자망처럼 관계가 중요한 데이터에 적합한 귀납 편향을 제공한다.
VAE, 확산, 플로 매칭은 가능한 구조나 장의 분포를 모델링하고 역설계 후보를 생성하는 데 연결될 수 있다.
RL은 순차적 실험 설계나 제어에 연결될 수 있지만 모든 과학 ML 문제의 필수 단계는 아니다.

모형 구조는 학습 문제의 한 요소일 뿐이다. 같은 GNN이라도 스칼라 물성 회귀, 힘 예측, 구조 생성, 정책 모형은 입력, 출력, 목적 함수가 다르다.

7. 보간과 분포 외 조건을 구분한다¶

무작위 분할은 전체 데이터셋에서 샘플을 무작위로 나누므로 훈련과 테스트의 분포가 매우 비슷할 수 있다. 실제 사용이 새로운 화학적 조성, 결정 원형, 온도, 기하 구조, 장비, 시간 영역에 대한 예측이라면 무작위 분할 성능은 그 질문에 답하지 못한다.

분할은 배치 환경의 질문과 맞아야 한다.

새로운 구조를 다룰 것인가
새로운 조성 또는 화학종을 다룰 것인가
학습 범위를 벗어난 온도, 압력, 시간을 다룰 것인가
새로운 기하 구조나 경계 조건을 다룰 것인가
다른 실험실, 장비, 시뮬레이터로 옮길 것인가

OOD는 하나의 단일 평가 지표가 아니다. 어떤 축으로 분포가 바뀌는지 명시해야 한다. 외삽이 중요하면 해당 축을 의도적으로 분리한 테스트 데이터와 실패 범위를 보고해야 한다.

8. 기준 모델은 무엇이어야 하는가¶

과학 문제의 기준 모델에는 기계학습 모형만 두면 부족할 수 있다.

단순 평균, 선형 모형, 최근접 이웃
해당 데이터 구조에 맞는 기존 ML 방법
축소 차수 모형이나 경험적 퍼텐셜
확립된 수치 풀이법
단순한 물리 기반 근사
추가 계산 없이 사용할 수 있는 기존 데이터베이스 또는 경험적 규칙

새 모형의 평균 오차가 더 작더라도 훈련 비용, 메모리, 강건성, 해석 가능성, 구현 복잡도를 고려하면 기존 방법이 더 적합할 수 있다. 비교 조건에는 하드웨어, 정밀도, 허용오차, 전처리, 데이터 예산을 포함해야 한다.

9. 과학적 타당성은 하나의 테스트 오차가 아니다¶

과학적 평가는 여러 층으로 나누는 편이 안전하다.

예측 평가 지표: MAE, RMSE, 분류 스코어 등 직접적인 예측 오차
제약 점검: 단위, 대칭성, 보존, 경계 조건, 허용 범위
후속 검증: 구조 이완, 궤적, 상 거동, 제어처럼 실제 사용 과제
강건성: 노이즈, 해상도, 난수 초깃값, OOD 조건, 적대적하지 않은 작은 섭동
효율성: 데이터 생성, 훈련, 추론, 메모리, 에너지 비용
재현성: 데이터 출처 이력, 코드, 하이퍼파라미터, 난수 초깃값, 환경

평균 오차는 드문 치명적 실패를 숨길 수 있다. 오차 분포, 최악 사례 영역, 영역별 하위 집단, 불확실성과 오차의 관계를 함께 살펴야 한다.

10. 불확실성과 보정¶

불확실성 추정치는 모델이 언제 자신 없어 하는지를 나타내려는 시도다. 보정은 비슷한 신뢰도를 가진 예측들의 실제 성공률이나 오차가 신뢰도와 맞는지를 묻는다.

불확실성은 자동으로 정확하거나 OOD를 탐지하지 않는다. 앙상블, 베이지안 근사, 등각 예측 등 방법마다 가정과 산출물이 다르다. 실제 의사결정에서는 다음을 확인한다.

불확실성이 어떤 종류의 변동을 표현하는가
OOD 조건에서 오차와 함께 커지는가
새로운 데이터를 선택하는 능동 학습 기준으로 유용한가
잘못된 확신을 줄이는 보정 검증이 있는가

이 과정에서는 방법을 구현하지 않고 평가 질문으로만 위치를 알아둔다.

이 장에서 기억할 내용¶

AI4Science에서는 모형 구조 선택 전에 과학 질문, 데이터 출처, 사전 지식, 실제 배치 조건을 고정한다.
시뮬레이션 레이블도 기준 방법의 가정과 오차를 가진다.
알려진 과학 지식은 표현, 모형 구조, 손실, 출력, 데이터 생성에 서로 다른 방식으로 들어갈 수 있다.
분할과 평가 지표는 실제 사용에서 만날 분포 변화와 후속 목적을 반영해야 한다.
ML 기준 모델뿐 아니라 수치 방법과 전체 계산비용을 비교해야 한다.

이름과 위치만 알아둘 내용¶

다중 충실도 학습
능동 학습과 베이지안 최적화
미분 가능한 시뮬레이션
축소 차수 모델링
불확실성 정량화와 보정
인과 추론과 개입
디지털 트윈

자주 하는 혼동과 한계

자주 생기는 혼동과 한계¶

물리 법칙을 넣으면 항상 좋아지는가¶

아니다. 법칙의 적용 범위가 틀리거나 손실 크기가 부적절하면 학습을 방해할 수 있다. 어떤 사전 지식을 어디에 넣었는지와 데이터 전용 모형과의 절제 실험을 함께 봐야 한다.

방정식 잔차가 작으면 해 오차도 작은가¶

항상 그렇지 않다. 샘플링 지점, 최적화, PDE 특성, 노름에 따라 작은 잔차와 관심 물리량의 작은 오차가 일치하지 않을 수 있다. 14장에서 PINN의 핵심 한계로 다시 본다.

무작위 테스트 성능이 좋으면 새로운 과학 조건에도 일반화하는가¶

아니다. 무작위 분할은 비슷한 샘플 사이의 보간 능력을 주로 측정할 수 있다. 실제 변화 축을 분리한 평가가 필요하다.

빠른 추론이면 전체 작업 흐름도 빨라지는가¶

아니다. 데이터 생성, 훈련, 실패 시 재계산, 불확실성 확인까지 포함한 전체 비용을 비교해야 한다.

생성물이 그럴듯하면 발견으로 볼 수 있는가¶

아니다. 신규성 확인, 물리적 실현 가능성, 높은 정확도의 재계산, 실험 검증이 필요하다. 생성은 후보 제안 단계일 뿐이다.

앞뒤 장과의 연결¶

1장: 입력, 목표값, 손실, 평가 지표, 기준 모델의 공통 틀을 과학 문제에 적용한다.
3장: 최적화 안정성과 일반화는 물리 손실이 있어도 사라지지 않는다.
5장부터 8장: 데이터 기하 구조와 귀납 편향이 과학 표현을 결정한다.
9장부터 11장: 생성 모델은 역설계의 후보 분포를 만들 수 있다.
12장: RL은 순차적 제어와 실험 선택이라는 별도 분기로 연결된다.
14장: PDE 문제에서 방정식과 짝지은 데이터를 사용하는 두 구성을 비교한다.
15장: 원자 규모 구조의 대칭성과 에너지-힘 관계를 모형에 넣는다.

스스로 확인하기¶

과학 문제의 무작위 분할 성능과 실제 OOD 일반화가 서로 다른 질문인 이유는 무엇인가?
물리 사전 지식은 표현, 모델 구조, 손실에 들어갈 때 각각 어떤 의미를 갖는가?
빠른 모형 추론만으로 전체 과학 작업 흐름의 가속을 주장하기 어려운 이유는 무엇인가?
생성된 과학 후보를 실제 발견으로 받아들이기 전에 어떤 검증 층이 필요한가?

더 읽을 자료¶

Karniadakis et al., Physics-informed machine learning, Nature Reviews Physics 2021: https://doi.org/10.1038/s42254-021-00314-5
US Department of Energy, AI for Science Report: https://www.anl.gov/ai-for-science-report
Wilkinson et al., The FAIR Guiding Principles for scientific data management and stewardship, Scientific Data 2016: https://doi.org/10.1038/sdata.2016.18
National Academies, Automated Research Workflows for Accelerated Discovery in Science: https://doi.org/10.17226/26532

이 자료들은 AI4Science의 범위와 데이터 관리를 보는 출발점이다. 개별 과학 주장에는 해당 분야의 기준 방법, 실험 절차, 벤치마크 원문을 추가로 확인해야 한다.