관련 포스트딥러닝 파국적 망각 전이 학습 MLOps

지속 학습(Continual Learning)

•

2026년 11월 15일 발행•2026년 11월 15일 수정

요약

순차적으로 주어지는 데이터나 작업을 학습하면서 이전 지식을 유지하고 새 지식을 누적하는 학습 패러다임

고급

신경망 학습과 미세 조정, 파국적 망각에 대한 이해가 필요하며, 시나리오별 실험 설계와 평가 지표를 해석할 수 있어야 한다.

태그

딥러닝 파국적 망각 전이 학습 MLOps

#개념

지속 학습(Continual Learning)은 데이터나 작업이 시간에 따라 순차적으로 주어지는 환경에서, 이전에 익힌 지식을 유지하면서 새로운 지식을 계속 누적하는 학습 패러다임이다. 평생 학습(Lifelong Learning) 또는 증분 학습(Incremental Learning)이라고도 하며, 한 번 학습하고 고정하는 일반적인 모델과 달리 배포 이후에도 변화하는 환경에 적응하는 것을 목표로 한다.

일반적인 지도 학습은 전체 학습 데이터를 한꺼번에 모아 독립 동일 분포(i.i.d.)를 가정하고 여러 에폭에 걸쳐 섞어 학습한다. 그러나 실제 서비스에서는 새로운 클래스, 새로운 사용자 행동, 새로운 도메인의 데이터가 계속 도착하며, 과거 데이터를 모두 보관하거나 매번 처음부터 재학습하는 것은 저장 공간·연산 비용·개인정보 측면에서 부담이 크다.

지속 학습이 해결해야 할 핵심 문제는 파국적 망각(Catastrophic Forgetting)이다. 공유 가중치를 새 데이터로만 갱신하면 이전 작업의 성능이 급격히 떨어지며, 이를 막으려고 갱신을 억제하면 새 작업을 배우지 못하는 안정성-가소성 딜레마(Stability-Plasticity Dilemma)가 생긴다. 망각의 원인과 EWC·LwF 같은 개별 완화 기법의 수식은 파국적 망각 문서에서 다루고, 이 문서는 지속 학습이라는 문제 설정 전체에 초점을 둔다.

지속 학습의 목표는 망각 방지만이 아니다. 이전 작업에서 얻은 지식으로 새 작업을 더 빨리 배우는 순전이(Forward Transfer), 새 작업 학습이 오히려 이전 작업 성능을 높이는 긍정적 역전이(Backward Transfer), 그리고 작업 수가 늘어도 메모리와 연산이 감당 가능한 수준에 머무는 확장성까지 함께 요구된다.

van de Ven과 Tolias는 2019년에 지속 학습 실험 설정을 세 가지 시나리오로 정리하였고, 2022년 Nature Machine Intelligence 논문에서 이를 증분 학습의 세 유형으로 확장하였다. 구분 기준은 추론 시점에 작업(문맥) 정보가 주어지는지, 그리고 모델이 그 정보를 스스로 추론해야 하는지이다.

지속 학습의 세 가지 시나리오

작업 증분 학습(Task-Incremental Learning): 추론 시 입력이 어느 작업에 속하는지 알려 준다. 작업별 출력 헤드 같은 작업 전용 구성 요소를 쓸 수 있어 가장 쉬운 설정이다.
도메인 증분 학습(Domain-Incremental Learning): 문제 구조와 출력 클래스는 같고 입력 분포만 바뀐다. 추론 시 문맥 정보는 없지만, 출력 공간이 같으므로 문맥을 알 필요도 없다.
클래스 증분 학습(Class-Incremental Learning): 단계마다 새로운 클래스가 추가되고, 모델은 지금까지 본 모든 클래스 중에서 정답을 골라야 한다. 각 단계 내부의 구분과 어느 단계의 클래스인지에 대한 추론을 모두 해야 하므로 가장 어렵다.

지속 학습 방법은 이전 지식을 어디에 보존하느냐에 따라 크게 세 계열로 나눈다. 각 계열의 세부 기법과 수식은 파국적 망각 문서에서 설명하므로 여기서는 계열별 특징과 절충 관계만 정리한다.

방법 계열과 절충 관계

정칙화 기반(Regularization-based): 손실 함수에 이전 지식을 보존하는 벌점이나 증류 항을 더한다. 과거 데이터를 저장하지 않아도 되지만, 작업 수가 많아지거나 클래스 증분 시나리오에서는 효과가 크게 줄어든다.
리플레이 기반(Replay-based): 과거 표본을 버퍼에 보관하거나 생성 모델로 만들어 새 데이터와 섞어 학습한다. 시나리오 전반에서 강력하지만 메모리 예산과 개인정보 제약을 고려해야 한다.
구조 기반(Architecture-based): 작업마다 파라미터 일부를 격리하거나 모듈을 추가한다. 망각을 구조적으로 막지만 작업 정보가 필요하거나 모델 크기가 계속 커지는 경우가 많다.

온라인 지속 학습(Online Continual Learning)은 데이터가 스트림 형태로 들어와 각 표본을 한 번만 보고 바로 갱신해야 하는 더 엄격한 설정이다. 작업 경계가 명확하지 않은 경우도 많아, 작업 전환 시점에 중요도를 계산하는 방식보다 작은 리플레이 버퍼를 계속 갱신하는 방식이 주로 쓰인다. 이 설정에서는 정확도뿐 아니라 갱신당 연산 시간과 메모리 사용량도 함께 평가한다.

Lopez-Paz와 Ranzato는 2017년 GEM(Gradient Episodic Memory) 논문에서 작업 $j$까지 학습한 뒤 작업 $i$의 테스트 정확도 $R_{j,i}$로 구성된 행렬을 기반으로 평가 지표를 정의하였다. 이 지표들은 현재 대부분의 지속 학습 연구와 라이브러리에서 표준처럼 사용된다.

주요 평가 지표

평균 정확도(ACC): 마지막 작업까지 학습한 뒤 모든 작업의 정확도 평균 $\frac{1}{T}\sum_{i=1}^{T}R_{T,i}$이다.
역전이(BWT): $\frac{1}{T-1}\sum_{i=1}^{T-1}(R_{T,i}-R_{i,i})$로, 이후 학습이 이전 작업에 준 영향을 나타낸다. 음수이면 망각이 일어났다는 뜻이다.
순전이(FWT): $\frac{1}{T-1}\sum_{i=2}^{T}(R_{i-1,i}-\bar{b}_i)$로, 작업 $i$를 학습하기 전 성능이 무작위 초기화 모델의 성능 $\bar{b}_i$보다 얼마나 높은지를 측정한다.

대표 벤치마크로는 MNIST를 숫자 두 개씩 다섯 개 문맥으로 나눈 Split MNIST, 작업마다 고정된 픽셀 순열을 적용한 Permuted MNIST, CIFAR-100을 열 개 클래스씩 열 개 문맥으로 나눈 Split CIFAR-100이 있다. 같은 벤치마크라도 작업·도메인·클래스 증분 중 어느 시나리오로 평가하느냐에 따라 방법 간 순위가 크게 달라지므로, 결과를 비교할 때는 시나리오를 반드시 명시해야 한다.

대규모 언어 모델(Large Language Model)에서는 사전 학습이 끝난 모델을 새로운 말뭉치로 이어서 학습하는 지속 사전 학습(Continual Pre-training)이 중요한 주제가 되었다. Gururangan 등은 2020년 ACL 논문에서 목표 도메인 텍스트로 사전 학습을 이어 가는 DAPT(Domain-Adaptive Pretraining)와 과제의 레이블 없는 데이터로 이어 가는 TAPT(Task-Adaptive Pretraining)가 미세 조정 성능을 높인다는 것을 보였다.

지속 사전 학습에서도 새 도메인 적응과 기존 일반 능력 보존 사이의 균형이 문제가 된다. 실무에서는 이전 사전 학습 분포의 데이터를 일정 비율 섞는 리플레이, 학습률을 다시 올렸다가 낮추는 스케줄 조정, 지식 갱신이 잦은 부분은 검색 증강 생성으로 분리하는 설계를 함께 검토한다.

추천·검색·광고 같은 운영 모델의 주기적 재학습도 지속 학습의 한 형태로 볼 수 있다. 최신 데이터로 이어서 학습하는 증분 학습은 비용이 낮고 데이터 드리프트(Data Drift)에 빠르게 대응하지만, 계절성 패턴이나 드문 사용자 선호를 잊을 위험이 있다. 반대로 전체 재학습은 안정적이지만 비용과 반영 지연이 크다.

운영 환경에서 지속 학습을 적용할 때는 다음을 함께 설계한다.

운영 적용 시 고려 사항

학습 방식 조합: 짧은 주기의 증분 학습과 긴 주기의 전체 재학습을 병행하여 적응 속도와 안정성을 함께 확보한다.
과거 데이터 표본 유지: 장기 패턴과 희소 구간을 대표하는 표본을 버퍼로 유지해 증분 학습 시 섞는다.
회귀 평가: 최신 데이터 평가와 함께 과거 구간·주요 세그먼트 평가셋으로 성능 저하 여부를 배포 전에 검증한다.
버전 관리와 롤백: 갱신된 모델과 학습 데이터 범위를 기록하고, 성능이 떨어지면 이전 버전으로 되돌릴 수 있게 한다.

오픈소스 도구로는 ContinualAI의 Avalanche가 벤치마크 스트림, 사전 구현된 전략, ACC·BWT·망각 지표를 포함한 평가 플러그인을 PyTorch 기반으로 제공한다. aimagelab의 Mammoth는 여러 지속 학습 방법과 데이터셋을 같은 설정에서 비교하는 연구용 벤치마크 프레임워크로, 모듈식 구조여서 새 방법이나 데이터셋을 추가해 기존 방법과 같은 조건에서 비교하기 쉽다.

정리하면 지속 학습은 순차적으로 도착하는 데이터에서 망각을 억제하면서 새 지식을 누적하는 문제 설정이며, 시나리오 정의와 평가 지표를 명확히 하는 것이 출발점이다. 정칙화·리플레이·구조 기반 방법은 시나리오와 메모리 제약에 따라 선택하며, LLM의 지속 사전 학습과 운영 모델의 증분 재학습에서 실용적인 의미가 커지고 있다.

#관련 용어

파국적 망각

새 작업을 순차 학습할 때 이전에 학습한 지식을 급격히 잃어버리는 현상

클래스 증분 학습

단계마다 새 클래스가 추가되고 작업 정보 없이 전체 클래스 중에서 분류해야 하는 지속 학습 시나리오

역전이(BWT)

이후 작업 학습이 이전 작업 성능에 준 영향을 평균한 평가 지표

경험 리플레이

과거 표본을 버퍼에 보관해 새 데이터와 함께 다시 학습하는 기법

지속 사전 학습

사전 학습이 끝난 언어 모델을 새 도메인 말뭉치로 이어서 사전 학습하는 방식

데이터 드리프트

운영 중 입력 데이터의 분포가 학습 시점과 달라지는 현상

#직무 연관도

Data Analyst낮음

모델 갱신 이후 세그먼트별 성능 변화를 해석하는 데 참고하는 개념

Data Scientist밀접

지속 학습 시나리오 설계, 망각 완화 방법 비교, 평가 지표 해석에 직접 관련

Data Engineer높음

증분 재학습 파이프라인, 리플레이 버퍼 관리, 회귀 평가와 롤백 체계 구축에 필요

#사용 사례

전자상거래인터넷 서비스자율주행금융제조

개요

지속 학습은 데이터 분포와 대상 클래스가 계속 바뀌는 산업에서 활용된다. 전자상거래와 인터넷 서비스에서는 추천·검색 모델의 증분 재학습과 LLM의 도메인 지속 사전 학습에, 자율주행에서는 새로운 지역·기상 조건 데이터의 추가 학습에, 금융에서는 변화하는 이상 거래 패턴 대응에, 제조에서는 신규 불량 유형이 추가되는 검사 모델 갱신에 쓰인다.

사례

커머스 추천 모델을 매일 최신 행동 로그로 증분 학습하면서 과거 시즌의 대표 표본을 리플레이 버퍼로 섞고, 과거 구간 평가셋으로 회귀 검증을 통과한 모델만 배포하여 신상품 반영 속도와 장기 선호 보존을 함께 확보