관련 포스트추천 시스템 협업 필터링 행렬 분해 강화 학습

콜드 스타트(Cold Start)

•

2026년 11월 01일 발행•2026년 11월 01일 수정

요약

상호작용 기록이 부족한 신규 사용자·아이템·시스템에 대해 추천 시스템이 정확한 예측을 하지 못하는 문제

중급

협업 필터링과 행렬 분해의 원리, 임베딩, 밴딧 알고리즘 같은 탐색 기법에 대한 이해가 필요하다.

태그

추천 시스템 협업 필터링 행렬 분해 강화 학습

#개념

콜드 스타트(Cold Start)는 추천 시스템이 상호작용 기록이 거의 없는 사용자나 아이템에 대해 신뢰할 만한 예측을 하지 못하는 문제이다. 과거 행동 데이터에서 패턴을 학습하는 협업 필터링(Collaborative Filtering) 계열 모델에서 특히 두드러지며, 신규 가입자 유입·신상품 등록·신규 서비스 출시 시점에 공통으로 나타난다.

협업 필터링과 행렬 분해(Matrix Factorization)는 사용자와 아이템을 상호작용 행렬의 행과 열로 보고, 관측된 값으로 각자의 잠재 벡터를 학습한다. 상호작용이 없는 행이나 열에는 학습 신호가 전달되지 않으므로 임베딩이 초기값에 머물거나 아예 존재하지 않는다. 몇 건의 상호작용만 있는 경우에도 추정 분산이 커서 예측이 불안정하다. 이런 점에서 콜드 스타트는 데이터 희소성(Sparsity) 문제의 극단적인 형태로 볼 수 있다.

콜드 스타트는 기록이 전혀 없는 완전 콜드 상태와 소수의 상호작용만 있는 부분 콜드 상태로 나눌 수 있으며, 둘은 적합한 해결 기법이 다르다. 완전 콜드 상태에서는 외부 정보에 의존해야 하고, 부분 콜드 상태에서는 적은 관측을 효율적으로 반영하는 기법이 유효하다. 또한 무엇이 새로운지에 따라 활용 가능한 정보와 전략이 달라지므로, 대상을 기준으로 다음과 같이 구분하는 것이 일반적이다.

콜드 스타트의 유형

신규 사용자(New User): 가입 직후이거나 로그인하지 않은 사용자로, 선호를 추정할 행동 기록이 없다. 유입 경로·접속 기기·지역 정도의 맥락 정보만 알 수 있는 경우가 많다.
신규 아이템(New Item): 새로 등록된 상품·콘텐츠로, 아직 클릭이나 구매가 없어 협업 신호만으로는 순위를 매길 수 없다. 노출되지 않으면 상호작용도 쌓이지 않는 악순환이 생긴다.
신규 시스템(New System): 서비스를 막 시작해 사용자와 아이템 모두 기록이 부족한 상태다. 규칙 기반 추천이나 외부 데이터로 초기 추천을 구성하면서 로그를 축적해야 한다.

콜드 스타트의 해결 전략은 크게 협업 신호를 대신할 다른 정보를 쓰는 방법, 사용자에게 직접 정보를 얻는 방법, 노출을 통해 데이터를 빠르게 모으는 방법으로 나뉜다. 실제 서비스에서는 한 가지 전략만 쓰기보다 상호작용이 쌓이는 정도에 따라 여러 전략을 단계적으로 전환하는 경우가 많다. 대표적인 접근은 다음과 같다.

주요 해결 전략

콘텐츠 기반 추천(Content-based Recommendation): 텍스트 설명·이미지·카테고리 같은 아이템 속성으로 유사도를 계산한다. 상호작용이 없어도 속성만 있으면 바로 추천 후보에 넣을 수 있다.
메타데이터·사이드 정보 활용: 브랜드·가격대·판매자·사용자 속성 같은 사이드 정보(Side Information)를 모델 입력에 포함한다. 같은 판매자나 카테고리의 기존 아이템에서 지식을 옮겨 올 수 있다.
인기 기반 대체(Popularity Fallback): 개인화가 불가능한 구간에서 전체·카테고리·지역별 인기 아이템을 보여 준다. 구현이 단순하고 평균적인 성과가 안정적이어서 기본값으로 널리 쓰인다.
온보딩 선호 질문: 가입 과정에서 관심 카테고리나 스타일을 고르게 하거나 몇 개의 아이템을 평가하게 한다. 질문 수가 많으면 이탈이 늘어나므로 정보량이 큰 항목을 적게 묻는 것이 중요하다.
하이브리드(Hybrid) 모델: 협업 신호와 콘텐츠 신호를 하나의 모델에서 함께 학습한다. 기록이 쌓일수록 협업 신호의 비중이 자연스럽게 커진다.

콘텐츠 기반 접근은 사전 학습된 텍스트·이미지 인코더가 발전하면서 더 강력해졌다. 신규 아이템의 설명과 이미지를 기존 아이템과 같은 임베딩(Embedding) 공간에 투영하면 상호작용 없이도 유사 아이템 검색에 쓸 수 있으며, 이를 제로샷 임베딩이라고 부르기도 한다. Google의 추천 시스템 강의는 상호작용이 전혀 없는 아이템의 임베딩을 같은 카테고리나 같은 업로더의 아이템 임베딩 평균으로 추정하는 휴리스틱을 소개한다.

상호작용이 몇 건이라도 생기면 전체 모델을 재학습하지 않고 임베딩을 갱신할 수 있다. 같은 강의는 WALS 모델에서 사용자 임베딩을 고정한 채 신규 아이템의 상호작용 오차를 최소화하는 방식으로 아이템 임베딩만 구하는 방법을 설명한다. 하이브리드 모델의 초기 연구로는 Schein 등(2002)이 내용 데이터와 협업 데이터를 하나의 확률 모델로 결합해 아무도 평가하지 않은 아이템을 추천하는 방법을 제안했다.

노출을 통해 데이터를 모으는 관점에서는 탐색-활용 트레이드오프(Exploration-Exploitation Trade-off)가 핵심이다. 이미 성과가 검증된 아이템만 보여 주면 단기 지표는 안정적이지만 신규 아이템의 진짜 성과를 영영 알 수 없다. 반대로 탐색을 과도하게 하면 사용자 경험과 매출이 떨어진다. 이 균형을 다루는 방법이 다중 슬롯 머신(Multi-Armed Bandit) 알고리즘이며, 대표적인 기법은 다음과 같다.

밴딧 기반 탐색 기법

엡실론 탐욕(ε-greedy): 확률 $\epsilon$으로 무작위 아이템을 노출하고 나머지는 현재 최선의 아이템을 노출한다. 단순하지만 불확실성과 무관하게 탐색한다는 한계가 있다.
상한 신뢰 구간(Upper Confidence Bound, UCB): 추정 보상에 불확실성 보너스를 더한 값으로 선택한다. 노출이 적은 신규 아이템은 보너스가 커서 자연스럽게 탐색 기회를 얻는다.
톰프슨 샘플링(Thompson Sampling): 각 아이템의 보상 사후 분포에서 표본을 뽑아 가장 큰 값을 고른다. 클릭률처럼 이진 보상에서는 베타 분포를 써서 구현이 간단하다.
문맥적 밴딧(Contextual Bandit): 사용자·아이템 특징을 입력으로 보상을 예측하며 탐색한다. Li 등(2010)은 Yahoo! 뉴스 추천에서 문맥 정보 없는 밴딧 대비 클릭이 12.5% 향상되었다고 보고했다.

메타 학습(Meta-learning)은 사용자마다 하나의 학습 과제로 보고, 소수의 예시만으로 빠르게 적응하는 초기값을 학습하는 접근이다. MeLU(Lee 등, 2019)는 이 방식을 추천에 적용해 몇 개의 아이템만 소비한 신규 사용자의 선호를 추정하고, 선호를 잘 구별하는 증거 후보 아이템을 골라 먼저 제시하는 전략도 함께 제안했다.

DropoutNet(Volkovs 등, 2017)은 학습 방식 자체를 바꿔 콜드 스타트에 대응한다. 학습 중 미니배치의 일부 사용자·아이템에 대해 선호 입력을 0으로 지워 콘텐츠 특징만으로 기존 잠재 모델의 점수를 재현하도록 훈련한다. 그 결과 하나의 모델이 기록이 있을 때는 선호 입력을, 없을 때는 콘텐츠 입력을 활용하며, 기존 잠재 모델 위에 덧붙여 쓸 수 있다.

최근에는 대규모 언어 모델(Large Language Model, LLM)을 콜드 스타트에 활용하는 시도도 늘고 있다. 상품명과 설명에서 속성을 추출해 메타데이터 공백을 채우거나, 온보딩 대화에서 사용자의 선호를 자연어로 요약해 검색 질의로 바꾸는 방식이 대표적이다. 다만 생성 결과의 사실성 검증과 호출 비용·지연 시간을 함께 고려해야 한다.

콜드 스타트 성능은 일반적인 무작위 분할로는 제대로 측정되지 않는다. 학습 데이터에 이미 등장한 사용자와 아이템이 평가에도 섞이기 때문이다. 이 경우 지표가 기존 사용자·아이템 위주로 계산되어 신규 구간의 성능 저하가 가려진다. 따라서 평가 설계를 별도로 하는 것이 중요하며, 주로 다음 방법을 쓴다.

콜드 스타트 평가 방법

콜드 분할(Cold Split): 특정 사용자나 아이템의 상호작용을 학습에서 통째로 제외하고 평가에만 사용한다. 시간 기준으로 마지막 기간에 등록된 아이템을 분리하면 실제 운영 상황에 가깝다.
오프라인 지표: Recall@K·NDCG@K 같은 순위 지표를 신규 구간과 기존 구간으로 나누어 비교한다. 신규 아이템이 추천 목록에 포함되는 비율과 카탈로그 커버리지도 함께 본다.
곡선 기반 지표: Schein 등(2002)은 콜드 스타트 추천 평가를 위해 CROC 곡선을 제안했다. 단일 수치보다 추천 수에 따른 성과 변화를 보여 준다.
온라인 실험: A/B 테스트로 신규 사용자 전환율·재방문율과 신상품의 첫 판매까지 걸린 시간을 측정한다. 밴딧 알고리즘은 무작위 노출 로그로 오프라인 재현 평가를 할 수도 있다.

전자상거래에서는 매일 대량의 신상품이 등록되므로 아이템 콜드 스타트가 일상적인 문제다. 신상품은 판매 기록이 없어 협업 모델에서 순위가 낮게 매겨지고, 노출되지 않아 판매 기록이 생기지 않는다. 이를 방치하면 추천 결과가 오래된 인기 상품에 쏠리고, 판매자는 신상품 등록 효과를 체감하지 못해 플랫폼 생태계가 약해진다.

실무에서는 이미지·상품명 임베딩으로 유사한 기존 상품을 찾아 초기 점수를 부여하고, 추천 지면의 일부 슬롯을 신상품 탐색용으로 할당하는 방식을 함께 쓴다. 탐색 슬롯에서는 톰프슨 샘플링 등으로 클릭률을 빠르게 추정하고, 노출 수나 상호작용 수가 일정 기준을 넘으면 일반 협업 모델의 후보로 편입한다. 이때 탐색 트래픽 비율과 편입 기준은 A/B 테스트로 조정한다.

콜드 스타트 대응은 인기 편향(Popularity Bias)과 피드백 루프 문제와도 맞닿아 있다. 모델이 노출한 아이템만 데이터가 쌓이는 구조에서는 초기 노출 기회가 장기 성과를 좌우하므로, 신규 아이템의 노출 점유율과 첫 상호작용까지의 시간을 지속적으로 모니터링해야 한다. 콜드 스타트는 단일 알고리즘보다 콘텐츠 신호·탐색 정책·평가 체계를 함께 설계해야 하는 문제다.

#관련 용어

협업 필터링

사용자들의 과거 상호작용 패턴을 바탕으로 선호를 예측하는 추천 기법

콘텐츠 기반 추천

아이템의 텍스트·이미지·카테고리 같은 속성 유사도로 추천하는 기법

다중 슬롯 머신

탐색과 활용의 균형을 맞추며 보상이 큰 선택지를 찾는 순차적 의사 결정 문제

톰프슨 샘플링

보상의 사후 분포에서 표본을 뽑아 가장 큰 값을 선택하는 밴딧 탐색 기법

메타 학습

소수의 예시만으로 새로운 과제에 빠르게 적응하도록 학습하는 방법

임베딩

사용자·아이템·텍스트 등을 의미를 보존하는 저차원 벡터로 표현한 것

#직무 연관도

Data Analyst보통

신규 사용자 전환율과 신상품 노출·판매 지표를 분석해 탐색 정책의 효과를 평가

Data Scientist밀접

콘텐츠 기반·하이브리드·메타 학습 모델을 설계하고 콜드 스타트 전용 평가 체계를 구성

Data Engineer높음

신규 아이템 임베딩 생성 파이프라인과 탐색 슬롯·밴딧 정책을 서빙 시스템에 구현

#사용 사례

전자상거래미디어인터넷 서비스금융

개요

콜드 스타트 대응은 신규 아이템과 사용자가 끊임없이 유입되는 서비스에서 필수적이다. 전자상거래에서는 신상품 노출과 신규 가입자 개인화에, 미디어에서는 신작 콘텐츠와 신규 구독자 추천에, 인터넷 서비스에서는 비로그인 사용자 추천에, 금융에서는 거래 이력이 없는 신규 고객 대상 상품 추천에 활용된다.

사례

패션 쇼핑 플랫폼이 매일 등록되는 신상품을 이미지·상품명 임베딩으로 기존 유사 상품과 연결해 초기 점수를 부여하고, 추천 지면의 일부 슬롯에서 톰프슨 샘플링으로 클릭률을 추정한 뒤 일정 노출을 넘긴 상품을 협업 필터링 후보로 편입한다.

#참고 자료

DropoutNet: Addressing Cold Start in Recommender Systems

Collaborative filtering advantages & disadvantages

Methods and metrics for cold-start recommendations

LightFM

Vowpal Wabbit

A contextual-bandit approach to personalized news article recommendation

#추천 포스트

이전 포스트

행렬 분해(Matrix Factorization)

다음 포스트

저랭크 적응(Low-Rank Adaptation)

스타 스키마

하나의 팩트 테이블을 중심으로 여러 차원 테이블을 외래키로 연결한 분석용 데이터 모델

로드 밸런싱

대량의 트래픽을 여러 서버에 균등하게 분산하여 시스템의 성능과 가용성을 높이는 기술