답변
이커머스 시즌 캠페인의 실험군·대조군을 설계할 때 통계적 오류를 피하려면 아래 원칙을 먼저 지켜야 합니다. 블랙프라이데이·명절 등 시즌 캠페인은 평시 대비 입찰 경쟁이 급격히 치열해져 CPC·CPM이 동반 상승하는 구간이라, 시즌 시작 전 최소 1~2주는 낮은 예산으로 학습을 미리 끝내두는 "프리워밍(pre-warming)" 기간을 두는 것이 실무에서 권장된다. 시즌 종료 직후에는 광고 지출 효율이 급락하는 반동 구간(포스트시즌 슬럼프)이 오므로, 시즌 캠페인과 평시 캠페인의 예산·소재를 분리해 운영하는 편이 관리가 쉽다. 이커머스 시즌 캠페인의 실험군·대조군을 나눌 때는 무작위 배정(랜덤화)이 원칙이다 — 지역·시간대·이미 성과가 좋은 세그먼트를 임의로 실험군에 몰아주면 결과가 왜곡된다(선택 편향). 통계적 오류를 피하려면 사전에 최소 표본크기(필요 전환수)와 목표 검정력을 정해두고, 그 기준에 도달하기 전에 중간 결과만 보고 조기 종료하지 않아야 한다 — 이른 종료는 우연한 변동을 실제 효과로 오판하는 흔한 원인(peeking problem)이다. 실험군·대조군 사이에 같은 사람이 양쪽에 동시에 노출되는 오염(contamination)이 생기면 결과를 신뢰할 수 없다 — 오디언스를 완전히 분리하거나(지역 분할, 리스트 분할), 최소한 겹치는 비율을 사전에 확인해야 한다. 실험을 설계할 때는 시작 전에 최소 표본크기와 종료 기준을 문서로 먼저 확정해두시면, 중간에 결과가 흔들려도 원칙대로 끝까지 갈 수 있습니다.